GPU Cloud

RTX PRO 6000, dédiée.

Une machine NVIDIA RTX PRO 6000 Blackwell Server Edition mono-GPU, 96 Go de GDDR7 avec ECC sur l'architecture Blackwell, sur un hôte x86. 1,89 $ de l'heure, facturé à la minute, aux mêmes conditions que toutes les autres offres GPUwerk.

Louée au premier arrivé, premier servi : déployez une RTX PRO 6000 quand de la capacité est libre, ou rejoignez sa liste d'attente dans la console.

Caractéristiques

Par nœud. Chaque instance GPUwerk, quelle que soit l'offre, est une machine entière rien que pour vous.

NVIDIA RTX PRO 6000 Blackwell Server Edition
GPURTX PRO 6000 Blackwell Server Edition, architecture Blackwell
Mémoire96 Go GDDR7 avec ECC
Bande passante mémoire1 597 Go/s
Cœurs CUDA24 064
Puissance max.Jusqu'à 600 W, configurable
MIGJusqu'à 4 instances de 24 Go
HébergerHôte x86
OccupationUn client par machine, jamais partagée

Chiffres GPU tirés de NVIDIA RTX PRO 6000 Blackwell Server Edition. GPUwerk ne publie de chiffres de tok/s et de débit d'entraînement que pour des tests sur son propre matériel. Voir les benchmarks de la flotte DGX Spark pour la façon dont ils sont présentés.

Que feriez-vous tourner dessus ?

96 Go sur une seule carte, avec des Tensor Cores de cinquième génération qui exécutent du FP4.

Modèles de classe 70B sur un seul GPU

Un modèle 70B en FP8 tient dans 96 Go avec un peu de place pour le cache KV, sans le répartir sur plusieurs GPU.

Inférence FP4

Blackwell exécute le FP4 nativement : un modèle 4 bits jusqu'à environ 192B paramètres tient donc, rien qu'en poids.

Graphisme et IA sur une seule carte

Des RT cores et un grand frame buffer pour le rendu ou la simulation à côté du travail sur les modèles.

Peu adapté : entraînement multi-GPU

Elle n'a pas de NVLink : un job qui a besoin de plusieurs GPU échangeant rapidement des données relève d'un serveur 8 GPU.

Plusieurs tâches plus petites

MIG divise la carte en jusqu'à quatre GPU isolés de 24 Go, pour servir plusieurs modèles à la fois.

Ce qui tient dans 96 Go

Poids seuls : mémoire divisée par les octets par paramètre. Prévoyez de la marge pour le cache KV, les activations et le runtime, souvent 10 à 30 % de plus.

Plus grand modèle, poids seuls, sur une RTX PRO 6000
PrécisionPar paramètrePlus grand modèle, poids seuls
FP16 / BF162 octetsenviron 48B paramètres
FP81 octetenviron 96B paramètres
FP4 (natif sur Blackwell)0,5 octetenviron 192B paramètres

Facturation

Tarif1,89 $ de l'heure, facturé à la minute
FacturationÀ la minute, sur un solde de crédit prépayé
FraisPas de frais de trafic sortant
EngagementAucun

Les prix sont en USD, hors taxes applicables. Le fonctionnement complet de la facturation, y compris l'effet d'un arrêt par rapport à une suppression, est détaillé sur la page des tarifs.

FAQ

Puis-je louer une RTX PRO 6000 dès maintenant ?

Déployez-la depuis la console quand de la capacité est libre ; tant qu'il n'y en a pas, la console propose une liste d'attente et les personnes inscrites sont prévenues par e-mail une à une, de la plus ancienne à la plus récente. La capacité n'est réservée à personne : le premier qui déploie l'obtient.

Comment fonctionne la facturation pour cette offre ?

Comme pour toutes les offres GPUwerk : à la minute, sur un solde de crédit prépayé, en USD, hors taxes applicables, sans frais de trafic sortant et sans engagement.

Besoin de temps GPU aujourd'hui ?

Un DGX Spark dispose de 128 Go de mémoire unifiée et se loue dès maintenant, à 0,79 $/heure facturé à la minute. Première recharge : payez 20 $ recevez 30 $ de crédit. Voyez comment un DGX Spark se compare, ou rejoignez la liste d'attente RTX PRO 6000.