GPU Cloud
RTX PRO 6000, dédiée.
Une machine NVIDIA RTX PRO 6000 Blackwell Server Edition mono-GPU, 96 Go de GDDR7 avec ECC sur l'architecture Blackwell, sur un hôte x86. 1,89 $ de l'heure, facturé à la minute, aux mêmes conditions que toutes les autres offres GPUwerk.
Louée au premier arrivé, premier servi : déployez une RTX PRO 6000 quand de la capacité est libre, ou rejoignez sa liste d'attente dans la console.
Caractéristiques
Par nœud. Chaque instance GPUwerk, quelle que soit l'offre, est une machine entière rien que pour vous.
| GPU | RTX PRO 6000 Blackwell Server Edition, architecture Blackwell |
|---|---|
| Mémoire | 96 Go GDDR7 avec ECC |
| Bande passante mémoire | 1 597 Go/s |
| Cœurs CUDA | 24 064 |
| Puissance max. | Jusqu'à 600 W, configurable |
| MIG | Jusqu'à 4 instances de 24 Go |
| Héberger | Hôte x86 |
| Occupation | Un client par machine, jamais partagée |
Chiffres GPU tirés de NVIDIA RTX PRO 6000 Blackwell Server Edition. GPUwerk ne publie de chiffres de tok/s et de débit d'entraînement que pour des tests sur son propre matériel. Voir les benchmarks de la flotte DGX Spark pour la façon dont ils sont présentés.
Que feriez-vous tourner dessus ?
96 Go sur une seule carte, avec des Tensor Cores de cinquième génération qui exécutent du FP4.
Modèles de classe 70B sur un seul GPU
Un modèle 70B en FP8 tient dans 96 Go avec un peu de place pour le cache KV, sans le répartir sur plusieurs GPU.
Inférence FP4
Blackwell exécute le FP4 nativement : un modèle 4 bits jusqu'à environ 192B paramètres tient donc, rien qu'en poids.
Graphisme et IA sur une seule carte
Des RT cores et un grand frame buffer pour le rendu ou la simulation à côté du travail sur les modèles.
Peu adapté : entraînement multi-GPU
Elle n'a pas de NVLink : un job qui a besoin de plusieurs GPU échangeant rapidement des données relève d'un serveur 8 GPU.
Plusieurs tâches plus petites
MIG divise la carte en jusqu'à quatre GPU isolés de 24 Go, pour servir plusieurs modèles à la fois.
Ce qui tient dans 96 Go
Poids seuls : mémoire divisée par les octets par paramètre. Prévoyez de la marge pour le cache KV, les activations et le runtime, souvent 10 à 30 % de plus.
| Précision | Par paramètre | Plus grand modèle, poids seuls |
|---|---|---|
| FP16 / BF16 | 2 octets | environ 48B paramètres |
| FP8 | 1 octet | environ 96B paramètres |
| FP4 (natif sur Blackwell) | 0,5 octet | environ 192B paramètres |
Facturation
| Tarif | 1,89 $ de l'heure, facturé à la minute |
|---|---|
| Facturation | À la minute, sur un solde de crédit prépayé |
| Frais | Pas de frais de trafic sortant |
| Engagement | Aucun |
Les prix sont en USD, hors taxes applicables. Le fonctionnement complet de la facturation, y compris l'effet d'un arrêt par rapport à une suppression, est détaillé sur la page des tarifs.
FAQ
Puis-je louer une RTX PRO 6000 dès maintenant ?
Déployez-la depuis la console quand de la capacité est libre ; tant qu'il n'y en a pas, la console propose une liste d'attente et les personnes inscrites sont prévenues par e-mail une à une, de la plus ancienne à la plus récente. La capacité n'est réservée à personne : le premier qui déploie l'obtient.
Comment fonctionne la facturation pour cette offre ?
Comme pour toutes les offres GPUwerk : à la minute, sur un solde de crédit prépayé, en USD, hors taxes applicables, sans frais de trafic sortant et sans engagement.
Besoin de temps GPU aujourd'hui ?
Un DGX Spark dispose de 128 Go de mémoire unifiée et se loue dès maintenant, à 0,79 $/heure facturé à la minute. Première recharge : payez 20 $ recevez 30 $ de crédit. Voyez comment un DGX Spark se compare, ou rejoignez la liste d'attente RTX PRO 6000.