GPU Cloud
H200, dédiée.
Un GPU NVIDIA H200 unique, 141 Go HBM3e sur l'architecture Hopper, sur un hôte x86. 3,49 $ de l'heure, facturé à la minute, aux mêmes conditions que toutes les autres offres GPUwerk.
Louée au premier arrivé, premier servi : déployez une H200 quand de la capacité est libre, ou rejoignez sa liste d'attente dans la console.
Caractéristiques
Par GPU. Le GPU et sa mémoire sont à vous seul pendant la location.
| GPU | H200 SXM, architecture Hopper |
|---|---|
| Mémoire | 141 Go HBM3e |
| Bande passante mémoire | 4,8 To/s |
| Puissance max. | Jusqu'à 700 W |
| MIG | Jusqu'à 7 instances de 18 Go |
| Héberger | Hôte x86 |
| Occupation | Le GPU est à vous seul pendant la location, jamais partagé |
Chiffres GPU tirés de NVIDIA H200. GPUwerk ne publie de chiffres de tok/s et de débit d'entraînement que pour des tests sur son propre matériel. Voir les benchmarks de la flotte DGX Spark pour la façon dont ils sont présentés.
Que feriez-vous tourner dessus ?
La puissance de calcul de la H100 avec 76 % de mémoire en plus : des modèles plus grands sur un seul GPU et plus de place pour le cache KV.
Modèles de classe 70B avec un long contexte
Un modèle 70B en FP8 tient en laissant environ 70 Go pour le cache KV : prompts plus longs et davantage de requêtes simultanées.
Modèles jusqu'à environ 140B en FP8
Des poids qui nécessitent deux H100 tiennent sur une seule H200.
Fine-tuning
Fine-tunings complets et LoRA sur des modèles qui ne tiennent pas dans 80 Go.
Peu adapté : FP4 natif
Hopper n'a pas de FP4 ; pour de l'inférence 4 bits à la vitesse de Blackwell, louez une B200 ou une B300.
Besoin de plusieurs GPU reliés par NVLink ? Voir le serveur 8× H200.
Ce qui tient dans 141 Go
Poids seuls : mémoire divisée par les octets par paramètre. Prévoyez de la marge pour le cache KV, les activations et le runtime, souvent 10 à 30 % de plus.
| Précision | Par paramètre | Plus grand modèle, poids seuls |
|---|---|---|
| FP16 / BF16 | 2 octets | environ 70B paramètres |
| FP8 | 1 octet | environ 141B paramètres |
| Quantifié en 4 bits | 0,5 octet | environ 282B paramètres (pas de FP4 natif sur Hopper ; le runtime déquantifie) |
Facturation
| Tarif | 3,49 $ de l'heure, facturé à la minute |
|---|---|
| Facturation | À la minute, sur un solde de crédit prépayé |
| Frais | Pas de frais de trafic sortant |
| Engagement | Aucun |
Les prix sont en USD, hors taxes applicables. Le fonctionnement complet de la facturation, y compris l'effet d'un arrêt par rapport à une suppression, est détaillé sur la page des tarifs.
FAQ
Puis-je louer une H200 dès maintenant ?
Déployez-la depuis la console quand de la capacité est libre ; tant qu'il n'y en a pas, la console propose une liste d'attente et les personnes inscrites sont prévenues par e-mail une à une, de la plus ancienne à la plus récente. La capacité n'est réservée à personne : le premier qui déploie l'obtient.
Comment fonctionne la facturation pour cette offre ?
Comme pour toutes les offres GPUwerk : à la minute, sur un solde de crédit prépayé, en USD, hors taxes applicables, sans frais de trafic sortant et sans engagement.
Besoin de temps GPU aujourd'hui ?
Un DGX Spark dispose de 128 Go de mémoire unifiée et se loue dès maintenant, à 0,79 $/heure facturé à la minute. Première recharge : payez 20 $ recevez 30 $ de crédit. Ou déployez une H200.