GPU Cloud

H200, dédiée.

Un GPU NVIDIA H200 unique, 141 Go HBM3e sur l'architecture Hopper, sur un hôte x86. 3,49 $ de l'heure, facturé à la minute, aux mêmes conditions que toutes les autres offres GPUwerk.

Louée au premier arrivé, premier servi : déployez une H200 quand de la capacité est libre, ou rejoignez sa liste d'attente dans la console.

Caractéristiques

Par GPU. Le GPU et sa mémoire sont à vous seul pendant la location.

NVIDIA H200
GPUH200 SXM, architecture Hopper
Mémoire141 Go HBM3e
Bande passante mémoire4,8 To/s
Puissance max.Jusqu'à 700 W
MIGJusqu'à 7 instances de 18 Go
HébergerHôte x86
OccupationLe GPU est à vous seul pendant la location, jamais partagé

Chiffres GPU tirés de NVIDIA H200. GPUwerk ne publie de chiffres de tok/s et de débit d'entraînement que pour des tests sur son propre matériel. Voir les benchmarks de la flotte DGX Spark pour la façon dont ils sont présentés.

Que feriez-vous tourner dessus ?

La puissance de calcul de la H100 avec 76 % de mémoire en plus : des modèles plus grands sur un seul GPU et plus de place pour le cache KV.

Modèles de classe 70B avec un long contexte

Un modèle 70B en FP8 tient en laissant environ 70 Go pour le cache KV : prompts plus longs et davantage de requêtes simultanées.

Modèles jusqu'à environ 140B en FP8

Des poids qui nécessitent deux H100 tiennent sur une seule H200.

Fine-tuning

Fine-tunings complets et LoRA sur des modèles qui ne tiennent pas dans 80 Go.

Peu adapté : FP4 natif

Hopper n'a pas de FP4 ; pour de l'inférence 4 bits à la vitesse de Blackwell, louez une B200 ou une B300.

Besoin de plusieurs GPU reliés par NVLink ? Voir le serveur 8× H200.

Ce qui tient dans 141 Go

Poids seuls : mémoire divisée par les octets par paramètre. Prévoyez de la marge pour le cache KV, les activations et le runtime, souvent 10 à 30 % de plus.

Plus grand modèle, poids seuls, sur une H200
PrécisionPar paramètrePlus grand modèle, poids seuls
FP16 / BF162 octetsenviron 70B paramètres
FP81 octetenviron 141B paramètres
Quantifié en 4 bits0,5 octetenviron 282B paramètres (pas de FP4 natif sur Hopper ; le runtime déquantifie)

Facturation

Tarif3,49 $ de l'heure, facturé à la minute
FacturationÀ la minute, sur un solde de crédit prépayé
FraisPas de frais de trafic sortant
EngagementAucun

Les prix sont en USD, hors taxes applicables. Le fonctionnement complet de la facturation, y compris l'effet d'un arrêt par rapport à une suppression, est détaillé sur la page des tarifs.

FAQ

Puis-je louer une H200 dès maintenant ?

Déployez-la depuis la console quand de la capacité est libre ; tant qu'il n'y en a pas, la console propose une liste d'attente et les personnes inscrites sont prévenues par e-mail une à une, de la plus ancienne à la plus récente. La capacité n'est réservée à personne : le premier qui déploie l'obtient.

Comment fonctionne la facturation pour cette offre ?

Comme pour toutes les offres GPUwerk : à la minute, sur un solde de crédit prépayé, en USD, hors taxes applicables, sans frais de trafic sortant et sans engagement.

Besoin de temps GPU aujourd'hui ?

Un DGX Spark dispose de 128 Go de mémoire unifiée et se loue dès maintenant, à 0,79 $/heure facturé à la minute. Première recharge : payez 20 $ recevez 30 $ de crédit. Ou déployez une H200.