GPU-cloud

H200, dedicated.

Eén NVIDIA H200-GPU, 141 GB HBM3e op de Hopper-architectuur, op een x86-host. $ 3,49 per uur, per minuut gefactureerd, onder dezelfde voorwaarden als elke andere tier van GPUwerk.

Wie het eerst komt, het eerst maalt: deploy een H200 wanneer er capaciteit vrij is, of zet je in de console op de wachtlijst.

Specificaties

Per GPU. De GPU en het geheugen zijn tijdens de huur alleen van jou.

NVIDIA H200
GPUH200 SXM, Hopper-architectuur
Geheugen141 GB HBM3e
Geheugenbandbreedte4,8 TB/s
Max. vermogenTot 700 W
MIGTot 7 instances van 18 GB
Hostx86-host
TenancyDe GPU is alleen van jou zolang je hem huurt, nooit gedeeld

GPU-cijfers van NVIDIA H200. GPUwerk publiceert tok/s en trainingsdoorvoer alleen voor runs op eigen hardware. Zie de benchmarks van de DGX Spark-vloot voor hoe die worden gerapporteerd.

Wat zou je erop draaien?

De rekenkracht van de H100 met 76% meer geheugen: grotere modellen op één GPU en meer ruimte voor de KV-cache.

Modellen van de 70B-klasse met lange context

Een 70B-model in FP8 past met ongeveer 70 GB over voor de KV-cache, dus langere prompts en meer gelijktijdige requests.

Modellen tot ongeveer 140B in FP8

Gewichten die twee H100's nodig hebben, passen op één H200.

Fine-tuning

Volledige fine-tunes en LoRA-runs op modellen die niet in 80 GB passen.

Past slecht: native FP4

Hopper heeft geen FP4; huur voor 4-bit-inference op Blackwell-snelheid een B200 of B300.

Meerdere GPU's nodig die via NVLink zijn gekoppeld? Zie de 8× H200-server.

Wat past er in 141 GB

Alleen gewichten: geheugen gedeeld door bytes per parameter. Laat marge voor de KV-cache, activaties en de runtime, vaak 10 tot 30% meer.

Grootste model op één H200, alleen naar gewichten
PrecisiePer parameterGrootste model, alleen gewichten
FP16 / BF162 bytesongeveer 70B parameters
FP81 byteongeveer 141B parameters
4-bit gekwantiseerd0,5 byteongeveer 282B parameters (geen native FP4 op Hopper; de runtime dekwantiseert)

Facturering

Tarief$ 3,49 per uur, per minuut gefactureerd
FactureringPer minuut, tegen een prepaid saldo aan tegoed
VergoedingenGeen kosten voor egress
VerplichtingGeen

Prijzen zijn in USD, exclusief toepasselijke belasting. Alle details over facturering, inclusief wat stoppen tegenover beëindigen doet, staan op de prijspagina.

FAQ

Kan ik nu een H200 huren?

Deploy hem vanuit de console wanneer er capaciteit vrij is; zolang dat niet zo is, biedt de console een wachtlijst aan, en mensen in de rij krijgen één voor één een e-mail, de oudste eerst. Capaciteit wordt voor niemand vastgehouden: wie het eerst deployt, krijgt hem.

Hoe werkt de facturering op deze tier?

Hetzelfde als elke tier van GPUwerk: per minuut, tegen een prepaid saldo aan tegoed, in USD, exclusief toepasselijke belasting, zonder kosten voor egress en zonder verplichting.

Vandaag GPU-tijd nodig?

Een DGX Spark heeft 128 GB unified memory en is nu te huur, voor $ 0,79/uur per minuut gefactureerd. Eerste opwaardering: betaal $ 20, krijg $ 30 tegoed. Of deploy een H200.