GPU-moln
H200, dedikerad.
En enskild NVIDIA H200-GPU, 141 GB HBM3e på Hopper-arkitekturen, på en x86-värd. 3,49 USD per timme, debiteras per minut, samma villkor som alla andra nivåer hos GPUwerk.
Hyrs ut efter principen först till kvarn: driftsätt en H200 när det finns ledig kapacitet, eller ställ dig på dess väntelista i konsolen.
Specifikationer
Per GPU. GPU:n och dess minne är bara dina under hyran.
| GPU | H200 SXM, Hopper-arkitektur |
|---|---|
| Minne | 141 GB HBM3e |
| Minnesbandbredd | 4,8 TB/s |
| Max effekt | Upp till 700 W |
| MIG | Upp till 7 instanser på 18 GB |
| Värd | x86-värd |
| Hyresform | GPU:n är bara din medan du hyr den, aldrig delad |
GPU-siffror från NVIDIA H200. GPUwerk publicerar siffror för tok/s och träningsgenomströmning bara för körningar på sin egen hårdvara. Se benchmarks för DGX Spark-maskinparken för hur de rapporteras.
Vad skulle du köra på den?
H100:s beräkningskraft med 76 % mer minne: större modeller på en GPU och mer utrymme för KV-cachen.
Modeller i 70B-klassen med lång kontext
En 70B-modell i FP8 får plats med cirka 70 GB kvar för KV-cachen, alltså längre prompter och fler samtidiga förfrågningar.
Modeller upp till cirka 140B i FP8
Vikter som behöver två H100 får plats på en H200.
Finjustering
Fullständiga finjusteringar och LoRA-körningar på modeller som inte får plats i 80 GB.
Passar dåligt: inbyggd FP4
Hopper har ingen FP4; för 4-bitarsinferens i Blackwell-hastighet, hyr en B200 eller B300.
Behöver du flera GPU:er länkade med NVLink? Se 8× H200-servern.
Vad som får plats i 141 GB
Bara vikter: minne delat med byte per parameter. Lämna marginal för KV-cachen, aktiveringar och körmiljön, ofta 10 till 30 % mer.
| Precision | Per parameter | Största modellen, bara vikter |
|---|---|---|
| FP16 / BF16 | 2 byte | cirka 70B parametrar |
| FP8 | 1 byte | cirka 141B parametrar |
| 4-bitars kvantiserad | 0,5 byte | cirka 282B parametrar (ingen inbyggd FP4 på Hopper; körmiljön avkvantiserar) |
Fakturering
| Pris | 3,49 USD per timme, debiteras per minut |
|---|---|
| Fakturering | Per minut, mot ett förbetalt kreditsaldo |
| Avgifter | Inga avgifter för utgående trafik |
| Bindning | Inga |
Priserna är i USD, exkl. tillämplig skatt. Hela faktureringsmekaniken, inklusive vad ett stopp respektive ett avslut gör, finns på prissidan.
Vanliga frågor
Kan jag hyra en H200 nu?
Driftsätt den från konsolen när det finns ledig kapacitet; när det inte finns någon erbjuder konsolen en väntelista, och de som står i kön får e-post en i taget, äldst först. Kapacitet hålls inte för någon: den som driftsätter först får den.
Hur fungerar faktureringen på den här nivån?
Samma som alla nivåer hos GPUwerk: per minut, mot ett förbetalt kreditsaldo, i USD, exkl. tillämplig skatt, utan avgifter för utgående trafik och utan bindning.
Behöver du GPU-tid i dag?
En DGX Spark har 128 GB enhetligt minne och kan hyras nu, för 0,79 USD/timme debiterat per minut. Första påfyllningen: betala 20 USD, få 30 USD i kredit. Eller driftsätt en H200.