Cloud GPU

H200, dedicat.

Un singur GPU NVIDIA H200, 141 GB HBM3e pe arhitectura Hopper, pe o gazdă x86. 3,49 $ pe oră, facturat pe minut, în aceleași condiții ca orice alt nivel GPUwerk.

Închiriat în ordinea sosirii: lansați un H200 când există capacitate liberă sau înscrieți-vă pe lista lui de așteptare în consolă.

Specificații

Per GPU. GPU-ul și memoria lui sunt doar ale dvs. pe durata închirierii.

NVIDIA H200
GPUH200 SXM, arhitectura Hopper
Memorie141 GB HBM3e
Lățime de bandă a memoriei4,8 TB/s
Putere maximăPână la 700 W
MIGPână la 7 instanțe de 18 GB
GăzduițiGazdă x86
ÎnchiriereGPU-ul este doar al dvs. cât timp îl închiriați, niciodată partajat

Cifrele GPU de pe NVIDIA H200. GPUwerk publică cifre de tok/s și de debit la antrenare doar pentru rulările pe propriul hardware. Vedeți benchmark-urile pe flota DGX Spark pentru modul în care sunt raportate.

Ce ați rula pe el?

Puterea de calcul a H100 cu 76% mai multă memorie: modele mai mari pe un singur GPU și mai mult loc pentru cache-ul KV.

Modele din clasa 70B cu context lung

Un model de 70B la FP8 încape cu aproximativ 70 GB rămași pentru cache-ul KV, deci prompturi mai lungi și mai multe cereri simultane.

Modele de până la aproximativ 140B la FP8

Ponderile care necesită două H100 încap pe un singur H200.

Fine-tuning

Fine-tuning complet și rulări LoRA pe modele care nu încap în 80 GB.

Potrivire slabă: FP4 nativ

Hopper nu are FP4; pentru inferență pe 4 biți la viteza Blackwell, închiriați un B200 sau B300.

Aveți nevoie de mai multe GPU-uri legate prin NVLink? Vedeți serverul 8× H200.

Ce încape în 141 GB

Doar ponderile: memoria împărțită la octeții per parametru. Lăsați rezervă pentru cache-ul KV, activări și runtime, adesea cu 10 până la 30% mai mult.

Cel mai mare model doar după ponderi pe un H200
PreciziePer parametruCel mai mare model, doar ponderile
FP16 / BF162 octețiaproximativ 70B parametri
FP81 octetaproximativ 141B parametri
Cuantizat pe 4 biți0,5 octețiaproximativ 282B parametri (Hopper nu are FP4 nativ; runtime-ul decuantizează)

Facturare

Tarif3,49 $ pe oră, facturat pe minut
FacturarePe minut, din soldul de credit preplătit
ComisioaneFără taxe pentru traficul de ieșire
AngajamentNiciunul

Prețurile sunt în USD, fără taxele aplicabile. Mecanismul complet de facturare, inclusiv ce face o oprire față de o terminare, este pe pagina de prețuri.

Întrebări frecvente

Pot închiria acum un H200?

Lansați-l din consolă când există capacitate liberă; cât timp nu există, consola oferă o listă de așteptare, iar persoanele de la coadă primesc e-mail una câte una, începând cu cea mai veche. Capacitatea nu este rezervată pentru nimeni: cine lansează primul o obține.

Cum funcționează facturarea pe acest nivel?

La fel ca la orice nivel GPUwerk: pe minut, din soldul de credit preplătit, în USD, fără taxele aplicabile, fără taxe pentru traficul de ieșire și fără angajament.

Aveți nevoie de timp GPU azi?

Un DGX Spark are 128 GB de memorie unificată și poate fi închiriat acum, la 0,79 $/oră facturat pe minut. Prima reîncărcare: plătiți 20 $, primiți 30 $ credit. Sau lansați un H200.