GPU oblak

H200, namjenski.

Jedan NVIDIA H200 GPU, 141 GB HBM3e na arhitekturi Hopper, na x86 hostu. 3,49 USD po satu, naplata po minuti, pod istim uvjetima kao i sve ostale GPUwerk razine.

Iznajmljuje se po redoslijedu prijava: pokrenite H200 kad je kapacitet slobodan ili se prijavite na njegovu listu čekanja u konzoli.

Specifikacije

Po GPU-u. GPU i njegova memorija samo su vaši za vrijeme najma.

NVIDIA H200
GPUH200 SXM, arhitektura Hopper
Memorija141 GB HBM3e
Propusnost memorije4,8 TB/s
Najveća snagaDo 700 W
MIGDo 7 instanci po 18 GB
Hostx86 host
Dodjela korisnicimaGPU je samo vaš dok ga unajmljujete, nikad se ne dijeli

Podaci o GPU-u s NVIDIA H200. GPUwerk objavljuje podatke o tok/s i propusnosti treniranja samo za mjerenja na vlastitom hardveru. Pogledajte mjerenja performansi flote DGX Sparkova za način izvještavanja.

Što biste na njemu pokrenuli?

Računalna snaga H100 uz 76 % više memorije: veći modeli na jednom GPU-u i više prostora za KV predmemoriju.

Modeli klase 70B s dugim kontekstom

Model od 70B u FP8 stane, a za KV predmemoriju ostaje oko 70 GB, dakle dulji upiti i više istodobnih zahtjeva.

Modeli do otprilike 140B u FP8

Težine kojima trebaju dva H100 stanu na jedan H200.

Fino podešavanje

Potpuna fina podešavanja i LoRA treniranja na modelima koji ne stanu u 80 GB.

Loš izbor: izvorni FP4

Hopper nema FP4; za 4-bitnu inferenciju brzinom Blackwella unajmite B200 ili B300.

Treba vam više GPU-ova povezanih NVLinkom? Pogledajte poslužitelj s 8× H200.

Što stane u 141 GB

Samo težine: memorija podijeljena s brojem bajtova po parametru. Ostavite rezervu za KV predmemoriju, aktivacije i izvođenje, često 10 do 30 % više.

Najveći model samo po težinama na jednom H200
PreciznostPo parametruNajveći model, samo težine
FP16 / BF162 bajtaoko 70B parametara
FP81 bajtoko 141B parametara
4-bitna kvantizacija0,5 bajtaoko 282B parametara (Hopper nema izvorni FP4; okruženje za izvođenje dekvantizira)

Naplata

Cijena3,49 USD po satu, naplata po minuti
NaplataPo minuti, iz unaprijed plaćenog stanja kredita
NaknadeBez naknada za izlazni promet
ObvezaNišta

Cijene su u USD, bez primjenjivog poreza. Potpuni mehanizam naplate, uključujući razliku između zaustavljanja i ukidanja instance, nalazi se na stranici s cijenama.

Česta pitanja

Mogu li sada unajmiti H200?

Pokrenite ga iz konzole kada je kapacitet slobodan; dok ga nema, konzola nudi listu čekanja i ljudima u redu šalje e-poštu jednom po jednom, počevši od najstarijeg. Kapacitet se ni za koga ne rezervira: dobiva ga onaj tko prvi pokrene.

Kako naplata funkcionira na ovoj razini?

Isto kao na svakoj GPUwerkovoj razini: po minuti, iz unaprijed plaćenog stanja kredita, u USD, bez primjenjivog poreza, bez naknada za izlazni promet i bez obveza.

Treba vam GPU vrijeme danas?

DGX Spark ima 128 GB objedinjene memorije i može se odmah unajmiti za 0,79 USD/sat uz naplatu po minuti. Prva nadoplata: platite 20 USD, dobijete 30 USD kredita. Ili pokrenite H200.