GPU oblak

B200, namjenski.

Jedan NVIDIA B200 GPU, 180 GB HBM3e na arhitekturi Blackwell, na x86 hostu. 5,49 USD po satu, naplata po minuti, pod istim uvjetima kao i sve ostale GPUwerk razine.

Iznajmljuje se po redoslijedu prijava: pokrenite B200 kad je kapacitet slobodan ili se prijavite na njegovu listu čekanja u konzoli.

Specifikacije

Po GPU-u. GPU i njegova memorija samo su vaši za vrijeme najma.

NVIDIA B200
GPUB200, arhitektura Blackwell
Memorija180 GB HBM3e
Propusnost memorije8 TB/s
PreciznostFP4 i FP8 s drugom generacijom Transformer Enginea
Hostx86 host
Dodjela korisnicimaGPU je samo vaš dok ga unajmljujete, nikad se ne dijeli

Podaci o GPU-u s NVIDIA DGX B200. GPUwerk objavljuje podatke o tok/s i propusnosti treniranja samo za mjerenja na vlastitom hardveru. Pogledajte mjerenja performansi flote DGX Sparkova za način izvještavanja.

Što biste na njemu pokrenuli?

Blackwell sa 180 GB po GPU-u i podrškom za FP4: korak naprijed u odnosu na Hopper za treniranje i inferenciju velikih modela.

FP4 i FP8 inferencija

Izvorni FP4 prima model do otprilike 360B parametara samo po težinama; FP8 do otprilike 180B.

Treniranje i fino podešavanje

Izvođenja kojima treba više memorije i propusnosti po GPU-u nego što Hopper nudi.

Jedan GPU umjesto dva

Modeli koji bi se inače morali podijeliti na dva H100 ili H200.

Loš izbor: mali modeli

Model koji stane u 24 ili 48 GB radi na L4 ili L40S za djelić satne cijene.

Trebate svih osam GPU-ova jednog poslužitelja? Pogledajte poslužitelj s 8× B200.

Što stane u 180 GB

Samo težine: memorija podijeljena s brojem bajtova po parametru. Ostavite rezervu za KV predmemoriju, aktivacije i izvođenje, često 10 do 30 % više.

Najveći model samo po težinama na jednom B200
PreciznostPo parametruNajveći model, samo težine
FP16 / BF162 bajtaoko 90B parametara
FP81 bajtoko 180B parametara
FP4 (izvorno na Blackwellu)0,5 bajtaoko 360B parametara

Naplata

Cijena5,49 USD po satu, naplata po minuti
NaplataPo minuti, iz unaprijed plaćenog stanja kredita
NaknadeBez naknada za izlazni promet
ObvezaNišta

Cijene su u USD, bez primjenjivog poreza. Potpuni mehanizam naplate, uključujući razliku između zaustavljanja i ukidanja instance, nalazi se na stranici s cijenama.

Česta pitanja

Mogu li sada unajmiti B200?

Pokrenite ga iz konzole kada je kapacitet slobodan; dok ga nema, konzola nudi listu čekanja i ljudima u redu šalje e-poštu jednom po jednom, počevši od najstarijeg. Kapacitet se ni za koga ne rezervira: dobiva ga onaj tko prvi pokrene.

Kako naplata funkcionira na ovoj razini?

Isto kao na svakoj GPUwerkovoj razini: po minuti, iz unaprijed plaćenog stanja kredita, u USD, bez primjenjivog poreza, bez naknada za izlazni promet i bez obveza.

Treba vam GPU vrijeme danas?

DGX Spark ima 128 GB objedinjene memorije i može se odmah unajmiti za 0,79 USD/sat uz naplatu po minuti. Prva nadoplata: platite 20 USD, dobijete 30 USD kredita. Ili pokrenite B200.