GPU oblak
B200, namjenski.
Jedan NVIDIA B200 GPU, 180 GB HBM3e na arhitekturi Blackwell, na x86 hostu. 5,49 USD po satu, naplata po minuti, pod istim uvjetima kao i sve ostale GPUwerk razine.
Iznajmljuje se po redoslijedu prijava: pokrenite B200 kad je kapacitet slobodan ili se prijavite na njegovu listu čekanja u konzoli.
Specifikacije
Po GPU-u. GPU i njegova memorija samo su vaši za vrijeme najma.
| GPU | B200, arhitektura Blackwell |
|---|---|
| Memorija | 180 GB HBM3e |
| Propusnost memorije | 8 TB/s |
| Preciznost | FP4 i FP8 s drugom generacijom Transformer Enginea |
| Host | x86 host |
| Dodjela korisnicima | GPU je samo vaš dok ga unajmljujete, nikad se ne dijeli |
Podaci o GPU-u s NVIDIA DGX B200. GPUwerk objavljuje podatke o tok/s i propusnosti treniranja samo za mjerenja na vlastitom hardveru. Pogledajte mjerenja performansi flote DGX Sparkova za način izvještavanja.
Što biste na njemu pokrenuli?
Blackwell sa 180 GB po GPU-u i podrškom za FP4: korak naprijed u odnosu na Hopper za treniranje i inferenciju velikih modela.
FP4 i FP8 inferencija
Izvorni FP4 prima model do otprilike 360B parametara samo po težinama; FP8 do otprilike 180B.
Treniranje i fino podešavanje
Izvođenja kojima treba više memorije i propusnosti po GPU-u nego što Hopper nudi.
Jedan GPU umjesto dva
Modeli koji bi se inače morali podijeliti na dva H100 ili H200.
Loš izbor: mali modeli
Model koji stane u 24 ili 48 GB radi na L4 ili L40S za djelić satne cijene.
Trebate svih osam GPU-ova jednog poslužitelja? Pogledajte poslužitelj s 8× B200.
Što stane u 180 GB
Samo težine: memorija podijeljena s brojem bajtova po parametru. Ostavite rezervu za KV predmemoriju, aktivacije i izvođenje, često 10 do 30 % više.
| Preciznost | Po parametru | Najveći model, samo težine |
|---|---|---|
| FP16 / BF16 | 2 bajta | oko 90B parametara |
| FP8 | 1 bajt | oko 180B parametara |
| FP4 (izvorno na Blackwellu) | 0,5 bajta | oko 360B parametara |
Naplata
| Cijena | 5,49 USD po satu, naplata po minuti |
|---|---|
| Naplata | Po minuti, iz unaprijed plaćenog stanja kredita |
| Naknade | Bez naknada za izlazni promet |
| Obveza | Ništa |
Cijene su u USD, bez primjenjivog poreza. Potpuni mehanizam naplate, uključujući razliku između zaustavljanja i ukidanja instance, nalazi se na stranici s cijenama.
Česta pitanja
Mogu li sada unajmiti B200?
Pokrenite ga iz konzole kada je kapacitet slobodan; dok ga nema, konzola nudi listu čekanja i ljudima u redu šalje e-poštu jednom po jednom, počevši od najstarijeg. Kapacitet se ni za koga ne rezervira: dobiva ga onaj tko prvi pokrene.
Kako naplata funkcionira na ovoj razini?
Isto kao na svakoj GPUwerkovoj razini: po minuti, iz unaprijed plaćenog stanja kredita, u USD, bez primjenjivog poreza, bez naknada za izlazni promet i bez obveza.
Treba vam GPU vrijeme danas?
DGX Spark ima 128 GB objedinjene memorije i može se odmah unajmiti za 0,79 USD/sat uz naplatu po minuti. Prva nadoplata: platite 20 USD, dobijete 30 USD kredita. Ili pokrenite B200.