GPU oblak

B300, namjenski.

Jedan NVIDIA B300 GPU, 288 GB HBM3e na arhitekturi Blackwell Ultra, na x86 hostu. 6,49 USD po satu, naplata po minuti, pod istim uvjetima kao i sve ostale GPUwerk razine.

Iznajmljuje se po redoslijedu prijava: pokrenite B300 kad je kapacitet slobodan ili se prijavite na njegovu listu čekanja u konzoli.

Specifikacije

Po GPU-u. GPU i njegova memorija samo su vaši za vrijeme najma.

NVIDIA B300
GPUB300, arhitektura Blackwell Ultra
Memorija288 GB HBM3e
Propusnost memorije8 TB/s
PreciznostFP4 i FP8 s drugom generacijom Transformer Enginea
Hostx86 host
Dodjela korisnicimaGPU je samo vaš dok ga unajmljujete, nikad se ne dijeli

Podaci o GPU-u s NVIDIA HGX. GPUwerk objavljuje podatke o tok/s i propusnosti treniranja samo za mjerenja na vlastitom hardveru. Pogledajte mjerenja performansi flote DGX Sparkova za način izvještavanja.

Što biste na njemu pokrenuli?

Blackwell Ultra s 288 GB po GPU-u: najviše memorije na jednom GPU-u u GPUwerk katalogu.

Najveći modeli za jedan GPU

Do otprilike 288B parametara u FP8 ili oko 576B u FP4, samo po težinama, na jednom GPU-u.

Zaključivanje i dugi kontekst

Memorija za duge KV predmemorije koje stvaraju modeli za zaključivanje i vrlo dugi upiti.

Treniranje ograničeno memorijom

Fina podešavanja i treniranja kojima na B200 nedostaje memorije.

Loš izbor: mali modeli i modeli srednje veličine

Model koji stane u 80 do 141 GB jeftiniji je po satu na H100 ili H200.

Trebate svih osam GPU-ova jednog poslužitelja? Pogledajte poslužitelj s 8× B300.

Što stane u 288 GB

Samo težine: memorija podijeljena s brojem bajtova po parametru. Ostavite rezervu za KV predmemoriju, aktivacije i izvođenje, često 10 do 30 % više.

Najveći model samo po težinama na jednom B300
PreciznostPo parametruNajveći model, samo težine
FP16 / BF162 bajtaoko 144B parametara
FP81 bajtoko 288B parametara
FP4 (izvorno na Blackwellu Ultra)0,5 bajtaoko 576B parametara

Naplata

Cijena6,49 USD po satu, naplata po minuti
NaplataPo minuti, iz unaprijed plaćenog stanja kredita
NaknadeBez naknada za izlazni promet
ObvezaNišta

Cijene su u USD, bez primjenjivog poreza. Potpuni mehanizam naplate, uključujući razliku između zaustavljanja i ukidanja instance, nalazi se na stranici s cijenama.

Česta pitanja

Mogu li sada unajmiti B300?

Pokrenite ga iz konzole kada je kapacitet slobodan; dok ga nema, konzola nudi listu čekanja i ljudima u redu šalje e-poštu jednom po jednom, počevši od najstarijeg. Kapacitet se ni za koga ne rezervira: dobiva ga onaj tko prvi pokrene.

Kako naplata funkcionira na ovoj razini?

Isto kao na svakoj GPUwerkovoj razini: po minuti, iz unaprijed plaćenog stanja kredita, u USD, bez primjenjivog poreza, bez naknada za izlazni promet i bez obveza.

Treba vam GPU vrijeme danas?

DGX Spark ima 128 GB objedinjene memorije i može se odmah unajmiti za 0,79 USD/sat uz naplatu po minuti. Prva nadoplata: platite 20 USD, dobijete 30 USD kredita. Ili pokrenite B300.