Oblak GPU

B300, namenski.

En GPU NVIDIA B300, 288 GB HBM3e na arhitekturi Blackwell Ultra, na gostitelju x86. 6,49 USD na uro, obračun po minutah, pod enakimi pogoji kot vsi drugi razredi GPUwerka.

Oddaja se po vrstnem redu prijav: zaženite B300, ko je zmogljivost prosta, ali se v konzoli uvrstite na njegov čakalni seznam.

Specifikacije

Na GPU. GPU in njegov pomnilnik sta med najemom samo vaša.

NVIDIA B300
GPUB300, arhitektura Blackwell Ultra
Pomnilnik288 GB HBM3e
Pasovna širina pomnilnika8 TB/s
NatančnostFP4 in FP8 z drugo generacijo Transformer Engine
GostiteljGostitelj x86
NajemGPU je med najemom samo vaš, nikoli deljen

Podatki o GPU z NVIDIA HGX. GPUwerk objavlja podatke o tok/s in prepustnosti učenja le za zagone na lastni strojni opremi. Kako so poročani, glejte med meritvami flote DGX Spark.

Kaj bi na njem poganjali?

Blackwell Ultra z 288 GB na GPU: največ pomnilnika na enem GPU v katalogu GPUwerka.

Največji modeli za en GPU

Do približno 288B parametrov pri FP8 ali približno 576B pri FP4, samo po utežeh, na enem GPU-ju.

Sklepanje in dolg kontekst

Pomnilnik za dolge predpomnilnike KV, ki jih zgradijo sklepalni modeli in zelo dolgi pozivi.

Učenje, omejeno s pomnilnikom

Fino nastavljanje in učenje, ki jima na B200 zmanjka pomnilnika.

Slabo ustreza: majhni ali srednje veliki modeli

Model, ki gre v 80 do 141 GB, je na uro cenejši na H100 ali H200.

Potrebujete vseh osem GPU enega strežnika? Oglejte si strežnik 8× B300.

Kaj gre v 288 GB

Samo uteži: pomnilnik, deljen z bajti na parameter. Pustite rezervo za predpomnilnik KV, aktivacije in izvajalno okolje, pogosto 10 do 30 % več.

Največji model samo po utežeh na enem B300
NatančnostNa parameterNajvečji model, samo uteži
FP16 / BF162 bajtapribližno 144B parametrov
FP81 bajtpribližno 288B parametrov
FP4 (izvorno na Blackwell Ultra)0,5 bajtapribližno 576B parametrov

Obračun

Cena6,49 USD na uro, obračun po minutah
ObračunPo minutah, iz predplačniškega dobroimetja
ProvizijeBrez stroškov odhodnega prometa
ZavezaBrez

Cene so v USD, brez veljavnih davkov. Celoten način obračuna, vključno s tem, kaj naredi ustavitev v primerjavi z odstranitvijo, je na strani s cenami.

Pogosta vprašanja

Ali lahko B300 najamem že zdaj?

Zaženite jo iz konzole, ko je zmogljivost prosta; dokler je ni, konzola ponudi čakalni seznam in ljudje v vrsti prejmejo e-pošto drug za drugim, najstarejši najprej. Zmogljivost ni rezervirana za nikogar: dobi jo tisti, ki jo prvi zažene.

Kako poteka obračun pri tem razredu?

Enako kot pri vsakem razredu GPUwerka: po minutah, iz predplačniškega dobroimetja, v USD, brez morebitnega davka, brez stroškov odhodnega prometa in brez zaveze.

Potrebujete GPU že danes?

DGX Spark ima 128 GB enotnega pomnilnika in ga lahko najamete takoj, za 0,79 USD/uro z obračunom po minutah. Prvo polnjenje: plačajte 20 USD, dobite 30 USD dobroimetja. Ali pa zaženite B300.