GPU cloud

B300, vyhradená.

Jedno GPU NVIDIA B300, 288 GB HBM3e na architektúre Blackwell Ultra, na x86 hostiteľovi. 6,49 $ za hodinu, účtované po minútach, za rovnakých podmienok ako každá iná úroveň GPUwerk.

Prenajíma sa podľa poradia: nasaďte B300, keď je kapacita voľná, alebo sa zapíšte do jej poradovníka v konzole.

Špecifikácie

Na GPU. GPU a jej pamäť sú počas prenájmu len vaše.

NVIDIA B300
GPUB300, architektúra Blackwell Ultra
Pamäť288 GB HBM3e
Priepustnosť pamäte8 TB/s
PresnosťFP4 a FP8 s Transformer Engine druhej generácie
Hostovaťx86 hostiteľ
NájomGPU je počas prenájmu len vaša, nikdy nie zdieľaná

Údaje o GPU pochádzajú zo stránky NVIDIA HGX. GPUwerk zverejňuje údaje o tok/s a priepustnosti trénovania len pre behy na vlastnom hardvéri. Ako sa uvádzajú, nájdete v benchmarkoch flotily DGX Sparkov.

Čo by ste na ňom spúšťali?

Blackwell Ultra s 288 GB na GPU: najviac pamäte na jednom GPU v katalógu GPUwerk.

Najväčšie modely na jednom GPU

Až asi 288B parametrov v FP8 alebo asi 576B v FP4, ak rátame len váhy, na jednom GPU.

Uvažovanie a dlhý kontext

Pamäť pre dlhé KV cache, ktoré si budujú modely na uvažovanie a veľmi dlhé prompty.

Trénovanie obmedzené pamäťou

Fine-tuningy a trénovania, ktorým na B200 nestačí pamäť.

Nehodí sa: malé alebo stredne veľké modely

Model, ktorý sa zmestí do 80 až 141 GB, vyjde za hodinu lacnejšie na H100 alebo H200.

Potrebujete všetkých osem GPU jedného servera? Pozrite si server 8× B300.

Čo sa zmestí do 288 GB

Len váhy: pamäť delená počtom bajtov na parameter. Nechajte rezervu pre KV cache, aktivácie a runtime, často o 10 až 30 % viac.

Najväčší model na jednej B300, len podľa váh
PresnosťNa parameterNajväčší model, len váhy
FP16 / BF162 bajtyasi 144B parametrov
FP81 bajtasi 288B parametrov
FP4 (natívne na Blackwell Ultra)0,5 bajtuasi 576B parametrov

Fakturácia

Sadzba6,49 $ za hodinu, účtované po minútach
FakturáciaPo minútach, z predplateného zostatku kreditu
PoplatkyŽiadne poplatky za odchádzajúce dáta
ZáväzokŽiadne

Ceny sú v USD, bez príslušných daní. Úplné pravidlá fakturácie vrátane toho, čo robí zastavenie a čo ukončenie, sú na stránke s cenami.

FAQ

Môžem si B300 prenajať hneď?

Keď je kapacita voľná, nasaďte ho z konzoly; kým nie je, konzola ponúkne poradovník a ľudí v poradí oslovuje e-mailom po jednom, od najstaršieho. Kapacita sa pre nikoho nedrží: dostane ju ten, kto nasadí prvý.

Ako funguje účtovanie na tejto úrovni?

Rovnako ako každá úroveň GPUwerk: po minútach, z predplateného zostatku kreditu, v USD, bez príslušných daní, bez poplatkov za odchádzajúce dáta a bez záväzku.

Potrebujete čas na GPU ešte dnes?

DGX Spark má 128 GB zjednotenej pamäte a dá sa prenajať hneď, za 0,79 $/hod. účtované po minútach. Prvé dobitie: zaplatíte 20 $, dostanete 30 $ kreditu. Alebo nasaďte B300.