GPU cloud
B300, vyhradená.
Jedno GPU NVIDIA B300, 288 GB HBM3e na architektúre Blackwell Ultra, na x86 hostiteľovi. 6,49 $ za hodinu, účtované po minútach, za rovnakých podmienok ako každá iná úroveň GPUwerk.
Prenajíma sa podľa poradia: nasaďte B300, keď je kapacita voľná, alebo sa zapíšte do jej poradovníka v konzole.
Špecifikácie
Na GPU. GPU a jej pamäť sú počas prenájmu len vaše.
| GPU | B300, architektúra Blackwell Ultra |
|---|---|
| Pamäť | 288 GB HBM3e |
| Priepustnosť pamäte | 8 TB/s |
| Presnosť | FP4 a FP8 s Transformer Engine druhej generácie |
| Hostovať | x86 hostiteľ |
| Nájom | GPU je počas prenájmu len vaša, nikdy nie zdieľaná |
Údaje o GPU pochádzajú zo stránky NVIDIA HGX. GPUwerk zverejňuje údaje o tok/s a priepustnosti trénovania len pre behy na vlastnom hardvéri. Ako sa uvádzajú, nájdete v benchmarkoch flotily DGX Sparkov.
Čo by ste na ňom spúšťali?
Blackwell Ultra s 288 GB na GPU: najviac pamäte na jednom GPU v katalógu GPUwerk.
Najväčšie modely na jednom GPU
Až asi 288B parametrov v FP8 alebo asi 576B v FP4, ak rátame len váhy, na jednom GPU.
Uvažovanie a dlhý kontext
Pamäť pre dlhé KV cache, ktoré si budujú modely na uvažovanie a veľmi dlhé prompty.
Trénovanie obmedzené pamäťou
Fine-tuningy a trénovania, ktorým na B200 nestačí pamäť.
Nehodí sa: malé alebo stredne veľké modely
Model, ktorý sa zmestí do 80 až 141 GB, vyjde za hodinu lacnejšie na H100 alebo H200.
Potrebujete všetkých osem GPU jedného servera? Pozrite si server 8× B300.
Čo sa zmestí do 288 GB
Len váhy: pamäť delená počtom bajtov na parameter. Nechajte rezervu pre KV cache, aktivácie a runtime, často o 10 až 30 % viac.
| Presnosť | Na parameter | Najväčší model, len váhy |
|---|---|---|
| FP16 / BF16 | 2 bajty | asi 144B parametrov |
| FP8 | 1 bajt | asi 288B parametrov |
| FP4 (natívne na Blackwell Ultra) | 0,5 bajtu | asi 576B parametrov |
Fakturácia
| Sadzba | 6,49 $ za hodinu, účtované po minútach |
|---|---|
| Fakturácia | Po minútach, z predplateného zostatku kreditu |
| Poplatky | Žiadne poplatky za odchádzajúce dáta |
| Záväzok | Žiadne |
Ceny sú v USD, bez príslušných daní. Úplné pravidlá fakturácie vrátane toho, čo robí zastavenie a čo ukončenie, sú na stránke s cenami.
FAQ
Môžem si B300 prenajať hneď?
Keď je kapacita voľná, nasaďte ho z konzoly; kým nie je, konzola ponúkne poradovník a ľudí v poradí oslovuje e-mailom po jednom, od najstaršieho. Kapacita sa pre nikoho nedrží: dostane ju ten, kto nasadí prvý.
Ako funguje účtovanie na tejto úrovni?
Rovnako ako každá úroveň GPUwerk: po minútach, z predplateného zostatku kreditu, v USD, bez príslušných daní, bez poplatkov za odchádzajúce dáta a bez záväzku.
Potrebujete čas na GPU ešte dnes?
DGX Spark má 128 GB zjednotenej pamäte a dá sa prenajať hneď, za 0,79 $/hod. účtované po minútach. Prvé dobitie: zaplatíte 20 $, dostanete 30 $ kreditu. Alebo nasaďte B300.