GPU cloud
B200, vyhradená.
Jedno GPU NVIDIA B200, 180 GB HBM3e na architektúre Blackwell, na x86 hostiteľovi. 5,49 $ za hodinu, účtované po minútach, za rovnakých podmienok ako každá iná úroveň GPUwerk.
Prenajíma sa podľa poradia: nasaďte B200, keď je kapacita voľná, alebo sa zapíšte do jej poradovníka v konzole.
Špecifikácie
Na GPU. GPU a jej pamäť sú počas prenájmu len vaše.
| GPU | B200, architektúra Blackwell |
|---|---|
| Pamäť | 180 GB HBM3e |
| Priepustnosť pamäte | 8 TB/s |
| Presnosť | FP4 a FP8 s Transformer Engine druhej generácie |
| Hostovať | x86 hostiteľ |
| Nájom | GPU je počas prenájmu len vaša, nikdy nie zdieľaná |
Údaje o GPU pochádzajú zo stránky NVIDIA DGX B200. GPUwerk zverejňuje údaje o tok/s a priepustnosti trénovania len pre behy na vlastnom hardvéri. Ako sa uvádzajú, nájdete v benchmarkoch flotily DGX Sparkov.
Čo by ste na ňom spúšťali?
Blackwell so 180 GB na GPU a podporou FP4: krok vyššie oproti Hopperu pre trénovanie a inferenciu veľkých modelov.
Inferencia v FP4 a FP8
Natívne FP4 pojme model s až asi 360B parametrami, ak rátame len váhy; FP8 do asi 180B.
Trénovanie a fine-tuning
Behy, ktoré potrebujú viac pamäte a priepustnosti na GPU, než ponúka Hopper.
Jedno GPU namiesto dvoch
Modely, ktoré by inak bolo treba rozdeliť na dve H100 alebo H200.
Nehodí sa: malé modely
Model, ktorý sa zmestí do 24 alebo 48 GB, beží na L4 alebo L40S za zlomok hodinovej sadzby.
Potrebujete všetkých osem GPU jedného servera? Pozrite si server 8× B200.
Čo sa zmestí do 180 GB
Len váhy: pamäť delená počtom bajtov na parameter. Nechajte rezervu pre KV cache, aktivácie a runtime, často o 10 až 30 % viac.
| Presnosť | Na parameter | Najväčší model, len váhy |
|---|---|---|
| FP16 / BF16 | 2 bajty | asi 90B parametrov |
| FP8 | 1 bajt | asi 180B parametrov |
| FP4 (natívne na Blackwell) | 0,5 bajtu | asi 360B parametrov |
Fakturácia
| Sadzba | 5,49 $ za hodinu, účtované po minútach |
|---|---|
| Fakturácia | Po minútach, z predplateného zostatku kreditu |
| Poplatky | Žiadne poplatky za odchádzajúce dáta |
| Záväzok | Žiadne |
Ceny sú v USD, bez príslušných daní. Úplné pravidlá fakturácie vrátane toho, čo robí zastavenie a čo ukončenie, sú na stránke s cenami.
FAQ
Môžem si B200 prenajať hneď?
Keď je kapacita voľná, nasaďte ho z konzoly; kým nie je, konzola ponúkne poradovník a ľudí v poradí oslovuje e-mailom po jednom, od najstaršieho. Kapacita sa pre nikoho nedrží: dostane ju ten, kto nasadí prvý.
Ako funguje účtovanie na tejto úrovni?
Rovnako ako každá úroveň GPUwerk: po minútach, z predplateného zostatku kreditu, v USD, bez príslušných daní, bez poplatkov za odchádzajúce dáta a bez záväzku.
Potrebujete čas na GPU ešte dnes?
DGX Spark má 128 GB zjednotenej pamäte a dá sa prenajať hneď, za 0,79 $/hod. účtované po minútach. Prvé dobitie: zaplatíte 20 $, dostanete 30 $ kreditu. Alebo nasaďte B200.