Oblak GPU
B200, namenski.
En GPU NVIDIA B200, 180 GB HBM3e na arhitekturi Blackwell, na gostitelju x86. 5,49 USD na uro, obračun po minutah, pod enakimi pogoji kot vsi drugi razredi GPUwerka.
Oddaja se po vrstnem redu prijav: zaženite B200, ko je zmogljivost prosta, ali se v konzoli uvrstite na njegov čakalni seznam.
Specifikacije
Na GPU. GPU in njegov pomnilnik sta med najemom samo vaša.
| GPU | B200, arhitektura Blackwell |
|---|---|
| Pomnilnik | 180 GB HBM3e |
| Pasovna širina pomnilnika | 8 TB/s |
| Natančnost | FP4 in FP8 z drugo generacijo Transformer Engine |
| Gostitelj | Gostitelj x86 |
| Najem | GPU je med najemom samo vaš, nikoli deljen |
Podatki o GPU z NVIDIA DGX B200. GPUwerk objavlja podatke o tok/s in prepustnosti učenja le za zagone na lastni strojni opremi. Kako so poročani, glejte med meritvami flote DGX Spark.
Kaj bi na njem poganjali?
Blackwell s 180 GB na GPU in podporo FP4: korak naprej od Hopperja za učenje in sklepanje z velikimi modeli.
Sklepanje v FP4 in FP8
Izvorni FP4 sprejme model z do približno 360 milijardami parametrov samo po utežeh; FP8 do približno 180 milijard.
Učenje in fino nastavljanje
Zagoni, ki potrebujejo več pomnilnika in pasovne širine na GPU, kot jih ponuja Hopper.
En GPU namesto dveh
Modeli, ki bi bili sicer razdeljeni čez dva H100 ali H200.
Slabo ustreza: majhni modeli
Model, ki gre v 24 ali 48 GB, teče na L4 ali L40S za delček urne cene.
Potrebujete vseh osem GPU enega strežnika? Oglejte si strežnik 8× B200.
Kaj gre v 180 GB
Samo uteži: pomnilnik, deljen z bajti na parameter. Pustite rezervo za predpomnilnik KV, aktivacije in izvajalno okolje, pogosto 10 do 30 % več.
| Natančnost | Na parameter | Največji model, samo uteži |
|---|---|---|
| FP16 / BF16 | 2 bajta | približno 90B parametrov |
| FP8 | 1 bajt | približno 180B parametrov |
| FP4 (izvorno na Blackwell) | 0,5 bajta | približno 360B parametrov |
Obračun
| Cena | 5,49 USD na uro, obračun po minutah |
|---|---|
| Obračun | Po minutah, iz predplačniškega dobroimetja |
| Provizije | Brez stroškov odhodnega prometa |
| Zaveza | Brez |
Cene so v USD, brez veljavnih davkov. Celoten način obračuna, vključno s tem, kaj naredi ustavitev v primerjavi z odstranitvijo, je na strani s cenami.
Pogosta vprašanja
Ali lahko B200 najamem že zdaj?
Zaženite jo iz konzole, ko je zmogljivost prosta; dokler je ni, konzola ponudi čakalni seznam in ljudje v vrsti prejmejo e-pošto drug za drugim, najstarejši najprej. Zmogljivost ni rezervirana za nikogar: dobi jo tisti, ki jo prvi zažene.
Kako poteka obračun pri tem razredu?
Enako kot pri vsakem razredu GPUwerka: po minutah, iz predplačniškega dobroimetja, v USD, brez morebitnega davka, brez stroškov odhodnega prometa in brez zaveze.
Potrebujete GPU že danes?
DGX Spark ima 128 GB enotnega pomnilnika in ga lahko najamete takoj, za 0,79 USD/uro z obračunom po minutah. Prvo polnjenje: plačajte 20 USD, dobite 30 USD dobroimetja. Ali pa zaženite B200.