GPU-felhő

B300, dedikált.

Egyetlen NVIDIA B300 GPU, 288 GB HBM3e a Blackwell Ultra architektúrán, x86-os hoszton. 6,49 USD óránként, percalapú számlázással, ugyanolyan feltételekkel, mint minden más GPUwerk-csomag.

Érkezési sorrendben bérelhető: indítson egy B300-at, amikor van szabad kapacitás, vagy iratkozzon fel a várólistájára a konzolban.

Specifikációk

GPU-nként. A GPU és a memóriája a bérlés idejére csak az Öné.

NVIDIA B300
GPUB300, Blackwell Ultra architektúra
Memória288 GB HBM3e
Memória-sávszélesség8 TB/s
PontosságFP4 és FP8 a második generációs Transformer Engine-nel
Üzemeltetésx86-os hoszt
Bérlési módA GPU a bérlés idejére csak az Öné, soha nem megosztott

GPU-adatok forrása: NVIDIA HGX. A GPUwerk csak a saját hardverén végzett futtatások tok/s- és tanítási átviteli adatait teszi közzé. Hogy ezeket hogyan közöljük, lásd a DGX Spark-flotta benchmarkjainál.

Mit futtatna rajta?

Blackwell Ultra GPU-nként 288 GB-tal: a legtöbb memória egyetlen GPU-n a GPUwerk kínálatában.

A legnagyobb egy GPU-s modellek

Pusztán a súlyok alapján egy GPU-n körülbelül 288B paraméterig FP8-ban, vagy körülbelül 576B-ig FP4-ben.

Érvelés és hosszú kontextus

Memória azokhoz a hosszú KV-gyorsítótárakhoz, amelyeket az érvelő modellek és a nagyon hosszú promptok felépítenek.

Memóriakorlátos tanítás

Finomhangolások és tanítási futtatások, amelyeknek egy B200-on elfogy a memóriája.

Nem ideális: kis vagy közepes méretű modellek

A 80–141 GB-ba férő modell óránként kevesebbe kerül H100-on vagy H200-on.

Egy szerver mind a nyolc GPU-jára van szüksége? Nézze meg a 8× B300 szervert.

Mi fér el 288 GB-ban

Csak súlyok: memória osztva a paraméterenkénti bájtokkal. Hagyjon tartalékot a KV-gyorsítótárnak, az aktivációknak és a futtatókörnyezetnek, gyakran 10–30%-kal többet.

A legnagyobb modell pusztán a súlyok alapján egy B300-on
PontosságParaméterenkéntLegnagyobb modell, csak súlyok
FP16 / BF162 bájtkörülbelül 144B paraméter
FP81 bájtkörülbelül 288B paraméter
FP4 (natív a Blackwell Ultrán)0,5 bájtkörülbelül 576B paraméter

Számlázás

Díj6,49 USD óránként, percalapú számlázással
SzámlázásPercalapon, előre fizetett kreditegyenlegből
DíjakNincs kimenő forgalmi díj
KötelezettségvállalásNincs

Az árak USD-ben, az alkalmazandó adók nélkül értendők. A számlázás teljes működése, beleértve azt is, mit jelent a leállítás és a megszüntetés, az árak oldalán található.

GYIK

Bérelhetek most B300-at?

Indítsa a konzolból, amikor van szabad kapacitás; amíg nincs, a konzol várólistát kínál, és a sorban állóknak egyenként, a legrégebbitől kezdve küldünk e-mailt. A kapacitást senkinek sem tartjuk fenn: aki elsőként indít példányt, azé.

Hogyan működik a számlázás ebben a csomagban?

Ugyanúgy, mint minden GPUwerk-csomagnál: percalapon, előre fizetett kreditegyenlegből, USD-ben, az alkalmazandó adók nélkül, kimenő forgalmi díj és kötelezettség nélkül.

Ma kell GPU-idő?

A DGX Spark 128 GB egységes memóriával rendelkezik, és most bérelhető, 0,79 USD/óráért, percalapú számlázással. Első feltöltés: fizessen 20 USD-t, kapjon 30 USD kreditet. Vagy indítson egy B300-at.