GPU debesija
B200, dedikuota.
Viena NVIDIA B200 GPU, 180 GB HBM3e Blackwell architektūroje, x86 pagrindinėje sistemoje. 5,49 USD per valandą, apmokestinama už minutę, tomis pačiomis sąlygomis kaip ir visi kiti GPUwerk lygiai.
Nuomojama principu „kas pirmas, tas laimi“: paleiskite B200, kai yra laisvų pajėgumų, arba užsirašykite į jos laukiančiųjų sąrašą konsolėje.
Specifikacijos
Vienai GPU. Nuomos metu GPU ir jos atmintis priklauso tik jums.
| GPU | B200, Blackwell architektūra |
|---|---|
| Atmintis | 180 GB HBM3e |
| Atminties pralaidumas | 8 TB/s |
| Tikslumas | FP4 ir FP8 su antrosios kartos Transformer Engine |
| Talpinti | x86 pagrindinė sistema |
| Nuomos modelis | Kol nuomojatės, GPU priklauso tik jums, niekada nebendrinama |
GPU skaičiai iš NVIDIA DGX B200. GPUwerk skelbia tok/s ir mokymo pralaidumo skaičius tik iš paleidimų savo įrangoje. Kaip jie pateikiami, žr. DGX Spark parko lyginamuosiuose testuose.
Ką jame paleistumėte?
Blackwell su 180 GB vienai GPU ir FP4 palaikymu: žingsnis aukščiau nei Hopper mokymui ir didelių modelių inferencijai.
FP4 ir FP8 inferencija
Natyvus FP4 vien pagal svorius talpina iki maždaug 360B parametrų modelį; FP8 – iki maždaug 180B.
Mokymas ir pritaikymas (fine-tuning)
Paleidimai, kuriems vienai GPU reikia daugiau atminties ir pralaidumo, nei siūlo Hopper.
Viena GPU vietoj dviejų
Modeliai, kurie kitaip būtų padalyti per dvi H100 ar H200.
Mažai tinka: maži modeliai
Modelis, telpantis į 24 ar 48 GB, veikia L4 arba L40S už dalį valandinio tarifo.
Reikia visų aštuonių vieno serverio GPU? Žr. 8× B200 serverį.
Kas telpa į 180 GB
Tik svoriai: atmintis, padalyta iš baitų vienam parametrui. Palikite atsargos KV podėliui, aktyvacijoms ir vykdymo aplinkai, dažnai 10–30% daugiau.
| Tikslumas | Vienam parametrui | Didžiausias modelis, tik svoriai |
|---|---|---|
| FP16 / BF16 | 2 baitai | apie 90B parametrų |
| FP8 | 1 baitas | apie 180B parametrų |
| FP4 (natyviai Blackwell) | 0,5 baito | apie 360B parametrų |
Atsiskaitymas
| Tarifas | 5,49 USD per valandą, apmokestinama už minutę |
|---|---|
| Atsiskaitymas | Už minutę, iš išankstinio kredito likučio |
| Mokesčiai | Jokių išeinančio srauto mokesčių |
| Įsipareigojimas | Nėra |
Kainos nurodytos USD, be taikomų mokesčių. Visa apmokestinimo tvarka, įskaitant tai, ką daro sustabdymas ir nutraukimas, aprašyta kainų puslapyje.
DUK
Ar galiu išsinuomoti B200 dabar?
Paleiskite ją iš konsolės, kai yra laisvų pajėgumų; kol jų nėra, konsolė siūlo laukiančiųjų sąrašą, o eilėje esantiems el. laiškai siunčiami po vieną, pradedant seniausiai užsirašiusiais. Pajėgumai niekam nelaikomi: kas pirmas paleidžia, tas ir gauna.
Kaip veikia apmokestinimas šiame lygyje?
Taip pat kaip kiekviename GPUwerk lygyje: už minutę, iš išankstinio kredito likučio, USD, be taikomų mokesčių, be išeinančio srauto mokesčių ir be įsipareigojimų.
Reikia GPU laiko šiandien?
DGX Spark turi 128 GB bendros atminties ir jį galima išsinuomoti jau dabar už 0,79 USD/val., apmokestinama už minutę. Pirmasis papildymas: sumokėkite 20 USD, gaukite 30 USD kredito. Arba paleiskite B200.