GPU debesija
RTX PRO 6000, dedikuota.
Vienos GPU NVIDIA RTX PRO 6000 Blackwell Server Edition įrenginys, 96 GB GDDR7 su ECC Blackwell architektūroje, x86 pagrindinėje sistemoje. 1,89 USD per valandą, apmokestinama už minutę, tomis pačiomis sąlygomis kaip ir visi kiti GPUwerk lygiai.
Nuomojama principu „kas pirmas, tas laimi“: paleiskite RTX PRO 6000, kai yra laisvų pajėgumų, arba užsirašykite į jos laukiančiųjų sąrašą konsolėje.
Specifikacijos
Vienam mazgui. Kiekvienas GPUwerk egzempliorius bet kuriame lygyje yra vienas visas įrenginys tik jums.
| GPU | RTX PRO 6000 Blackwell Server Edition, Blackwell architektūra |
|---|---|
| Atmintis | 96 GB GDDR7 su ECC |
| Atminties pralaidumas | 1 597 GB/s |
| CUDA branduoliai | 24 064 |
| Didžiausia galia | Iki 600 W, konfigūruojama |
| MIG | Iki 4 egzempliorių po 24 GB |
| Talpinti | x86 pagrindinė sistema |
| Nuomos modelis | Vienam įrenginiui – vienas klientas, niekada nebendrinama |
GPU skaičiai iš NVIDIA RTX PRO 6000 Blackwell Server Edition. GPUwerk skelbia tok/s ir mokymo pralaidumo skaičius tik iš paleidimų savo įrangoje. Kaip jie pateikiami, žr. DGX Spark parko lyginamuosiuose testuose.
Ką jame paleistumėte?
96 GB vienoje plokštėje, su penktosios kartos Tensor branduoliais, palaikančiais FP4.
70B klasės modeliai vienoje GPU
70B modelis FP8 formatu telpa į 96 GB, liekant šiek tiek vietos KV podėliui, neskaidant jo per kelias GPU.
FP4 inferencija
Blackwell natyviai palaiko FP4, todėl 4 bitų modelis iki maždaug 192B parametrų telpa vien pagal svorius.
Grafika ir DI vienoje plokštėje
RT branduoliai ir didelis kadrų buferis atvaizdavimui ar simuliacijai šalia darbo su modeliais.
Mažai tinka: mokymas su keliomis GPU
Ji neturi NVLink, todėl užduotis, kuriai reikia kelių GPU, greitai keičiančių duomenis, tinka 8 GPU serveriui.
Kelios mažesnės užduotys
MIG padalija plokštę iki keturių izoliuotų 24 GB GPU, kad vienu metu būtų aptarnaujamas daugiau nei vienas modelis.
Kas telpa į 96 GB
Tik svoriai: atmintis, padalyta iš baitų vienam parametrui. Palikite atsargos KV podėliui, aktyvacijoms ir vykdymo aplinkai, dažnai 10–30% daugiau.
| Tikslumas | Vienam parametrui | Didžiausias modelis, tik svoriai |
|---|---|---|
| FP16 / BF16 | 2 baitai | apie 48B parametrų |
| FP8 | 1 baitas | apie 96B parametrų |
| FP4 (natyviai Blackwell) | 0,5 baito | apie 192B parametrų |
Atsiskaitymas
| Tarifas | 1,89 USD per valandą, apmokestinama už minutę |
|---|---|
| Atsiskaitymas | Už minutę, iš išankstinio kredito likučio |
| Mokesčiai | Jokių išeinančio srauto mokesčių |
| Įsipareigojimas | Nėra |
Kainos nurodytos USD, be taikomų mokesčių. Visa apmokestinimo tvarka, įskaitant tai, ką daro sustabdymas ir nutraukimas, aprašyta kainų puslapyje.
DUK
Ar galiu išsinuomoti RTX PRO 6000 dabar?
Paleiskite ją iš konsolės, kai yra laisvų pajėgumų; kol jų nėra, konsolė siūlo laukiančiųjų sąrašą, o eilėje esantiems el. laiškai siunčiami po vieną, pradedant seniausiai užsirašiusiais. Pajėgumai niekam nelaikomi: kas pirmas paleidžia, tas ir gauna.
Kaip veikia apmokestinimas šiame lygyje?
Taip pat kaip kiekviename GPUwerk lygyje: už minutę, iš išankstinio kredito likučio, USD, be taikomų mokesčių, be išeinančio srauto mokesčių ir be įsipareigojimų.
Reikia GPU laiko šiandien?
DGX Spark turi 128 GB bendros atminties ir jį galima išsinuomoti jau dabar už 0,79 USD/val., apmokestinama už minutę. Pirmasis papildymas: sumokėkite 20 USD, gaukite 30 USD kredito. Žr., kaip atrodo DGX Spark palyginimas, arba užsirašykite į RTX PRO 6000 laukiančiųjų sąrašą.