GPU debesija

RTX 6000 Ada, dedikuota.

Vienos GPU NVIDIA RTX 6000 Ada Generation įrenginys, 48 GB GDDR6 su ECC Ada Lovelace architektūroje, x86 pagrindinėje sistemoje. 0,75 USD per valandą, apmokestinama už minutę, tomis pačiomis sąlygomis kaip ir visi kiti GPUwerk lygiai.

Nuomojama principu „kas pirmas, tas laimi“: paleiskite RTX 6000 Ada, kai yra laisvų pajėgumų, arba užsirašykite į jos laukiančiųjų sąrašą konsolėje.

Specifikacijos

Vienam mazgui. Kiekvienas GPUwerk egzempliorius bet kuriame lygyje yra vienas visas įrenginys tik jums.

NVIDIA RTX 6000 Ada Generation
GPURTX 6000 Ada Generation, Ada Lovelace architektūra
Atmintis48 GB GDDR6 su ECC
Atminties pralaidumas960 GB/s
CUDA branduoliai18 176
Didžiausia galia300 W
Talpintix86 pagrindinė sistema
Nuomos modelisVienam įrenginiui – vienas klientas, niekada nebendrinama

GPU skaičiai iš NVIDIA RTX 6000 Ada. GPUwerk skelbia tok/s ir mokymo pralaidumo skaičius tik iš paleidimų savo įrangoje. Kaip jie pateikiami, žr. DGX Spark parko lyginamuosiuose testuose.

Ką jame paleistumėte?

48 GB su ECC: tokia pati atmintis kaip L40S, darbo stoties klasės plokštėje.

Vidutinio dydžio modelių inferencija

Modeliai iki maždaug 40B parametrų FP8 formatu arba 30B klasės modelis su vieta KV podėliui.

Atvaizdavimas ir grafika

RT branduoliai ir darbo stoties klasės tvarkyklė atvaizdavimui, simuliacijai ar mišriems grafikos ir DI konvejeriams.

LoRA pritaikymai

Adapterių mokymas 7B–13B klasės modeliams, kuris telpa į 48 GB su atsarga.

Mažai tinka: mokymas su keliomis GPU

Ji neturi NVLink, todėl užduotis, kuriai reikia kelių GPU, greitai keičiančių duomenis, tinka 8 GPU serveriui.

Kas telpa į 48 GB

Tik svoriai: atmintis, padalyta iš baitų vienam parametrui. Palikite atsargos KV podėliui, aktyvacijoms ir vykdymo aplinkai, dažnai 10–30% daugiau.

Didžiausias modelis vien pagal svorius vienoje RTX 6000 Ada
TikslumasVienam parametruiDidžiausias modelis, tik svoriai
FP16 / BF162 baitaiapie 24B parametrų
FP81 baitasapie 48B parametrų
4 bitų kvantuotas0,5 baitoapie 96B parametrų (Ada neturi natyvaus FP4; vykdymo aplinka atlieka dekvantavimą)

Atsiskaitymas

Tarifas0,75 USD per valandą, apmokestinama už minutę
AtsiskaitymasUž minutę, iš išankstinio kredito likučio
MokesčiaiJokių išeinančio srauto mokesčių
ĮsipareigojimasNėra

Kainos nurodytos USD, be taikomų mokesčių. Visa apmokestinimo tvarka, įskaitant tai, ką daro sustabdymas ir nutraukimas, aprašyta kainų puslapyje.

DUK

Ar galiu išsinuomoti RTX 6000 Ada dabar?

Paleiskite ją iš konsolės, kai yra laisvų pajėgumų; kol jų nėra, konsolė siūlo laukiančiųjų sąrašą, o eilėje esantiems el. laiškai siunčiami po vieną, pradedant seniausiai užsirašiusiais. Pajėgumai niekam nelaikomi: kas pirmas paleidžia, tas ir gauna.

Kaip veikia apmokestinimas šiame lygyje?

Taip pat kaip kiekviename GPUwerk lygyje: už minutę, iš išankstinio kredito likučio, USD, be taikomų mokesčių, be išeinančio srauto mokesčių ir be įsipareigojimų.

Reikia GPU laiko šiandien?

DGX Spark turi 128 GB bendros atminties ir jį galima išsinuomoti jau dabar už 0,79 USD/val., apmokestinama už minutę. Pirmasis papildymas: sumokėkite 20 USD, gaukite 30 USD kredito. Palyginkite jį su L40S arba užsirašykite į RTX 6000 Ada laukiančiųjų sąrašą.