GPU debesija
H200, dedikuota.
Viena NVIDIA H200 GPU, 141 GB HBM3e Hopper architektūroje, x86 pagrindinėje sistemoje. 3,49 USD per valandą, apmokestinama už minutę, tomis pačiomis sąlygomis kaip ir visi kiti GPUwerk lygiai.
Nuomojama principu „kas pirmas, tas laimi“: paleiskite H200, kai yra laisvų pajėgumų, arba užsirašykite į jos laukiančiųjų sąrašą konsolėje.
Specifikacijos
Vienai GPU. Nuomos metu GPU ir jos atmintis priklauso tik jums.
| GPU | H200 SXM, Hopper architektūra |
|---|---|
| Atmintis | 141 GB HBM3e |
| Atminties pralaidumas | 4,8 TB/s |
| Didžiausia galia | Iki 700 W |
| MIG | Iki 7 egzempliorių po 18 GB |
| Talpinti | x86 pagrindinė sistema |
| Nuomos modelis | Kol nuomojatės, GPU priklauso tik jums, niekada nebendrinama |
GPU skaičiai iš NVIDIA H200. GPUwerk skelbia tok/s ir mokymo pralaidumo skaičius tik iš paleidimų savo įrangoje. Kaip jie pateikiami, žr. DGX Spark parko lyginamuosiuose testuose.
Ką jame paleistumėte?
H100 skaičiavimo galia su 76% daugiau atminties: didesni modeliai vienoje GPU ir daugiau vietos KV podėliui.
70B klasės modeliai su ilgu kontekstu
70B modelis FP8 formatu telpa, KV podėliui liekant apie 70 GB, todėl galimos ilgesnės užklausos ir daugiau lygiagrečių užklausų.
Modeliai iki maždaug 140B FP8 formatu
Svoriai, kuriems reikia dviejų H100, telpa į vieną H200.
Pritaikymas (fine-tuning)
Visi pritaikymai ir LoRA paleidimai modeliams, kurie netelpa į 80 GB.
Mažai tinka: natyvus FP4
Hopper neturi FP4; 4 bitų inferencijai Blackwell greičiu išsinuomokite B200 arba B300.
Reikia kelių NVLink sujungtų GPU? Žr. 8× H200 serverį.
Kas telpa į 141 GB
Tik svoriai: atmintis, padalyta iš baitų vienam parametrui. Palikite atsargos KV podėliui, aktyvacijoms ir vykdymo aplinkai, dažnai 10–30% daugiau.
| Tikslumas | Vienam parametrui | Didžiausias modelis, tik svoriai |
|---|---|---|
| FP16 / BF16 | 2 baitai | apie 70B parametrų |
| FP8 | 1 baitas | apie 141B parametrų |
| 4 bitų kvantuotas | 0,5 baito | apie 282B parametrų (Hopper neturi natyvaus FP4; vykdymo aplinka atlieka dekvantavimą) |
Atsiskaitymas
| Tarifas | 3,49 USD per valandą, apmokestinama už minutę |
|---|---|
| Atsiskaitymas | Už minutę, iš išankstinio kredito likučio |
| Mokesčiai | Jokių išeinančio srauto mokesčių |
| Įsipareigojimas | Nėra |
Kainos nurodytos USD, be taikomų mokesčių. Visa apmokestinimo tvarka, įskaitant tai, ką daro sustabdymas ir nutraukimas, aprašyta kainų puslapyje.
DUK
Ar galiu išsinuomoti H200 dabar?
Paleiskite ją iš konsolės, kai yra laisvų pajėgumų; kol jų nėra, konsolė siūlo laukiančiųjų sąrašą, o eilėje esantiems el. laiškai siunčiami po vieną, pradedant seniausiai užsirašiusiais. Pajėgumai niekam nelaikomi: kas pirmas paleidžia, tas ir gauna.
Kaip veikia apmokestinimas šiame lygyje?
Taip pat kaip kiekviename GPUwerk lygyje: už minutę, iš išankstinio kredito likučio, USD, be taikomų mokesčių, be išeinančio srauto mokesčių ir be įsipareigojimų.
Reikia GPU laiko šiandien?
DGX Spark turi 128 GB bendros atminties ir jį galima išsinuomoti jau dabar už 0,79 USD/val., apmokestinama už minutę. Pirmasis papildymas: sumokėkite 20 USD, gaukite 30 USD kredito. Arba paleiskite H200.