Cloud GPU
H200, dedicat.
Un singur GPU NVIDIA H200, 141 GB HBM3e pe arhitectura Hopper, pe o gazdă x86. 3,49 $ pe oră, facturat pe minut, în aceleași condiții ca orice alt nivel GPUwerk.
Închiriat în ordinea sosirii: lansați un H200 când există capacitate liberă sau înscrieți-vă pe lista lui de așteptare în consolă.
Specificații
Per GPU. GPU-ul și memoria lui sunt doar ale dvs. pe durata închirierii.
| GPU | H200 SXM, arhitectura Hopper |
|---|---|
| Memorie | 141 GB HBM3e |
| Lățime de bandă a memoriei | 4,8 TB/s |
| Putere maximă | Până la 700 W |
| MIG | Până la 7 instanțe de 18 GB |
| Găzduiți | Gazdă x86 |
| Închiriere | GPU-ul este doar al dvs. cât timp îl închiriați, niciodată partajat |
Cifrele GPU de pe NVIDIA H200. GPUwerk publică cifre de tok/s și de debit la antrenare doar pentru rulările pe propriul hardware. Vedeți benchmark-urile pe flota DGX Spark pentru modul în care sunt raportate.
Ce ați rula pe el?
Puterea de calcul a H100 cu 76% mai multă memorie: modele mai mari pe un singur GPU și mai mult loc pentru cache-ul KV.
Modele din clasa 70B cu context lung
Un model de 70B la FP8 încape cu aproximativ 70 GB rămași pentru cache-ul KV, deci prompturi mai lungi și mai multe cereri simultane.
Modele de până la aproximativ 140B la FP8
Ponderile care necesită două H100 încap pe un singur H200.
Fine-tuning
Fine-tuning complet și rulări LoRA pe modele care nu încap în 80 GB.
Potrivire slabă: FP4 nativ
Hopper nu are FP4; pentru inferență pe 4 biți la viteza Blackwell, închiriați un B200 sau B300.
Aveți nevoie de mai multe GPU-uri legate prin NVLink? Vedeți serverul 8× H200.
Ce încape în 141 GB
Doar ponderile: memoria împărțită la octeții per parametru. Lăsați rezervă pentru cache-ul KV, activări și runtime, adesea cu 10 până la 30% mai mult.
| Precizie | Per parametru | Cel mai mare model, doar ponderile |
|---|---|---|
| FP16 / BF16 | 2 octeți | aproximativ 70B parametri |
| FP8 | 1 octet | aproximativ 141B parametri |
| Cuantizat pe 4 biți | 0,5 octeți | aproximativ 282B parametri (Hopper nu are FP4 nativ; runtime-ul decuantizează) |
Facturare
| Tarif | 3,49 $ pe oră, facturat pe minut |
|---|---|
| Facturare | Pe minut, din soldul de credit preplătit |
| Comisioane | Fără taxe pentru traficul de ieșire |
| Angajament | Niciunul |
Prețurile sunt în USD, fără taxele aplicabile. Mecanismul complet de facturare, inclusiv ce face o oprire față de o terminare, este pe pagina de prețuri.
Întrebări frecvente
Pot închiria acum un H200?
Lansați-l din consolă când există capacitate liberă; cât timp nu există, consola oferă o listă de așteptare, iar persoanele de la coadă primesc e-mail una câte una, începând cu cea mai veche. Capacitatea nu este rezervată pentru nimeni: cine lansează primul o obține.
Cum funcționează facturarea pe acest nivel?
La fel ca la orice nivel GPUwerk: pe minut, din soldul de credit preplătit, în USD, fără taxele aplicabile, fără taxe pentru traficul de ieșire și fără angajament.
Aveți nevoie de timp GPU azi?
Un DGX Spark are 128 GB de memorie unificată și poate fi închiriat acum, la 0,79 $/oră facturat pe minut. Prima reîncărcare: plătiți 20 $, primiți 30 $ credit. Sau lansați un H200.