GPU-felhő
H200, dedikált.
Egyetlen NVIDIA H200 GPU, 141 GB HBM3e a Hopper architektúrán, x86-os hoszton. 3,49 USD óránként, percalapú számlázással, ugyanolyan feltételekkel, mint minden más GPUwerk-csomag.
Érkezési sorrendben bérelhető: indítson egy H200-at, amikor van szabad kapacitás, vagy iratkozzon fel a várólistájára a konzolban.
Specifikációk
GPU-nként. A GPU és a memóriája a bérlés idejére csak az Öné.
| GPU | H200 SXM, Hopper architektúra |
|---|---|
| Memória | 141 GB HBM3e |
| Memória-sávszélesség | 4,8 TB/s |
| Max. teljesítmény | Legfeljebb 700 W |
| MIG | Legfeljebb 7 darab 18 GB-os példány |
| Üzemeltetés | x86-os hoszt |
| Bérlési mód | A GPU a bérlés idejére csak az Öné, soha nem megosztott |
GPU-adatok forrása: NVIDIA H200. A GPUwerk csak a saját hardverén végzett futtatások tok/s- és tanítási átviteli adatait teszi közzé. Hogy ezeket hogyan közöljük, lásd a DGX Spark-flotta benchmarkjainál.
Mit futtatna rajta?
A H100 számítási teljesítménye 76%-kal több memóriával: nagyobb modellek egy GPU-n és több hely a KV-gyorsítótárnak.
70B kategóriájú modellek hosszú kontextussal
Egy 70B-s modell FP8-ban elfér, és körülbelül 70 GB marad a KV-gyorsítótárnak, így hosszabb promptok és több egyidejű kérés lehetséges.
Körülbelül 140B-ig terjedő modellek FP8-ban
A két H100-at igénylő súlyok elférnek egy H200-on.
Finomhangolás
Teljes finomhangolások és LoRA-futtatások olyan modelleken, amelyek nem férnek el 80 GB-ban.
Nem ideális: natív FP4
A Hopper nem támogatja az FP4-et; Blackwell-sebességű 4 bites inferenciához béreljen B200-at vagy B300-at.
NVLinkkel összekötött több GPU-ra van szüksége? Nézze meg a 8× H200 szervert.
Mi fér el 141 GB-ban
Csak súlyok: memória osztva a paraméterenkénti bájtokkal. Hagyjon tartalékot a KV-gyorsítótárnak, az aktivációknak és a futtatókörnyezetnek, gyakran 10–30%-kal többet.
| Pontosság | Paraméterenként | Legnagyobb modell, csak súlyok |
|---|---|---|
| FP16 / BF16 | 2 bájt | körülbelül 70B paraméter |
| FP8 | 1 bájt | körülbelül 141B paraméter |
| 4 bitre kvantált | 0,5 bájt | körülbelül 282B paraméter (a Hopper nem támogat natív FP4-et; a futtatókörnyezet dekvantál) |
Számlázás
| Díj | 3,49 USD óránként, percalapú számlázással |
|---|---|
| Számlázás | Percalapon, előre fizetett kreditegyenlegből |
| Díjak | Nincs kimenő forgalmi díj |
| Kötelezettségvállalás | Nincs |
Az árak USD-ben, az alkalmazandó adók nélkül értendők. A számlázás teljes működése, beleértve azt is, mit jelent a leállítás és a megszüntetés, az árak oldalán található.
GYIK
Bérelhetek most H200-at?
Indítsa a konzolból, amikor van szabad kapacitás; amíg nincs, a konzol várólistát kínál, és a sorban állóknak egyenként, a legrégebbitől kezdve küldünk e-mailt. A kapacitást senkinek sem tartjuk fenn: aki elsőként indít példányt, azé.
Hogyan működik a számlázás ebben a csomagban?
Ugyanúgy, mint minden GPUwerk-csomagnál: percalapon, előre fizetett kreditegyenlegből, USD-ben, az alkalmazandó adók nélkül, kimenő forgalmi díj és kötelezettség nélkül.
Ma kell GPU-idő?
A DGX Spark 128 GB egységes memóriával rendelkezik, és most bérelhető, 0,79 USD/óráért, percalapú számlázással. Első feltöltés: fizessen 20 USD-t, kapjon 30 USD kreditet. Vagy indítson egy H200-at.