Néal GPU
H200, tiomnaithe.
GPU aonair NVIDIA H200, 141 GB HBM3e ar ailtireacht Hopper, ar óstríomhaire x86. $3.49 san uair, billeáilte in aghaidh an nóiméid, na téarmaí céanna le gach sraith eile de chuid GPUwerk.
Ar cíos de réir ord teachta: imscar H200 nuair atá cumas saor, nó téigh ar a liosta feithimh sa chonsól.
Sonraíochtaí
In aghaidh an GPU. Is leat an GPU agus a chuimhne amháin ar feadh an chíosa.
| GPU | H200 SXM, ailtireacht Hopper |
|---|---|
| Cuimhne | 141 GB HBM3e |
| Bandaleithead cuimhne | 4.8 TB/s |
| Uaschumhacht | Suas le 700 W |
| MIG | Suas le 7 ásc de 18 GB |
| Óstach | Óstach x86 |
| Tionóntacht | Is leat an GPU amháin fad atá sé ar cíos agat, gan roinnt riamh |
Figiúirí GPU ó NVIDIA H200. Ní fhoilsíonn GPUwerk figiúirí tok/s ná tréchuir traenála ach do rití ar a chrua-earraí féin. Féach tagarmharcanna flít DGX Spark le haghaidh conas a thuairiscítear iad.
Cad a rithfeá air?
Ríomh an H100 le 76% níos mó cuimhne: samhlacha níos mó ar aon GPU amháin agus níos mó spáis don taisce KV.
Samhlacha d'aicme 70B le comhthéacs fada
Oireann samhail 70B ag FP8 le timpeall 70 GB fágtha don taisce KV, mar sin leideanna níos faide agus níos mó iarratas comhuaineach.
Samhlacha suas go dtí thart ar 140B ag FP8
Oireann meáchain a bhfuil dhá H100 de dhíth orthu ar aon H200 amháin.
Mínchoigeartú
Mínchoigeartuithe iomlána agus rití LoRA ar shamhlacha nach n-oireann i 80 GB.
Drochoiriúint: FP4 dúchasach
Níl FP4 ag Hopper; le haghaidh tátail 4-ghiotán ar luas Blackwell, faigh B200 nó B300 ar cíos.
Roinnt GPUanna nasctha le NVLink de dhíth ort? Féach an freastalaí 8× H200.
Cad a oireann i 141 GB
Meáchain amháin: an chuimhne roinnte ar na bearta in aghaidh an pharaiméadair. Fág spás don taisce KV, do na gníomhachtuithe agus don am rite, 10 go 30% níos mó go minic.
| Beachtas | In aghaidh an pharaiméadair | An tsamhail is mó, meáchain amháin |
|---|---|---|
| FP16 / BF16 | 2 bheart | timpeall 70B paraiméadar |
| FP8 | 1 bheart | timpeall 141B paraiméadar |
| Cainníochtaithe 4-ghiotán | 0.5 beart | timpeall 282B paraiméadar (gan FP4 dúchasach ar Hopper; díchainníochtaíonn an t-am rite) |
Billeáil
| Ráta | $3.49 san uair, billeáilte in aghaidh an nóiméid |
|---|---|
| Billeáil | In aghaidh an nóiméid, as iarmhéid creidmheasa réamhíoctha |
| Táillí | Gan táillí imsreafa |
| Tiomantas | Dada |
Tá na praghsanna in USD, gan cháin iomchuí. Tá meicnic iomlán na billeála, lena n-áirítear a ndéanann stad i gcomparáid le foirceannadh, ar an leathanach praghsála.
CCanna
An féidir liom H200 a fháil ar cíos anois?
Imscar ón gconsól é nuair atá cumas saor; fad nach bhfuil, cuireann an consól liosta feithimh ar fáil agus seoltar ríomhphost chuig daoine sa scuaine duine ar dhuine, an té is faide ar an liosta ar dtús. Ní choinnítear cumas d'aon duine: faigheann an chéad duine a imscarann é.
Conas a oibríonn an bhilleáil ar an tsraith seo?
Mar an gcéanna le gach sraith GPUwerk: in aghaidh an nóiméid, as iarmhéid creidmheasa réamhíoctha, in USD, gan cháin iomchuí, gan táillí imsreafa agus gan ghealltanas.
Am GPU de dhíth ort inniu?
Tá 128 GB de chuimhne aontaithe ag DGX Spark agus is féidir é a fháil ar cíos anois, ar $0.79/uair billeáilte in aghaidh an nóiméid. An chéad bhreisiú: íoc $20, faigh $30 de chreidmheas. Nó imscar H200.