Néal GPU

H200, tiomnaithe.

GPU aonair NVIDIA H200, 141 GB HBM3e ar ailtireacht Hopper, ar óstríomhaire x86. $3.49 san uair, billeáilte in aghaidh an nóiméid, na téarmaí céanna le gach sraith eile de chuid GPUwerk.

Ar cíos de réir ord teachta: imscar H200 nuair atá cumas saor, nó téigh ar a liosta feithimh sa chonsól.

Sonraíochtaí

In aghaidh an GPU. Is leat an GPU agus a chuimhne amháin ar feadh an chíosa.

NVIDIA H200
GPUH200 SXM, ailtireacht Hopper
Cuimhne141 GB HBM3e
Bandaleithead cuimhne4.8 TB/s
UaschumhachtSuas le 700 W
MIGSuas le 7 ásc de 18 GB
ÓstachÓstach x86
TionóntachtIs leat an GPU amháin fad atá sé ar cíos agat, gan roinnt riamh

Figiúirí GPU ó NVIDIA H200. Ní fhoilsíonn GPUwerk figiúirí tok/s ná tréchuir traenála ach do rití ar a chrua-earraí féin. Féach tagarmharcanna flít DGX Spark le haghaidh conas a thuairiscítear iad.

Cad a rithfeá air?

Ríomh an H100 le 76% níos mó cuimhne: samhlacha níos mó ar aon GPU amháin agus níos mó spáis don taisce KV.

Samhlacha d'aicme 70B le comhthéacs fada

Oireann samhail 70B ag FP8 le timpeall 70 GB fágtha don taisce KV, mar sin leideanna níos faide agus níos mó iarratas comhuaineach.

Samhlacha suas go dtí thart ar 140B ag FP8

Oireann meáchain a bhfuil dhá H100 de dhíth orthu ar aon H200 amháin.

Mínchoigeartú

Mínchoigeartuithe iomlána agus rití LoRA ar shamhlacha nach n-oireann i 80 GB.

Drochoiriúint: FP4 dúchasach

Níl FP4 ag Hopper; le haghaidh tátail 4-ghiotán ar luas Blackwell, faigh B200 nó B300 ar cíos.

Roinnt GPUanna nasctha le NVLink de dhíth ort? Féach an freastalaí 8× H200.

Cad a oireann i 141 GB

Meáchain amháin: an chuimhne roinnte ar na bearta in aghaidh an pharaiméadair. Fág spás don taisce KV, do na gníomhachtuithe agus don am rite, 10 go 30% níos mó go minic.

An tsamhail is mó de réir meáchan amháin ar H200 amháin
BeachtasIn aghaidh an pharaiméadairAn tsamhail is mó, meáchain amháin
FP16 / BF162 bhearttimpeall 70B paraiméadar
FP81 bhearttimpeall 141B paraiméadar
Cainníochtaithe 4-ghiotán0.5 bearttimpeall 282B paraiméadar (gan FP4 dúchasach ar Hopper; díchainníochtaíonn an t-am rite)

Billeáil

Ráta$3.49 san uair, billeáilte in aghaidh an nóiméid
BilleáilIn aghaidh an nóiméid, as iarmhéid creidmheasa réamhíoctha
TáillíGan táillí imsreafa
TiomantasDada

Tá na praghsanna in USD, gan cháin iomchuí. Tá meicnic iomlán na billeála, lena n-áirítear a ndéanann stad i gcomparáid le foirceannadh, ar an leathanach praghsála.

CCanna

An féidir liom H200 a fháil ar cíos anois?

Imscar ón gconsól é nuair atá cumas saor; fad nach bhfuil, cuireann an consól liosta feithimh ar fáil agus seoltar ríomhphost chuig daoine sa scuaine duine ar dhuine, an té is faide ar an liosta ar dtús. Ní choinnítear cumas d'aon duine: faigheann an chéad duine a imscarann é.

Conas a oibríonn an bhilleáil ar an tsraith seo?

Mar an gcéanna le gach sraith GPUwerk: in aghaidh an nóiméid, as iarmhéid creidmheasa réamhíoctha, in USD, gan cháin iomchuí, gan táillí imsreafa agus gan ghealltanas.

Am GPU de dhíth ort inniu?

Tá 128 GB de chuimhne aontaithe ag DGX Spark agus is féidir é a fháil ar cíos anois, ar $0.79/uair billeáilte in aghaidh an nóiméid. An chéad bhreisiú: íoc $20, faigh $30 de chreidmheas. Nó imscar H200.