Néal GPU
RTX 6000 Ada, tiomnaithe.
Meaisín aon GPU NVIDIA RTX 6000 Ada Generation, 48 GB de GDDR6 le ECC ar ailtireacht Ada Lovelace, ar óstríomhaire x86. $0.75 san uair, billeáilte in aghaidh an nóiméid, na téarmaí céanna le gach sraith eile de chuid GPUwerk.
Ar cíos de réir ord teachta: imscar RTX 6000 Ada nuair atá cumas saor, nó téigh ar a liosta feithimh sa chonsól.
Sonraíochtaí
In aghaidh an nóid. Is meaisín iomlán duit féin é gach ásc GPUwerk, ar aon sraith.
| GPU | RTX 6000 Ada Generation, ailtireacht Ada Lovelace |
|---|---|
| Cuimhne | 48 GB GDDR6 le ECC |
| Bandaleithead cuimhne | 960 GB/s |
| Croíthe CUDA | 18,176 |
| Uaschumhacht | 300 W |
| Óstach | Óstach x86 |
| Tionóntacht | Custaiméir amháin in aghaidh an mheaisín, gan roinnt riamh |
Figiúirí GPU ó NVIDIA RTX 6000 Ada. Ní fhoilsíonn GPUwerk figiúirí tok/s ná tréchuir traenála ach do rití ar a chrua-earraí féin. Féach tagarmharcanna flít DGX Spark le haghaidh conas a thuairiscítear iad.
Cad a rithfeá air?
48 GB le ECC: an chuimhne chéanna le L40S, ar chárta d'aicme stáisiún oibre.
Tátal samhlacha meánmhéide
Samhlacha suas go dtí thart ar 40B paraiméadar ag FP8, nó samhail den aicme 30B le spás don taisce KV.
Rindreáil agus grafaicí
Croíthe RT agus tiománaí d'aicme stáisiúin oibre don rindreáil, don insamhladh nó do phíblínte measctha grafaicí agus AI.
Mínchoigeartuithe LoRA
Oiliúint oiriúnaitheoirí ar shamhlacha d'aicme 7B go 13B, a oireann in 48 GB le spás breise.
Drochoiriúint: traenáil il-gpu
Níl NVLink aige, agus mar sin baineann post a bhfuil roinnt GPUanna de dhíth air ag malartú sonraí go tapa le freastalaí 8-GPU.
Cad a oireann i 48 GB
Meáchain amháin: an chuimhne roinnte ar na bearta in aghaidh an pharaiméadair. Fág spás don taisce KV, do na gníomhachtuithe agus don am rite, 10 go 30% níos mó go minic.
| Beachtas | In aghaidh an pharaiméadair | An tsamhail is mó, meáchain amháin |
|---|---|---|
| FP16 / BF16 | 2 bheart | timpeall 24B paraiméadar |
| FP8 | 1 bheart | timpeall 48B paraiméadar |
| Cainníochtaithe 4-ghiotán | 0.5 beart | timpeall 96B paraiméadar (gan FP4 dúchasach ar Ada; díchainníochtaíonn an t-am rite) |
Billeáil
| Ráta | $0.75 san uair, billeáilte in aghaidh an nóiméid |
|---|---|
| Billeáil | In aghaidh an nóiméid, as iarmhéid creidmheasa réamhíoctha |
| Táillí | Gan táillí imsreafa |
| Tiomantas | Dada |
Tá na praghsanna in USD, gan cháin iomchuí. Tá meicnic iomlán na billeála, lena n-áirítear a ndéanann stad i gcomparáid le foirceannadh, ar an leathanach praghsála.
CCanna
An féidir liom RTX 6000 Ada a fháil ar cíos anois?
Imscar ón gconsól é nuair atá cumas saor; fad nach bhfuil, cuireann an consól liosta feithimh ar fáil agus seoltar ríomhphost chuig daoine sa scuaine duine ar dhuine, an té is faide ar an liosta ar dtús. Ní choinnítear cumas d'aon duine: faigheann an chéad duine a imscarann é.
Conas a oibríonn an bhilleáil ar an tsraith seo?
Mar an gcéanna le gach sraith GPUwerk: in aghaidh an nóiméid, as iarmhéid creidmheasa réamhíoctha, in USD, gan cháin iomchuí, gan táillí imsreafa agus gan ghealltanas.
Am GPU de dhíth ort inniu?
Tá 128 GB de chuimhne aontaithe ag DGX Spark agus is féidir é a fháil ar cíos anois, ar $0.79/uair billeáilte in aghaidh an nóiméid. An chéad bhreisiú: íoc $20, faigh $30 de chreidmheas. Cuir i gcomparáid é leis an L40S, nó téigh ar liosta feithimh an RTX 6000 Ada.