Néal GPU
L40S, tiomnaithe.
Meaisín L40S aon GPU, 48 GB de GDDR6 ar ailtireacht Ada Lovelace NVIDIA, ar óstríomhaire x86. $0.99 san uair, billeáilte in aghaidh an nóiméid, na téarmaí céanna le gach sraith eile de chuid GPUwerk.
Ar cíos de réir ord teachta: imscar L40S nuair atá cumas saor, nó téigh ar a liosta feithimh sa chonsól.
Sonraíochtaí
In aghaidh an nóid. Is meaisín iomlán duit féin é gach ásc GPUwerk, ar aon sraith.
| GPU | L40S, ailtireacht Ada Lovelace |
|---|---|
| Cuimhne | 48 GB GDDR6 |
| Óstach | Óstach x86 |
| Tionóntacht | Custaiméir amháin in aghaidh an mheaisín, gan roinnt riamh |
Ní fhoilsíonn GPUwerk figiúirí tok/s ná tréchuir traenála ach do rití ar a chrua-earraí féin. Féach tagarmharcanna flít DGX Spark le haghaidh conas a thuairiscítear iad.
Cad a rithfeá air?
Cuireann 48 GB an L40S idir 32 GB an 5090 agus 128 GB Spark, le cuimhne ECC d'aicme an ionaid sonraí.
Tátal samhlacha meánmhéide
Samhlacha suas go dtí thart ar 40B paraiméadar ag FP8, nó samhail den aicme 30B le spás don taisce KV.
Grafaicí agus AI measctha
Croíthe RT agus inneall meán in aice le croíthe teinseora FP8, do phíblínte a rindreálann agus a thuairisceoidh ar aon chárta.
Mínchoigeartuithe LoRA
Oiliúint oiriúnaitheoirí ar shamhlacha d'aicme 7B go 13B, a oireann in 48 GB le spás breise.
Drochoiriúint: traenáil il-gpu
Níl NVLink aige, agus mar sin baineann post a bhfuil roinnt GPUanna de dhíth air ag malartú sonraí go tapa le freastalaí 8-GPU.
Cad a oireann i 48 GB
Meáchain amháin: an chuimhne roinnte ar na bearta in aghaidh an pharaiméadair. Fág spás don taisce KV, do na gníomhachtuithe agus don am rite, 10 go 30% níos mó go minic.
| Beachtas | In aghaidh an pharaiméadair | An tsamhail is mó, meáchain amháin |
|---|---|---|
| FP16 / BF16 | 2 bheart | timpeall 24B paraiméadar |
| FP8 | 1 bheart | timpeall 48B paraiméadar |
| Cainníochtaithe 4-ghiotán | 0.5 beart | timpeall 96B paraiméadar (gan FP4 dúchasach ar Ada; díchainníochtaíonn an t-am rite) |
Billeáil
| Ráta | $0.99 san uair, billeáilte in aghaidh an nóiméid |
|---|---|
| Billeáil | In aghaidh an nóiméid, as iarmhéid creidmheasa réamhíoctha |
| Táillí | Gan táillí imsreafa |
| Tiomantas | Dada |
Tá na praghsanna in USD, gan cháin iomchuí. Tá meicnic iomlán na billeála, lena n-áirítear a ndéanann stad i gcomparáid le foirceannadh, ar an leathanach praghsála.
CCanna
An féidir liom L40S a fháil ar cíos anois?
Imscar ón gconsól é nuair atá cumas saor; fad nach bhfuil, cuireann an consól liosta feithimh ar fáil agus seoltar ríomhphost chuig daoine sa scuaine duine ar dhuine, an té is faide ar an liosta ar dtús. Ní choinnítear cumas d'aon duine: faigheann an chéad duine a imscarann é.
Conas a oibríonn an bhilleáil ar an tsraith seo?
Mar an gcéanna le gach sraith GPUwerk: in aghaidh an nóiméid, as iarmhéid creidmheasa réamhíoctha, in USD, gan cháin iomchuí, gan táillí imsreafa agus gan ghealltanas.
Am GPU de dhíth ort inniu?
Tá 128 GB de chuimhne aontaithe ag DGX Spark agus is féidir é a fháil ar cíos anois, ar $0.79/uair billeáilte in aghaidh an nóiméid. An chéad bhreisiú: íoc $20, faigh $30 de chreidmheas. Féach conas a chuirtear Spark i gcomparáid le cárta scoite, nó téigh ar liosta feithimh an L40S.