Néal GPU
L4, tiomnaithe.
GPU aonair NVIDIA L4, 24 GB GDDR6 ar ailtireacht Ada Lovelace, ar óstríomhaire x86. $0.49 san uair, billeáilte in aghaidh an nóiméid, na téarmaí céanna le gach sraith eile de chuid GPUwerk.
Ar cíos de réir ord teachta: imscar L4 nuair atá cumas saor, nó téigh ar a liosta feithimh sa chonsól.
Sonraíochtaí
In aghaidh an GPU. Is leat an GPU agus a chuimhne amháin ar feadh an chíosa.
| GPU | L4, ailtireacht Ada Lovelace |
|---|---|
| Cuimhne | 24 GB GDDR6 |
| Bandaleithead cuimhne | 300 GB/s |
| Croíthe CUDA | 7,424 |
| Uaschumhacht | Suas le 72 W |
| Óstach | Óstach x86 |
| Tionóntacht | Is leat an GPU amháin fad atá sé ar cíos agat, gan roinnt riamh |
Figiúirí GPU ó NVIDIA L4. Ní fhoilsíonn GPUwerk figiúirí tok/s ná tréchuir traenála ach do rití ar a chrua-earraí féin. Féach tagarmharcanna flít DGX Spark le haghaidh conas a thuairiscítear iad.
Cad a rithfeá air?
Cárta tátail ísealchumhachta: 24 GB ag 72 W, do shamhlacha a oireann agus do thrácht nach dteastaíonn H100 uaidh.
Tátal samhlacha beaga
Samhlacha comhrá nó críochnaithe suas le timpeall 14B paraiméadar ag FP8, agus samhlacha leabaithe nó athrangaithe taobh thiar de API, áit ar leor 24 GB.
Píblínte físe agus físe-aitheanta
Ionchódú agus díchódú físe sna crua-earraí in aice leis an GPU, le haghaidh traschódaithe nó do shamhlacha físe a léann frámaí físe.
Forbairt ar chostas íseal
Cruach freastail a thógáil agus a thástáil ar GPU saor sula mbogtar chuig ceann níos mó é.
Drochoiriúint: traenáil agus mínchoigeartuithe móra
Is beag spás a fhágann 24 GB do ghrádáin agus do staid an optamóra, mar sin baineann aon rud níos mó ná LoRA beag le H100 nó níos mó.
Tuilleadh cuimhne de dhíth ort? Féach an L40S (48 GB) nó an H100 (80 GB).
Cad a oireann i 24 GB
Meáchain amháin: an chuimhne roinnte ar na bearta in aghaidh an pharaiméadair. Fág spás don taisce KV, do na gníomhachtuithe agus don am rite, 10 go 30% níos mó go minic.
| Beachtas | In aghaidh an pharaiméadair | An tsamhail is mó, meáchain amháin |
|---|---|---|
| FP16 / BF16 | 2 bheart | timpeall 12B paraiméadar |
| FP8 | 1 bheart | timpeall 24B paraiméadar |
| Cainníochtaithe 4-ghiotán | 0.5 beart | timpeall 48B paraiméadar (gan FP4 dúchasach ar Ada; díchainníochtaíonn an t-am rite) |
Billeáil
| Ráta | $0.49 san uair, billeáilte in aghaidh an nóiméid |
|---|---|
| Billeáil | In aghaidh an nóiméid, as iarmhéid creidmheasa réamhíoctha |
| Táillí | Gan táillí imsreafa |
| Tiomantas | Dada |
Tá na praghsanna in USD, gan cháin iomchuí. Tá meicnic iomlán na billeála, lena n-áirítear a ndéanann stad i gcomparáid le foirceannadh, ar an leathanach praghsála.
CCanna
An féidir liom L4 a fháil ar cíos anois?
Imscar ón gconsól é nuair atá cumas saor; fad nach bhfuil, cuireann an consól liosta feithimh ar fáil agus seoltar ríomhphost chuig daoine sa scuaine duine ar dhuine, an té is faide ar an liosta ar dtús. Ní choinnítear cumas d'aon duine: faigheann an chéad duine a imscarann é.
Conas a oibríonn an bhilleáil ar an tsraith seo?
Mar an gcéanna le gach sraith GPUwerk: in aghaidh an nóiméid, as iarmhéid creidmheasa réamhíoctha, in USD, gan cháin iomchuí, gan táillí imsreafa agus gan ghealltanas.
Am GPU de dhíth ort inniu?
Tá 128 GB de chuimhne aontaithe ag DGX Spark agus is féidir é a fháil ar cíos anois, ar $0.79/uair billeáilte in aghaidh an nóiméid. An chéad bhreisiú: íoc $20, faigh $30 de chreidmheas. Nó imscar L4.