Gníomhaire códaithe príobháideach ar do DGX Spark féin
Faigh NVIDIA DGX Spark iomlán ar cíos, tosaigh an íomhá Qwen3 Coder 30B, agus dírigh do ghníomhaire códála ar an gcríochphointe atá comhoiriúnach le OpenAI a bhfreastalaíonn sé air. Ní úsáideann aon duine eile an meaisín fad atá sé agat, agus cosnaíonn uair an chloig $0.79 is cuma cé mhéad token a sheolann do ghníomhaire. Ar cheann de mo Sparks ghin an tsamhail seo 80.9 token sa soicind d'iarratas aonair (vLLM, 2 Meán Fómhair 2026, loga amh).
An chéad bhreisiú: íoc $20, faigh $30 de chreidmheas. Billeáilte in aghaidh an nóiméid ó chreidmheas réamhíoctha. Foirceann é nuair atá tú críochnaithe agus cuirtear deireadh leis an mbilleáil. Sa chonsól, roghnaigh DGX Spark 1× agus ansin an íomhá Qwen3 Coder 30B.
Cad atá ar an meaisín
| Crua-earraí | NVIDIA DGX Spark amháin: GB10 Grace Blackwell, 128 GB de chuimhne aontaithe ag 273 GB/s, NVMe 1 TB. Is leat an meaisín ar fad fad a ritheann sé. |
|---|---|
| Samhail | Qwen3-Coder-30B-A3B-Instruct in AWQ 4-ghiotán, samhail mheasctha-saineolaithe a léann thart ar 3B dá 30B paraiméadar in aghaidh an token. Tá na meáchain ar an meaisín cheana féin. |
| Freastalaí | vLLM, ag freastal ar an tsamhail mar qwen3-coder-30b le comhthéacs 32,768 token in aghaidh an iarratais |
| Críochphointe | https://app-<instance-id>.gpuwerk.com/v1, comhoiriúnach le OpenAI, cosanta ag eochair API leis an scóip tátail a chruthaíonn tú sa chonsól |
| Blaosc | Teirminéal root sa bhrabhsálaí, gan eochair SSH ag teastáil, nó root thar SSH le d'eochair féin. Maireann comhaid faoi /workspace tar éis atosuithe. |
| Cá háit | Ritheann an íomhá seo ar mo Sparks féin in Hradec Králové, Poblacht na Seice. Tairgeann Sparks comhpháirtithe na híomhánna DGX OS agus Ubuntu, áit a dtosaíonn tú an tsamhail tú féin (féach an dara socrú thíos). |
Cé chomh tapa atá sé, tomhaiste
Rith mé vllm bench serve i gcoinne na samhla seo ar cheann de mo Sparks gan aon rud eile ar a GPU, ar an 2 Meán Fómhair 2026 (vLLM 0.27.1, AWQ 4-ghiotán). Tá an modh iomlán agus an rith comparáide 70B ar an leathanach tagarmharcanna.
| Iarratais ag an am | Ginte in aghaidh an iarratais | An chuma atá air |
|---|---|---|
| 1 | 80.9 tok/s | Forbróir amháin: sruthaíonn na freagraí níos tapúla ná mar a léann tú iad |
| 8 | 35.2 tok/s | Foireann bheag a roinneann críochphointe amháin |
| 32 | 18.4 tok/s | Go leor rití gníomhairí comhthreomhara; moillíonn gach ceann acu |
Tá an leid á léamh tapa freisin: chuaigh leid 8,192 token isteach ar 5,705 tok/s, thart ar 1.4 soicind sular tháinig an chéad token. Rití tagartha iad seo, ní gealltanas do do chuid leideanna. D'fhéadfadh réamhshocrú a imscarann tú inniu tógáil vLLM níos nuaí a rith, agus tógann leideanna fada gníomhairí níos faide ná cinn ghearra tagarmhairc.
Cé na gníomhairí a oibríonn leis an réamhshocrú mar atá sé
Labhraíonn gníomhairí códála le samhail ar cheann de dhá bhealach, agus socraíonn sin cén socrú atá uait. Tosaíonn an réamhshocrú vLLM le teorainn chomhthéacs agus teorainn chuimhne amháin (--max-model-len 32768 --gpu-memory-utilization 0.5). Ní chuireann sé --enable-auto-tool-choice ar aghaidh, agus diúltaíonn vLLM d'iarratais a iarrann glaonna uirlisí uathoibríocha mura ndearnadh an freastalaí a thosú leis an mbratach sin agus le parsálaí glaonna uirlisí.
- Iarrann aider eagarthóireachtaí mar théacs agus ní theastaíonn glaonna uirlisí uaidh, mar sin oibríonn sé leis an réamhshocrú gan athrú. Mar an gcéanna le mód comhrá agus eagarthóireachta Continue.
- Tá pi agus OpenCode tógtha ar ghlaonna uirlisí, agus mar an gcéanna le mód gníomhaire Continue. Dóibh sin, freastail ar an tsamhail tú féin agus glaoch uirlisí casta air. Tógann sé thart ar 15 nóiméad, agus oibríonn sé ar aon Spark, meaisíní comhpháirtithe san áireamh.
Socrú 1: an réamhshocrú le aider
- Sa chonsól, cuir creidmheas leis, roghnaigh DGX Spark 1× agus an íomhá Qwen3 Coder 30B, agus imscar. Tosaíonn an bhilleáil a luaithe a éiríonn leis an ásc ina sheiceáil ullmhachta agus a thaispeánann sé ag rith.
- Cruthaigh eochair API leis an scóip tátail sa chonsól, agus cóipeáil an críochphointe HTTPS ó leathanach an áisc.
- Ar do ríomhaire glúine, seiceáil go bhfreagraíonn an críochphointe. Liostaíonn an freagra
qwen3-coder-30b.
export SPARK=https://app-<instance-id>.gpuwerk.com/v1 export GPUWERK_API_KEY=sy_key_... # inference scope curl -s $SPARK/models -H "Authorization: Bearer $GPUWERK_API_KEY"
Ansin tosaigh aider i do stórlann. Insíonn an réimír openai/ do aider cén fhormáid API le labhairt; níl aon tseirbhís OpenAI i gceist.
export OPENAI_API_BASE=$SPARK export OPENAI_API_KEY=$GPUWERK_API_KEY aider --model openai/qwen3-coder-30b
Tá socruithe Continue agus Cline don chríochphointe céanna in gníomhairí códála le do chríochphointe féin.
Socrú 2: pi nó OpenCode, le glaonna uirlisí
Imscar an íomhá DGX OS ina ionad sin. Tóg llama.cpp don GB10 agus tosaigh Qwen3 Coder le --jinja, a chuireann teimpléad comhrá na samhla féin i bhfeidhm agus a chuireann a chuid glaonna uirlisí ar ais i bhformáid OpenAI. Seo iad na céimeanna tógála ó mo threoir llama.cpp, á rith sa teirminéal brabhsálaí:
apt-get update && apt-get install -y build-essential cmake libcurl4-openssl-dev git clone https://github.com/ggml-org/llama.cpp /workspace/llama.cpp cd /workspace/llama.cpp cmake -B build -DGGML_CUDA=ON -DGGML_CURL=ON -DCMAKE_CUDA_ARCHITECTURES=121a-real cmake --build build --config Release --target llama-server -j # about 32 GB of weights on the first start ./build/bin/llama-server -hf unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:Q8_0 \ --alias qwen3-coder --jinja -c 65536 \ --host 127.0.0.1 --port 30000
Ní éisteann an freastalaí ach ar 127.0.0.1, agus mar sin sroich é trí thollán SSH ó do ríomhaire glúine. Tá d'eochair SSH féin de dhíth ar an ásc chuige sin (dhá nóiméad). Tuairiscíonn cothaitheoirí llama.cpp 61.1 tok/s don tsamhail seo ag Q8_0 ar DGX Spark (torthaí DGX Spark, tógáil 7941); níor thomhais mé an chonair seo mé féin.
# on your laptop, leave it running ssh -N -L 30000:127.0.0.1:30000 root@<instance-name>.gpuwerk.com
Léann OpenCode (npm install -g opencode-ai) soláthraithe ó opencode.json i do thionscadal:
{
"$schema": "https://opencode.ai/config.json",
"provider": {
"spark": {
"npm": "@ai-sdk/openai-compatible",
"name": "DGX Spark",
"options": { "baseURL": "http://127.0.0.1:30000/v1" },
"models": { "qwen3-coder": { "name": "Qwen3 Coder 30B on a Spark" } }
}
}
}
Léann pi (npm install -g --ignore-scripts @earendil-works/pi-coding-agent) ~/.pi/agent/models.json. Coinnigh contextWindow ag -c an fhreastalaí nó faoina bhun, nó líonann pi an comhthéacs thar fóir agus diúltaíonn an freastalaí don iarratas.
{
"providers": {
"spark": {
"baseUrl": "http://127.0.0.1:30000/v1",
"api": "openai-completions",
"apiKey": "unused",
"compat": { "supportsDeveloperRole": false, "maxTokensField": "max_tokens" },
"models": [
{ "id": "qwen3-coder", "name": "Qwen3 Coder 30B (Spark)",
"reasoning": false, "contextWindow": 65536, "maxTokens": 8192,
"cost": { "input": 0, "output": 0, "cacheRead": 0, "cacheWrite": 0 } }
]
}
}
}
Ansin pi --model qwen3-coder i do stórlann. Leanann an freastalaí ag rith nuair a fhágann an gníomhaire; foirceann an t-ásc sa chonsól nuair atá an lá thart.
Cad a cheannaíonn uair an chloig, in aice le bille API
Cosnaíonn Spark $0.79 san uair, billeáilte in aghaidh an nóiméid: $6.32 do lá ocht n-uaire, $132.72 do 21 lá den sórt sin. Braitheann a bhfaigheann tú ar an méid sin ar chomh gnóthach is a choinníonn tú é. De réir mo chuid áirimh ó na luasanna tomhaiste thuas:
- Forbróir amháin, iarratas amháin ag an am: is ionann 80.9 tok/s agus thart ar 291,000 token ginte san uair ar a mhéad, nó $2.71 in aghaidh an mhilliúin mura stadann an tsamhail riamh. Stadann fíorsheisiúin fad a léann tú agus a ritheann tástálacha, agus mar sin cosnaíonn sé níos mó ná sin in aghaidh an token.
- Foireann a roinneann an críochphointe: le 8 n-iarratas ar siúl, is ionann 8 × 35.2 tok/s agus timpeall 1 milliún token ginte san uair, timpeall $0.78 in aghaidh an mhilliúin.
- Ní chosnaíonn tokens leide aon rud breise. Seolann gníomhaire do chuid comhad agus an comhrá ar fad arís ag gach seal, agus mar sin is ionchur an chuid is mó den bhille ar API in aghaidh an token. Anseo is é an t-am an costas: réamhlíonadh ar 5,705 tok/s.
Cuir iad sin in aice le do shonrasc API féin. D'fhorbróir amháin nach sroicheann a shíntiús códála a theorainneacha riamh, is dócha go bhfuil an síntiús níos saoire. Íocann Spark as féin nuair a roinneann roinnt daoine críochphointe amháin, nuair a chuireann teorainneacha ráta stop le rití fada gníomhairí, nó nuair nár cheart do do chód dul chuig soláthraí samhlacha.
Teorainneacha ar fiú a bheith ar eolas ar dtús
- Samhail oscailte meánmhéide atá ann. Tá Qwen3 Coder 30B tapa anseo mar go léann sé thart ar 3B paraiméadar in aghaidh an token. Ní samhail theorann í, agus níor rith mé tagarmharc códála air. Bain triail as ar do chuid tascanna féin sula n-aistríonn tú obair chuige.
- 32,768 token in aghaidh an iarratais ar an réamhshocrú. Sroicheann gníomhaire a léann go leor comhad é sin. Ligeann Socrú 2 duit fad an chomhthéacs a roghnú.
- Ní ritheann an réamhshocrú ach ar mo Sparks féin. Nuair atá siad ar fad ar cíos, taispeánann an consól é. Ritheann Sparks comhpháirtithe socrú 2.
- Gabhann críochphointe an réamhshocraithe trí mo gheata. Is HTTPS poiblí é, cosanta ag d'eochair API, agus ag brath ar an ásc críochnaíonn TLS ag Cloudflare agus ag mo gheata sula sroicheann an t-iarratas an Spark (tuairiscíonn an API cé acu, mar
https_termination). Do chód nár cheart dó gabháil trí cheachtar acu, bain úsáid as tollán SSH shocrú 2. - Is ARM64 é an Spark. Ritheann do ghníomhaire ar do ríomhaire glúine, agus mar sin is annamh a bhíonn tábhacht leis seo anseo, ach tá tógáil aarch64 de dhíth ar aon rud a shuiteálann tú ar an Spark féin.
- Gan SLA agus gan chúltacaí. Coinnigh do chód i git ar do thaobhsa; scriosann foirceannadh an spás oibre.
Cá bhfuil na Sparks
Tá mo Sparks féin in ionad sonraí in Hradec Králové, Poblacht na Seice. Tá Sparks comhpháirtithe faoi úinéireacht agus faoi óstáil comhpháirtithe ar a n-áitreabh féin sna Stáit Aontaithe, sa tSualainn, san Ísiltír, sa tSlóvaic agus i Hong Cong. Taispeánann an consól an tír, agus cé acu an bhfuil sé sa LEE, sula n-imscarann tú. Tá rochtain fhisiciúil ag comhpháirtí ar a mheaisín, agus ciallaíonn meaisín lasmuigh den LEE go bhfágann do shonraí an AE/LEE, agus mar sin roghnaigh an suíomh a oireann do do chód.
Praghas
$0.79 san uair do Spark amháin, billeáilte in aghaidh an nóiméid ó chreidmheas réamhíoctha. An chéad bhreisiú: íoc $20, faigh $30 de chreidmheas. Coinníonn ásc stadta a spás oibre agus billeáiltear é ag 75% den ráta in aghaidh na huaire. Foirceann é nuair a bheidh tú réidh agus tagann deireadh leis an mbilleáil; scriosann sé sin an spás oibre. Ní áirítear CBL sna praghsanna nuair is infheidhme. Tá na sonraí ar an leathanach praghsanna.
Cé a ritheann é seo
Tá GPUwerk nua, agus mar sin seo cé a bheadh á íoc agat. Is mise Samuel Seidel, an bunaitheoir, agus is é PRINT IT! SE an comhlacht, cláraithe i bPrág. Ó Mheán Fómhair 2026, thosaigh 94 forbróir 374 ásc (amhail an 9 Samhain 2026). Tá stádas na seirbhíse poiblí ag status.gpuwerk.com. Ceisteanna sula dtosaíonn tú? Scríobh tríd an leathanach teagmhála; freagraím féin.
CCanna
An féidir liom pi nó OpenCode a úsáid leis an réamhshocrú Qwen3 Coder 30B?
Ní oibríonn mar atá sé. Seolann an dá cheann glaonna uirlisí OpenAI, agus tosaíonn an réamhshocrú vLLM gan --enable-auto-tool-choice, agus mar sin diúltaíonn vLLM do na hiarratais sin. Imscar an íomhá DGX OS ina ionad sin agus freastail ar an tsamhail le llama.cpp agus --jinja, mar atá i socrú 2 ar an leathanach seo. Oibríonn aider agus mód comhrá Continue leis an réamhshocrú gan athrú.
Cé chomh tapa atá Qwen3 Coder 30B ar DGX Spark?
Ar cheann de mo Sparks ghin sé 80.9 token sa soicind d'iarratas aonair, agus 35.2 in aghaidh an iarratais le 8 n-iarratas ag an am (vLLM 0.27.1, AWQ 4-ghiotán, 2 Meán Fómhair 2026). Tá an loga amh nasctha ar an leathanach seo. Tuairiscíonn cothaitheoirí llama.cpp 61.1 tok/s ag Q8_0.
Cad a chosnaíonn gníomhaire códála ar Spark?
$0.79 san uair, billeáilte in aghaidh an nóiméid ó chreidmheas réamhíoctha, is cuma cad a sheolann an gníomhaire: $6.32 do lá ocht n-uaire. An chéad bhreisiú: íoc $20, faigh $30 de chreidmheas. Billeáiltear ásc stadta ag 75% den ráta in aghaidh na huaire; cuireann foirceannadh deireadh leis an mbilleáil agus scriosann sé an spás oibre. Ní áirítear CBL sna praghsanna nuair is infheidhme.
An dtéann mo chód chuig soláthraí samhlacha?
Níl aon API samhla tríú páirtí i gceist: ritheann an tsamhail ar an Spark a fhaigheann tú ar cíos, nach n-úsáideann aon duine eile fad atá sé agat. Gabhann iarratais chuig críochphointe HTTPS an réamhshocraithe trí gheata GPUwerk agus, ag brath ar an ásc, trí Cloudflare. Seachnaíonn tollán SSH chuig freastalaí a thosaíonn tú féin an dá cheann. Ar Spark comhpháirtí, tá rochtain fhisiciúil ag an gcomhpháirtí ar an meaisín.