DGX Spark/Gníomhairí códála
Cás úsáide · Gníomhairí códála

Gníomhaire códaithe príobháideach ar do DGX Spark féin

Le Samuel Seidel · Nuashonraithe 10 Samhain 2026 · 8 nóiméad léitheoireachta

Faigh NVIDIA DGX Spark iomlán ar cíos, tosaigh an íomhá Qwen3 Coder 30B, agus dírigh do ghníomhaire códála ar an gcríochphointe atá comhoiriúnach le OpenAI a bhfreastalaíonn sé air. Ní úsáideann aon duine eile an meaisín fad atá sé agat, agus cosnaíonn uair an chloig $0.79 is cuma cé mhéad token a sheolann do ghníomhaire. Ar cheann de mo Sparks ghin an tsamhail seo 80.9 token sa soicind d'iarratas aonair (vLLM, 2 Meán Fómhair 2026, loga amh).

An chéad bhreisiú: íoc $20, faigh $30 de chreidmheas. Billeáilte in aghaidh an nóiméid ó chreidmheas réamhíoctha. Foirceann é nuair atá tú críochnaithe agus cuirtear deireadh leis an mbilleáil. Sa chonsól, roghnaigh DGX Spark 1× agus ansin an íomhá Qwen3 Coder 30B.

Cad atá ar an meaisín

Crua-earraíNVIDIA DGX Spark amháin: GB10 Grace Blackwell, 128 GB de chuimhne aontaithe ag 273 GB/s, NVMe 1 TB. Is leat an meaisín ar fad fad a ritheann sé.
SamhailQwen3-Coder-30B-A3B-Instruct in AWQ 4-ghiotán, samhail mheasctha-saineolaithe a léann thart ar 3B dá 30B paraiméadar in aghaidh an token. Tá na meáchain ar an meaisín cheana féin.
FreastalaívLLM, ag freastal ar an tsamhail mar qwen3-coder-30b le comhthéacs 32,768 token in aghaidh an iarratais
Críochphointehttps://app-<instance-id>.gpuwerk.com/v1, comhoiriúnach le OpenAI, cosanta ag eochair API leis an scóip tátail a chruthaíonn tú sa chonsól
BlaoscTeirminéal root sa bhrabhsálaí, gan eochair SSH ag teastáil, nó root thar SSH le d'eochair féin. Maireann comhaid faoi /workspace tar éis atosuithe.
Cá háitRitheann an íomhá seo ar mo Sparks féin in Hradec Králové, Poblacht na Seice. Tairgeann Sparks comhpháirtithe na híomhánna DGX OS agus Ubuntu, áit a dtosaíonn tú an tsamhail tú féin (féach an dara socrú thíos).

Cé chomh tapa atá sé, tomhaiste

Rith mé vllm bench serve i gcoinne na samhla seo ar cheann de mo Sparks gan aon rud eile ar a GPU, ar an 2 Meán Fómhair 2026 (vLLM 0.27.1, AWQ 4-ghiotán). Tá an modh iomlán agus an rith comparáide 70B ar an leathanach tagarmharcanna.

Iarratais ag an amGinte in aghaidh an iarrataisAn chuma atá air
180.9 tok/sForbróir amháin: sruthaíonn na freagraí níos tapúla ná mar a léann tú iad
835.2 tok/sFoireann bheag a roinneann críochphointe amháin
3218.4 tok/sGo leor rití gníomhairí comhthreomhara; moillíonn gach ceann acu

Tá an leid á léamh tapa freisin: chuaigh leid 8,192 token isteach ar 5,705 tok/s, thart ar 1.4 soicind sular tháinig an chéad token. Rití tagartha iad seo, ní gealltanas do do chuid leideanna. D'fhéadfadh réamhshocrú a imscarann tú inniu tógáil vLLM níos nuaí a rith, agus tógann leideanna fada gníomhairí níos faide ná cinn ghearra tagarmhairc.

Cé na gníomhairí a oibríonn leis an réamhshocrú mar atá sé

Labhraíonn gníomhairí códála le samhail ar cheann de dhá bhealach, agus socraíonn sin cén socrú atá uait. Tosaíonn an réamhshocrú vLLM le teorainn chomhthéacs agus teorainn chuimhne amháin (--max-model-len 32768 --gpu-memory-utilization 0.5). Ní chuireann sé --enable-auto-tool-choice ar aghaidh, agus diúltaíonn vLLM d'iarratais a iarrann glaonna uirlisí uathoibríocha mura ndearnadh an freastalaí a thosú leis an mbratach sin agus le parsálaí glaonna uirlisí.

Socrú 1: an réamhshocrú le aider

  1. Sa chonsól, cuir creidmheas leis, roghnaigh DGX Spark 1× agus an íomhá Qwen3 Coder 30B, agus imscar. Tosaíonn an bhilleáil a luaithe a éiríonn leis an ásc ina sheiceáil ullmhachta agus a thaispeánann sé ag rith.
  2. Cruthaigh eochair API leis an scóip tátail sa chonsól, agus cóipeáil an críochphointe HTTPS ó leathanach an áisc.
  3. Ar do ríomhaire glúine, seiceáil go bhfreagraíonn an críochphointe. Liostaíonn an freagra qwen3-coder-30b.
export SPARK=https://app-<instance-id>.gpuwerk.com/v1
export GPUWERK_API_KEY=sy_key_...        # inference scope
curl -s $SPARK/models -H "Authorization: Bearer $GPUWERK_API_KEY"

Ansin tosaigh aider i do stórlann. Insíonn an réimír openai/ do aider cén fhormáid API le labhairt; níl aon tseirbhís OpenAI i gceist.

export OPENAI_API_BASE=$SPARK
export OPENAI_API_KEY=$GPUWERK_API_KEY
aider --model openai/qwen3-coder-30b

Tá socruithe Continue agus Cline don chríochphointe céanna in gníomhairí códála le do chríochphointe féin.

Socrú 2: pi nó OpenCode, le glaonna uirlisí

Imscar an íomhá DGX OS ina ionad sin. Tóg llama.cpp don GB10 agus tosaigh Qwen3 Coder le --jinja, a chuireann teimpléad comhrá na samhla féin i bhfeidhm agus a chuireann a chuid glaonna uirlisí ar ais i bhformáid OpenAI. Seo iad na céimeanna tógála ó mo threoir llama.cpp, á rith sa teirminéal brabhsálaí:

apt-get update && apt-get install -y build-essential cmake libcurl4-openssl-dev
git clone https://github.com/ggml-org/llama.cpp /workspace/llama.cpp
cd /workspace/llama.cpp
cmake -B build -DGGML_CUDA=ON -DGGML_CURL=ON -DCMAKE_CUDA_ARCHITECTURES=121a-real
cmake --build build --config Release --target llama-server -j

# about 32 GB of weights on the first start
./build/bin/llama-server -hf unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:Q8_0 \
  --alias qwen3-coder --jinja -c 65536 \
  --host 127.0.0.1 --port 30000

Ní éisteann an freastalaí ach ar 127.0.0.1, agus mar sin sroich é trí thollán SSH ó do ríomhaire glúine. Tá d'eochair SSH féin de dhíth ar an ásc chuige sin (dhá nóiméad). Tuairiscíonn cothaitheoirí llama.cpp 61.1 tok/s don tsamhail seo ag Q8_0 ar DGX Spark (torthaí DGX Spark, tógáil 7941); níor thomhais mé an chonair seo mé féin.

# on your laptop, leave it running
ssh -N -L 30000:127.0.0.1:30000 root@<instance-name>.gpuwerk.com

Léann OpenCode (npm install -g opencode-ai) soláthraithe ó opencode.json i do thionscadal:

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "spark": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "DGX Spark",
      "options": { "baseURL": "http://127.0.0.1:30000/v1" },
      "models": { "qwen3-coder": { "name": "Qwen3 Coder 30B on a Spark" } }
    }
  }
}

Léann pi (npm install -g --ignore-scripts @earendil-works/pi-coding-agent) ~/.pi/agent/models.json. Coinnigh contextWindow ag -c an fhreastalaí nó faoina bhun, nó líonann pi an comhthéacs thar fóir agus diúltaíonn an freastalaí don iarratas.

{
  "providers": {
    "spark": {
      "baseUrl": "http://127.0.0.1:30000/v1",
      "api": "openai-completions",
      "apiKey": "unused",
      "compat": { "supportsDeveloperRole": false, "maxTokensField": "max_tokens" },
      "models": [
        { "id": "qwen3-coder", "name": "Qwen3 Coder 30B (Spark)",
          "reasoning": false, "contextWindow": 65536, "maxTokens": 8192,
          "cost": { "input": 0, "output": 0, "cacheRead": 0, "cacheWrite": 0 } }
      ]
    }
  }
}

Ansin pi --model qwen3-coder i do stórlann. Leanann an freastalaí ag rith nuair a fhágann an gníomhaire; foirceann an t-ásc sa chonsól nuair atá an lá thart.

Cad a cheannaíonn uair an chloig, in aice le bille API

Cosnaíonn Spark $0.79 san uair, billeáilte in aghaidh an nóiméid: $6.32 do lá ocht n-uaire, $132.72 do 21 lá den sórt sin. Braitheann a bhfaigheann tú ar an méid sin ar chomh gnóthach is a choinníonn tú é. De réir mo chuid áirimh ó na luasanna tomhaiste thuas:

Cuir iad sin in aice le do shonrasc API féin. D'fhorbróir amháin nach sroicheann a shíntiús códála a theorainneacha riamh, is dócha go bhfuil an síntiús níos saoire. Íocann Spark as féin nuair a roinneann roinnt daoine críochphointe amháin, nuair a chuireann teorainneacha ráta stop le rití fada gníomhairí, nó nuair nár cheart do do chód dul chuig soláthraí samhlacha.

Teorainneacha ar fiú a bheith ar eolas ar dtús

Cá bhfuil na Sparks

Tá mo Sparks féin in ionad sonraí in Hradec Králové, Poblacht na Seice. Tá Sparks comhpháirtithe faoi úinéireacht agus faoi óstáil comhpháirtithe ar a n-áitreabh féin sna Stáit Aontaithe, sa tSualainn, san Ísiltír, sa tSlóvaic agus i Hong Cong. Taispeánann an consól an tír, agus cé acu an bhfuil sé sa LEE, sula n-imscarann tú. Tá rochtain fhisiciúil ag comhpháirtí ar a mheaisín, agus ciallaíonn meaisín lasmuigh den LEE go bhfágann do shonraí an AE/LEE, agus mar sin roghnaigh an suíomh a oireann do do chód.

Praghas

$0.79 san uair do Spark amháin, billeáilte in aghaidh an nóiméid ó chreidmheas réamhíoctha. An chéad bhreisiú: íoc $20, faigh $30 de chreidmheas. Coinníonn ásc stadta a spás oibre agus billeáiltear é ag 75% den ráta in aghaidh na huaire. Foirceann é nuair a bheidh tú réidh agus tagann deireadh leis an mbilleáil; scriosann sé sin an spás oibre. Ní áirítear CBL sna praghsanna nuair is infheidhme. Tá na sonraí ar an leathanach praghsanna.

Cé a ritheann é seo

Tá GPUwerk nua, agus mar sin seo cé a bheadh á íoc agat. Is mise Samuel Seidel, an bunaitheoir, agus is é PRINT IT! SE an comhlacht, cláraithe i bPrág. Ó Mheán Fómhair 2026, thosaigh 94 forbróir 374 ásc (amhail an 9 Samhain 2026). Tá stádas na seirbhíse poiblí ag status.gpuwerk.com. Ceisteanna sula dtosaíonn tú? Scríobh tríd an leathanach teagmhála; freagraím féin.

CCanna

An féidir liom pi nó OpenCode a úsáid leis an réamhshocrú Qwen3 Coder 30B?

Ní oibríonn mar atá sé. Seolann an dá cheann glaonna uirlisí OpenAI, agus tosaíonn an réamhshocrú vLLM gan --enable-auto-tool-choice, agus mar sin diúltaíonn vLLM do na hiarratais sin. Imscar an íomhá DGX OS ina ionad sin agus freastail ar an tsamhail le llama.cpp agus --jinja, mar atá i socrú 2 ar an leathanach seo. Oibríonn aider agus mód comhrá Continue leis an réamhshocrú gan athrú.

Cé chomh tapa atá Qwen3 Coder 30B ar DGX Spark?

Ar cheann de mo Sparks ghin sé 80.9 token sa soicind d'iarratas aonair, agus 35.2 in aghaidh an iarratais le 8 n-iarratas ag an am (vLLM 0.27.1, AWQ 4-ghiotán, 2 Meán Fómhair 2026). Tá an loga amh nasctha ar an leathanach seo. Tuairiscíonn cothaitheoirí llama.cpp 61.1 tok/s ag Q8_0.

Cad a chosnaíonn gníomhaire códála ar Spark?

$0.79 san uair, billeáilte in aghaidh an nóiméid ó chreidmheas réamhíoctha, is cuma cad a sheolann an gníomhaire: $6.32 do lá ocht n-uaire. An chéad bhreisiú: íoc $20, faigh $30 de chreidmheas. Billeáiltear ásc stadta ag 75% den ráta in aghaidh na huaire; cuireann foirceannadh deireadh leis an mbilleáil agus scriosann sé an spás oibre. Ní áirítear CBL sna praghsanna nuair is infheidhme.

An dtéann mo chód chuig soláthraí samhlacha?

Níl aon API samhla tríú páirtí i gceist: ritheann an tsamhail ar an Spark a fhaigheann tú ar cíos, nach n-úsáideann aon duine eile fad atá sé agat. Gabhann iarratais chuig críochphointe HTTPS an réamhshocraithe trí gheata GPUwerk agus, ag brath ar an ásc, trí Cloudflare. Seachnaíonn tollán SSH chuig freastalaí a thosaíonn tú féin an dá cheann. Ar Spark comhpháirtí, tá rochtain fhisiciúil ag an gcomhpháirtí ar an meaisín.

An chéad bhreisiú: íoc $20, faigh $30 de chreidmheas

Dírigh do ghníomhaire ar Spark de do chuid féin.

DGX Spark tiomnaithe le Qwen3 Coder 30B réidh le freastal, $0.79/h billeáilte in aghaidh an nóiméid. Foirceann é nuair a bheidh tú réidh agus tagann deireadh leis an mbilleáil.

Imscar anois