DGX Spark/Agenti za programiranje
Primer uporabe · Agenti za programiranje

Zasebni agent za programiranje na vašem lastnem DGX Sparku

Avtor Samuel Seidel · Posodobljeno 10. novembra 2026 · 8 min branja

Najemite cel NVIDIA DGX Spark, zaženite odtis Qwen3 Coder 30B in svojega agenta za kodiranje usmerite na končno točko, združljivo z OpenAI, ki jo streže. Dokler je naprava vaša, je nihče drug ne uporablja, ura pa stane 0,79 USD ne glede na to, koliko tokenov pošlje vaš agent. Na enem od mojih Sparkov je ta model ustvaril 80,9 tokena na sekundo pri eni zahtevi (vLLM, 2. september 2026, surovi dnevnik).

Prvo polnjenje: plačajte 20 USD, dobite 30 USD dobroimetja. Obračun po minutah iz predplačniškega dobroimetja. Ko končate, instanco odstranite in obračun se konča. V konzoli izberite DGX Spark 1× in nato odtis Qwen3 Coder 30B.

Kaj je na napravi

Strojna opremaEn NVIDIA DGX Spark: GB10 Grace Blackwell, 128 GB enotnega pomnilnika s 273 GB/s, 1 TB NVMe. Med delovanjem je cela naprava vaša.
ModelQwen3-Coder-30B-A3B-Instruct v AWQ 4-bit, model z mešanico strokovnjakov, ki na token prebere približno 3 milijarde od svojih 30 milijard parametrov. Uteži so že na napravi.
StrežnikvLLM, ki model streže kot qwen3-coder-30b s kontekstom 32.768 tokenov na zahtevo
Končna točkahttps://app-<instance-id>.gpuwerk.com/v1, združljivo z OpenAI, zaščiteno s ključem API z obsegom za sklepanje, ki ga ustvarite v konzoli
LupinaTerminal root v brskalniku, brez potrebe po ključu SSH, ali root prek SSH z lastnim ključem. Datoteke v /workspace preživijo ponovne zagone.
KjeTa odtis teče na mojih lastnih Sparkih v Hradcu Králové na Češkem. Partnerski Sparki ponujajo odtisa DGX OS in Ubuntu, kjer model zaženete sami (glejte drugo nastavitev spodaj).

Kako hiter je, izmerjeno

Na enem od svojih Sparkov, na katerem ni bilo ničesar drugega na GPU-ju, sem 2. septembra 2026 pognal vllm bench serve na tem modelu (vLLM 0.27.1, AWQ 4-bitno). Celotna metoda in primerjalni zagon s 70B sta na strani z meritvami.

Zahtev hkratiUstvarjeno na zahtevoKakšen je občutek
180,9 tok/sEn razvijalec: odgovori prihajajo hitreje, kot jih berete
835,2 tok/sMajhna ekipa, ki si deli eno končno točko
3218,4 tok/sVeliko vzporednih zagonov agenta; vsak od njih se upočasni

Tudi branje poziva je hitro: poziv z 8.192 tokeni je bil obdelan s 5.705 tok/s, približno 1,4 sekunde pred prvim tokenom. To so referenčni zagoni, ne obljuba za vaše pozive. Prednastavitev, ki jo zaženete danes, morda poganja novejšo gradnjo vLLM, dolgi pozivi agentov pa trajajo dlje kot kratki pozivi pri meritvah.

Kateri agenti delujejo s prednastavitvijo takšno, kot je

Agenti za programiranje se z modelom pogovarjajo na enega od dveh načinov in od tega je odvisno, kakšno nastavitev potrebujete. Prednastavitev zažene vLLM samo z omejitvijo konteksta in omejitvijo pomnilnika (--max-model-len 32768 --gpu-memory-utilization 0.5). Ne poda --enable-auto-tool-choice, vLLM pa zavrne zahteve, ki prosijo za samodejne klice orodij, razen če je bil strežnik zagnan s to zastavico in razčlenjevalnikom klicev orodij.

Nastavitev 1: prednastavitev z aiderjem

  1. V konzoli dodajte dobroimetje, izberite DGX Spark 1× in odtis Qwen3 Coder 30B ter namestite. Obračun se začne, ko instanca prestane preverjanje pripravljenosti in pokaže stanje running.
  2. V konzoli ustvarite ključ API z obsegom za sklepanje in s strani instance prekopirajte končno točko HTTPS.
  3. Na svojem prenosniku preverite, ali se končna točka odziva. Odgovor navaja qwen3-coder-30b.
export SPARK=https://app-<instance-id>.gpuwerk.com/v1
export GPUWERK_API_KEY=sy_key_...        # inference scope
curl -s $SPARK/models -H "Authorization: Bearer $GPUWERK_API_KEY"

Nato v svojem repozitoriju zaženite aider. Predpona openai/ aiderju pove, katero obliko API naj govori; nobena storitev OpenAI pri tem ni vpletena.

export OPENAI_API_BASE=$SPARK
export OPENAI_API_KEY=$GPUWERK_API_KEY
aider --model openai/qwen3-coder-30b

Nastavitve za Continue in Cline za isto končno točko so v članku agenti za programiranje na vaši lastni končni točki.

Nastavitev 2: pi ali OpenCode, s klici orodij

Namesto tega namestite odtis DGX OS. Zgradite llama.cpp za GB10 in zaženite Qwen3 Coder z --jinja, ki uporabi modelu lastno predlogo za klepet in njegove klice orodij vrne v obliki OpenAI. To so koraki gradnje iz mojega vodnika za llama.cpp, izvedeni v terminalu v brskalniku:

apt-get update && apt-get install -y build-essential cmake libcurl4-openssl-dev
git clone https://github.com/ggml-org/llama.cpp /workspace/llama.cpp
cd /workspace/llama.cpp
cmake -B build -DGGML_CUDA=ON -DGGML_CURL=ON -DCMAKE_CUDA_ARCHITECTURES=121a-real
cmake --build build --config Release --target llama-server -j

# about 32 GB of weights on the first start
./build/bin/llama-server -hf unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:Q8_0 \
  --alias qwen3-coder --jinja -c 65536 \
  --host 127.0.0.1 --port 30000

Strežnik posluša le na 127.0.0.1, zato do njega dostopajte prek tunela SSH s prenosnika. Za to potrebujete lasten ključ SSH na instanci (dve minuti). Vzdrževalci llama.cpp za ta model pri Q8_0 na DGX Sparku poročajo o 61,1 tok/s (rezultati za DGX Spark, gradnja 7941); sam te poti nisem izmeril.

# on your laptop, leave it running
ssh -N -L 30000:127.0.0.1:30000 root@<instance-name>.gpuwerk.com

OpenCode (npm install -g opencode-ai) bere ponudnike iz opencode.json v vašem projektu:

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "spark": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "DGX Spark",
      "options": { "baseURL": "http://127.0.0.1:30000/v1" },
      "models": { "qwen3-coder": { "name": "Qwen3 Coder 30B on a Spark" } }
    }
  }
}

pi (npm install -g --ignore-scripts @earendil-works/pi-coding-agent) bere ~/.pi/agent/models.json. contextWindow naj bo enak ali manjši od strežnikovega -c, sicer pi prepolni kontekst in strežnik zahtevo zavrne.

{
  "providers": {
    "spark": {
      "baseUrl": "http://127.0.0.1:30000/v1",
      "api": "openai-completions",
      "apiKey": "unused",
      "compat": { "supportsDeveloperRole": false, "maxTokensField": "max_tokens" },
      "models": [
        { "id": "qwen3-coder", "name": "Qwen3 Coder 30B (Spark)",
          "reasoning": false, "contextWindow": 65536, "maxTokens": 8192,
          "cost": { "input": 0, "output": 0, "cacheRead": 0, "cacheWrite": 0 } }
      ]
    }
  }
}

Nato v svojem repozitoriju poženite pi --model qwen3-coder. Strežnik teče naprej, ko agent konča; ko je dan končan, instanco odstranite v konzoli.

Kaj dobite za uro, ob računu za API

Spark stane 0,79 USD na uro z obračunom po minutah: 6,32 USD za osemurni dan, 132,72 USD za 21 takih dni. Kaj za to dobite, je odvisno od tega, kako zaposlen ga imate. Po mojem izračunu iz zgoraj izmerjenih hitrosti:

To postavite ob svoj račun za API. Za enega razvijalca, katerega naročnina za kodiranje nikoli ne doseže omejitev, je naročnina verjetno cenejša. Spark se izplača, ko si več ljudi deli eno končno točko, ko omejitve hitrosti ustavljajo dolge zagone agentov ali ko vaša koda ne sme k ponudniku modela.

Omejitve, ki jih velja poznati

Kje so Sparki

Moji lastni Sparki so v podatkovnem centru v Hradcu Králové na Češkem. Partnerski Sparki so v lasti partnerjev, ki jih gostijo v svojih prostorih v ZDA, na Švedskem, Nizozemskem, Slovaškem in v Hongkongu. Konzola pred zagonom pokaže državo in ali je ta v EGP. Partner ima fizični dostop do svoje naprave, naprava zunaj EGP pa pomeni, da vaši podatki zapustijo EU/EGP, zato izberite lokacijo, ki ustreza vaši kodi.

Cena

0,79 USD na uro za en Spark, obračun po minutah iz predplačniškega dobroimetja. Prvo polnjenje: plačajte 20 USD, dobite 30 USD dobroimetja. Ustavljena instanca ohrani delovni prostor in se obračunava po 75 % urne cene. Ko končate, jo odstranite in obračun se konča; s tem se izbriše delovni prostor. Cene ne vključujejo DDV, kjer se ta obračuna. Podrobnosti so na strani s cenami.

Kdo to vodi

GPUwerk je nov, zato tukaj piše, komu bi plačevali. Sem Samuel Seidel, ustanovitelj, podjetje pa je PRINT IT! SE s sedežem v Pragi. Od septembra 2026 je 94 razvijalcev zagnalo 374 instanc (stanje 9. novembra 2026). Stanje storitve je javno na status.gpuwerk.com. Vprašanja pred začetkom? Pišite prek kontaktne strani; odgovarjam sam.

Pogosta vprašanja

Ali lahko s prednastavitvijo Qwen3 Coder 30B uporabljam pi ali OpenCode?

Ne v trenutni obliki. Oba pošiljata klice orodij OpenAI, prednastavitev pa zažene vLLM brez --enable-auto-tool-choice, zato vLLM te zahteve zavrne. Namesto tega namestite odtis DGX OS in model strežite z llama.cpp in --jinja, kot v nastavitvi 2 na tej strani. aider in klepetalni način Continue delujeta z nespremenjeno prednastavitvijo.

Kako hiter je Qwen3 Coder 30B na DGX Sparku?

Na enem od mojih Sparkov je ustvaril 80,9 tokena na sekundo pri eni zahtevi in 35,2 na zahtevo pri 8 hkratnih zahtevah (vLLM 0.27.1, AWQ 4-bit, 2. september 2026). Surovi dnevnik je povezan na tej strani. Vzdrževalci llama.cpp poročajo o 61,1 tok/s pri Q8_0.

Koliko stane agent za programiranje na Sparku?

0,79 USD na uro, obračun po minutah iz predplačniškega dobroimetja, ne glede na to, kaj pošlje agent: 6,32 USD za osemurni dan. Prvo polnjenje: plačajte 20 USD, dobite 30 USD dobroimetja. Ustavljena instanca se obračunava po 75 % urne cene; odstranitev konča obračun in izbriše delovni prostor. Cene ne vključujejo DDV, kjer se ta obračuna.

Ali gre moja koda k ponudniku modela?

Noben API modela tretje osebe ni vključen: model teče na Sparku, ki ga najamete in ga nihče drug ne uporablja, dokler je vaš. Zahteve na končno točko HTTPS prednastavitve gredo prek prehoda GPUwerk in, odvisno od instance, prek Cloudflare. Tunel SSH do strežnika, ki ga zaženete sami, se izogne obema. Na partnerskem Sparku ima partner fizični dostop do naprave.

Prvo polnjenje: plačajte 20 USD, dobite 30 USD dobroimetja

Usmerite svojega agenta na lasten Spark.

Namenski DGX Spark s Qwen3 Coder 30B, pripravljenim za strežbo, 0,79 USD/h z obračunom po minutah. Ko končate, ga odstranite in obračun se konča.

Zaženite zdaj