DGX Spark/Kodeagenter
Use case · Kodeagenter

En privat kodeagent på din egen DGX Spark

Af Samuel Seidel · Opdateret 10. november 2026 · 8 min. læsning

Lej en hel NVIDIA DGX Spark, start Qwen3 Coder 30B-imaget, og peg din kodeagent mod det OpenAI-kompatible endpoint, det serverer. Ingen andre bruger maskinen, mens du har den, og en time koster 0 $,79, uanset hvor mange tokens din agent sender. På en af mine Sparks genererede denne model 80,9 tokens i sekundet for en enkelt forespørgsel (vLLM, 2. september 2026, rå log).

Første optankning: betal 20 $, få 30 $ i kredit. Faktureret pr. minut fra forudbetalt kredit. Afslut, når du er færdig, så ophører faktureringen. Vælg DGX Spark 1× og derefter Qwen3 Coder 30B-imaget i konsollen.

Hvad der er på maskinen

HardwareÉn NVIDIA DGX Spark: GB10 Grace Blackwell, 128 GB unified memory ved 273 GB/s, 1 TB NVMe. Hele maskinen er din, mens den kører.
ModelQwen3-Coder-30B-A3B-Instruct i AWQ 4-bit, en mixture-of-experts-model, der læser cirka 3B af sine 30B parametre pr. token. Vægtene ligger allerede på maskinen.
ServervLLM, der serverer modellen som qwen3-coder-30b med en kontekst på 32.768 tokens pr. forespørgsel
Endpointhttps://app-<instance-id>.gpuwerk.com/v1, OpenAI-kompatibel, beskyttet af en API-nøgle med inference-scope, som du opretter i konsollen
ShellEn root-terminal i browseren uden behov for SSH-nøgle, eller root over SSH med din egen nøgle. Filer under /workspace overlever genstarter.
HvorDette image kører på mine egne Sparks i Hradec Králové i Tjekkiet. Partner-Sparks tilbyder DGX OS- og Ubuntu-images, hvor du selv starter modellen (se den anden opsætning nedenfor).

Hvor hurtig den er, målt

Jeg kørte vllm bench serve mod denne model på en af mine Sparks uden andet på GPU'en den 2. september 2026 (vLLM 0.27.1, AWQ 4-bit). Den fulde metode og sammenligningskørslen med 70B står på benchmarksiden.

Forespørgsler samtidigGenereret pr. forespørgselHvordan det føles
180,9 tok/sÉn udvikler: svarene streames hurtigere, end du kan læse dem
835,2 tok/sEt lille team, der deler ét endpoint
3218,4 tok/sMange parallelle agentkørsler; hver enkelt bliver langsommere

Det går også hurtigt at læse prompten: en prompt på 8.192 tokens blev læst ind ved 5.705 tok/s, cirka 1,4 sekunder før første token. Det er referencekørsler, ikke et løfte for dine prompts. En forudindstilling, du udruller i dag, kan køre et nyere vLLM-build, og lange agentprompts tager længere tid end korte benchmarkprompts.

Hvilke agenter der virker med forudindstillingen, som den er

Kodeagenter taler med en model på en af to måder, og det afgør, hvilken opsætning du har brug for. Forudindstillingen starter vLLM kun med en kontekstgrænse og en hukommelsesgrænse (--max-model-len 32768 --gpu-memory-utilization 0.5). Den sender ikke --enable-auto-tool-choice, og vLLM afviser forespørgsler, der beder om automatiske tool calls, medmindre serveren er startet med det flag og en tool-call-parser.

Opsætning 1: forudindstillingen med aider

  1. I konsollen tilføjer du kredit, vælger DGX Spark 1× og Qwen3 Coder 30B-imaget og udruller. Faktureringen starter, når instansen er meldt klar og viser running.
  2. Opret en API-nøgle med inference-scope i konsollen, og kopiér HTTPS-endpointet fra instanssiden.
  3. Tjek på din laptop, at endpointet svarer. Svaret viser qwen3-coder-30b.
export SPARK=https://app-<instance-id>.gpuwerk.com/v1
export GPUWERK_API_KEY=sy_key_...        # inference scope
curl -s $SPARK/models -H "Authorization: Bearer $GPUWERK_API_KEY"

Start derefter aider i dit repository. Præfikset openai/ fortæller aider, hvilket API-format den skal tale; ingen OpenAI-tjeneste er involveret.

export OPENAI_API_BASE=$SPARK
export OPENAI_API_KEY=$GPUWERK_API_KEY
aider --model openai/qwen3-coder-30b

Indstillinger for Continue og Cline til samme endpoint står i kodeagenter mod dit eget endpoint.

Opsætning 2: pi eller OpenCode med tool calls

Udrul i stedet DGX OS-imaget. Byg llama.cpp til GB10, og start Qwen3 Coder med --jinja, som anvender modellens egen chatskabelon og returnerer dens tool calls i OpenAI-formatet. Det er byggetrinene fra min llama.cpp-guide, kørt i browserterminalen:

apt-get update && apt-get install -y build-essential cmake libcurl4-openssl-dev
git clone https://github.com/ggml-org/llama.cpp /workspace/llama.cpp
cd /workspace/llama.cpp
cmake -B build -DGGML_CUDA=ON -DGGML_CURL=ON -DCMAKE_CUDA_ARCHITECTURES=121a-real
cmake --build build --config Release --target llama-server -j

# about 32 GB of weights on the first start
./build/bin/llama-server -hf unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:Q8_0 \
  --alias qwen3-coder --jinja -c 65536 \
  --host 127.0.0.1 --port 30000

Serveren lytter kun på 127.0.0.1, så du når den via en SSH-tunnel fra din laptop. Det kræver din egen SSH-nøgle på instansen (to minutter). llama.cpp-vedligeholderne rapporterer 61,1 tok/s for denne model ved Q8_0 på en DGX Spark (DGX Spark-resultater, build 7941); jeg har ikke selv målt denne vej.

# on your laptop, leave it running
ssh -N -L 30000:127.0.0.1:30000 root@<instance-name>.gpuwerk.com

OpenCode (npm install -g opencode-ai) læser udbydere fra opencode.json i dit projekt:

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "spark": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "DGX Spark",
      "options": { "baseURL": "http://127.0.0.1:30000/v1" },
      "models": { "qwen3-coder": { "name": "Qwen3 Coder 30B on a Spark" } }
    }
  }
}

pi (npm install -g --ignore-scripts @earendil-works/pi-coding-agent) læser ~/.pi/agent/models.json. Hold contextWindow på eller under serverens -c, ellers overfylder pi konteksten, og serveren afviser forespørgslen.

{
  "providers": {
    "spark": {
      "baseUrl": "http://127.0.0.1:30000/v1",
      "api": "openai-completions",
      "apiKey": "unused",
      "compat": { "supportsDeveloperRole": false, "maxTokensField": "max_tokens" },
      "models": [
        { "id": "qwen3-coder", "name": "Qwen3 Coder 30B (Spark)",
          "reasoning": false, "contextWindow": 65536, "maxTokens": 8192,
          "cost": { "input": 0, "output": 0, "cacheRead": 0, "cacheWrite": 0 } }
      ]
    }
  }
}

Kør derefter pi --model qwen3-coder i dit repository. Serveren kører videre, når agenten afsluttes; afslut instansen i konsollen, når dagen er omme.

Hvad en time køber, ved siden af en API-regning

En Spark koster 0 $,79 i timen, faktureret pr. minut: 6 $,32 for en arbejdsdag på otte timer, 132 $,72 for 21 sådanne dage. Hvad du får for det, afhænger af, hvor travlt du holder den. Ifølge min beregning ud fra de målte hastigheder ovenfor:

Sammenlign det med din egen API-faktura. For én udvikler, hvis kodeabonnement aldrig rammer sine grænser, er abonnementet sandsynligvis billigere. En Spark betaler sig, når flere deler ét endpoint, når ratebegrænsninger stopper lange agentkørsler, eller når din kode ikke bør gå til en modeludbyder.

Begrænsninger, du skal kende først

Hvor Sparks står

Mine egne Sparks står i et datacenter i Hradec Králové i Tjekkiet. Partner-Sparks ejes og hostes af partnere i deres egne lokaler i USA, Sverige, Nederlandene, Slovakiet og Hongkong. Konsollen viser landet, og om det er i EØS, før du udruller. En partner har fysisk adgang til sin maskine, og en maskine uden for EØS betyder, at dine data forlader EU/EØS, så vælg den placering, der passer til din kode.

Pris

0 $,79 i timen for én Spark, faktureret pr. minut fra forudbetalt kredit. Første optankning: betal 20 $, få 30 $ i kredit. En stoppet instans beholder sit workspace og faktureres med 75 % af timeprisen. Afslut den, når du er færdig, så ophører faktureringen; det sletter workspacet. Priserne er ekskl. moms, hvor det er relevant. Detaljerne står på prissiden.

Hvem driver dette

GPUwerk er ny, så her er, hvem du ville betale. Jeg hedder Samuel Seidel og er grundlæggeren, og virksomheden er PRINT IT! SE, registreret i Prag. Siden september 2026 har 94 udviklere startet 374 instanser (pr. 9. november 2026). Driftsstatus er offentlig på status.gpuwerk.com. Spørgsmål, før du går i gang? Skriv via kontaktsiden; jeg svarer selv.

FAQ

Kan jeg bruge pi eller OpenCode med forudindstillingen Qwen3 Coder 30B?

Ikke som de er. Begge sender OpenAI-tool calls, og forudindstillingen starter vLLM uden --enable-auto-tool-choice, så vLLM afviser de forespørgsler. Udrul i stedet DGX OS-imaget, og server modellen med llama.cpp og --jinja som i opsætning 2 på denne side. aider og Continues chattilstand virker med forudindstillingen uændret.

Hvor hurtig er Qwen3 Coder 30B på en DGX Spark?

På en af mine Sparks genererede den 80,9 tokens i sekundet for en enkelt forespørgsel og 35,2 pr. forespørgsel med 8 forespørgsler samtidig (vLLM 0.27.1, AWQ 4-bit, 2. september 2026). Den rå log er linket på denne side. llama.cpp-vedligeholderne rapporterer 61,1 tok/s ved Q8_0.

Hvad koster en kodeagent på en Spark?

0 $,79 i timen, faktureret pr. minut fra forudbetalt kredit, uanset hvad agenten sender: 6 $,32 for en arbejdsdag på otte timer. Første optankning: betal 20 $, få 30 $ i kredit. En stoppet instans faktureres med 75 % af timeprisen; afslutning stopper faktureringen og sletter workspacet. Priserne er ekskl. moms, hvor det er relevant.

Går min kode til en modeludbyder?

Der indgår ingen tredjeparts model-API: modellen kører på den Spark, du lejer, og som ingen andre bruger, mens du har den. Forespørgsler til forudindstillingens HTTPS-endpoint går gennem GPUwerks gateway og, afhængigt af instansen, Cloudflare. En SSH-tunnel til en server, du selv starter, undgår begge. På en partner-Spark har partneren fysisk adgang til maskinen.

Første optankning: betal 20 $, få 30 $ i kredit

Peg din agent mod din egen Spark.

En dedikeret DGX Spark med Qwen3 Coder 30B klar til serving, 0 $,79/t faktureret pr. minut. Afslut, når du er færdig, så ophører faktureringen.

Udrul nu