DGX Spark/Koodausagentit
Käyttötapaus · Koodausagentit

Yksityinen koodausagentti omalla DGX Sparkillasi

Kirjoittaja: Samuel Seidel · Päivitetty 10. marraskuuta 2026 · 8 min lukuaika

Vuokraa kokonainen NVIDIA DGX Spark, käynnistä Qwen3 Coder 30B -vedos ja ohjaa koodausagenttisi sen tarjoamaan OpenAI-yhteensopivaan päätepisteeseen. Kukaan muu ei käytä konetta sillä aikaa, kun se on sinulla, ja tunti maksaa 0,79 $ riippumatta siitä, kuinka monta tokenia agenttisi lähettää. Yhdellä Sparkeistani tämä malli tuotti 80,9 tokenia sekunnissa yksittäiselle pyynnölle (vLLM, 2. syyskuuta 2026, raakaloki).

Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa. Laskutus minuutin tarkkuudella ennakkoon maksetusta saldosta. Lopeta, kun olet valmis, niin laskutus päättyy. Valitse konsolissa DGX Spark 1× ja sitten Qwen3 Coder 30B -vedos.

Mitä koneella on

LaitteistoYksi NVIDIA DGX Spark: GB10 Grace Blackwell, 128 GB yhtenäistä muistia 273 GB/s:n nopeudella, 1 TB NVMe. Koko kone on sinun, kun se on käynnissä.
MalliQwen3-Coder-30B-A3B-Instruct AWQ 4-bit -muodossa, mixture-of-experts-malli, joka lukee tokenia kohden noin 3B 30B parametristaan. Painot ovat jo koneella.
PalvelinvLLM, joka tarjoaa mallin nimellä qwen3-coder-30b 32 768 tokenin kontekstilla pyyntöä kohden
Päätepistehttps://app-<instance-id>.gpuwerk.com/v1, OpenAI-yhteensopiva, suojattu konsolissa luomallasi API-avaimella, jolla on inference-oikeus
KomentoriviRoot-pääte selaimessa ilman SSH-avainta tai root SSH:lla omalla avaimellasi. /workspace-hakemiston tiedostot säilyvät uudelleenkäynnistyksissä.
MissäTämä vedos toimii omilla Sparkeillani Hradec Královéssa, Tšekissä. Kumppaneiden Sparkit tarjoavat DGX OS- ja Ubuntu-vedokset, joilla käynnistät mallin itse (katso toinen asetus alla).

Kuinka nopea se on, mitattuna

Ajoin vllm bench serve -testin tälle mallille yhdellä Sparkeistani ilman muuta kuormaa sen GPU:lla 2. syyskuuta 2026 (vLLM 0.27.1, AWQ 4-bit). Koko menetelmä ja 70B-vertailuajo ovat vertailutestisivulla.

Pyyntöjä kerrallaTuotettu pyyntöä kohdenMiltä se tuntuu
180,9 tok/sYksi kehittäjä: vastaukset virtaavat nopeammin kuin ehdit lukea
835,2 tok/sPieni tiimi, joka jakaa yhden päätepisteen
3218,4 tok/sMonta rinnakkaista agenttiajoa; jokainen hidastuu

Myös kehotteen lukeminen on nopeaa: 8 192 tokenin kehote meni sisään 5 705 tok/s:n nopeudella, noin 1,4 sekuntia ennen ensimmäistä tokenia. Nämä ovat viiteajoja, eivät lupaus omille kehotteillesi. Tänään käyttöön ottamasi esiasetus voi ajaa uudempaa vLLM-versiota, ja pitkät agenttikehotteet vievät kauemmin kuin lyhyet vertailutestikehotteet.

Mitkä agentit toimivat esiasetuksella sellaisenaan

Koodausagentit puhuvat mallille kahdella tavalla, ja se ratkaisee, minkä asetuksen tarvitset. Esiasetus käynnistää vLLM:n vain kontekstirajalla ja muistirajalla (--max-model-len 32768 --gpu-memory-utilization 0.5). Se ei välitä valitsinta --enable-auto-tool-choice, ja vLLM hylkää pyynnöt, jotka pyytävät automaattisia työkalukutsuja, ellei palvelinta ole käynnistetty tällä valitsimella ja työkalukutsujen jäsentimellä.

Asetus 1: esiasetus aiderin kanssa

  1. Lataa konsolissa saldoa, valitse DGX Spark 1× ja Qwen3 Coder 30B -vedos ja ota käyttöön. Laskutus alkaa, kun instanssi läpäisee valmiustarkistuksensa ja näyttää tilan running.
  2. Luo konsolissa API-avain, jolla on inference-oikeus, ja kopioi HTTPS-päätepiste instanssin sivulta.
  3. Tarkista kannettavallasi, että päätepiste vastaa. Vastaus listaa qwen3-coder-30b.
export SPARK=https://app-<instance-id>.gpuwerk.com/v1
export GPUWERK_API_KEY=sy_key_...        # inference scope
curl -s $SPARK/models -H "Authorization: Bearer $GPUWERK_API_KEY"

Käynnistä sitten aider repossasi. Etuliite openai/ kertoo aiderille, mitä API-muotoa puhua; mitään OpenAI-palvelua ei käytetä.

export OPENAI_API_BASE=$SPARK
export OPENAI_API_KEY=$GPUWERK_API_KEY
aider --model openai/qwen3-coder-30b

Continuen ja Clinen asetukset samalle päätepisteelle ovat oppaassa koodausagentit omaa päätepistettäsi vasten.

Asetus 2: pi tai OpenCode työkalukutsuilla

Ota sen sijaan käyttöön DGX OS -vedos. Käännä llama.cpp GB10:lle ja käynnistä Qwen3 Coder valitsimella --jinja, joka soveltaa mallin omaa chat-mallipohjaa ja palauttaa sen työkalukutsut OpenAI-muodossa. Nämä ovat käännösvaiheet llama.cpp-oppaastani, ajettuina selainpäätteessä:

apt-get update && apt-get install -y build-essential cmake libcurl4-openssl-dev
git clone https://github.com/ggml-org/llama.cpp /workspace/llama.cpp
cd /workspace/llama.cpp
cmake -B build -DGGML_CUDA=ON -DGGML_CURL=ON -DCMAKE_CUDA_ARCHITECTURES=121a-real
cmake --build build --config Release --target llama-server -j

# about 32 GB of weights on the first start
./build/bin/llama-server -hf unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:Q8_0 \
  --alias qwen3-coder --jinja -c 65536 \
  --host 127.0.0.1 --port 30000

Palvelin kuuntelee vain osoitteessa 127.0.0.1, joten pääset siihen SSH-tunnelin kautta kannettavaltasi. Se vaatii oman SSH-avaimesi instanssissa (kaksi minuuttia). llama.cpp:n ylläpitäjät raportoivat tälle mallille 61,1 tok/s Q8_0:lla DGX Sparkilla (DGX Spark -tulokset, build 7941); en ole itse mitannut tätä polkua.

# on your laptop, leave it running
ssh -N -L 30000:127.0.0.1:30000 root@<instance-name>.gpuwerk.com

OpenCode (npm install -g opencode-ai) lukee tarjoajat projektisi tiedostosta opencode.json:

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "spark": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "DGX Spark",
      "options": { "baseURL": "http://127.0.0.1:30000/v1" },
      "models": { "qwen3-coder": { "name": "Qwen3 Coder 30B on a Spark" } }
    }
  }
}

pi (npm install -g --ignore-scripts @earendil-works/pi-coding-agent) lukee tiedoston ~/.pi/agent/models.json. Pidä contextWindow enintään palvelimen -c-arvon suuruisena, tai pi ylitäyttää kontekstin ja palvelin hylkää pyynnön.

{
  "providers": {
    "spark": {
      "baseUrl": "http://127.0.0.1:30000/v1",
      "api": "openai-completions",
      "apiKey": "unused",
      "compat": { "supportsDeveloperRole": false, "maxTokensField": "max_tokens" },
      "models": [
        { "id": "qwen3-coder", "name": "Qwen3 Coder 30B (Spark)",
          "reasoning": false, "contextWindow": 65536, "maxTokens": 8192,
          "cost": { "input": 0, "output": 0, "cacheRead": 0, "cacheWrite": 0 } }
      ]
    }
  }
}

Sitten pi --model qwen3-coder repossasi. Palvelin jatkaa toimintaansa, kun agentti sulkeutuu; lopeta instanssi konsolissa, kun päivä on ohi.

Mitä tunti ostaa API-laskun rinnalla

Spark maksaa 0,79 $ tunnilta, laskutus minuutin tarkkuudella: 6,32 $ kahdeksan tunnin työpäivältä, 132,72 21 $ tällaiselta päivältä. Mitä sillä saat, riippuu siitä, kuinka kiireisenä sen pidät. Omien laskelmieni mukaan yllä mitatuista nopeuksista:

Aseta ne oman API-laskusi viereen. Yhdelle kehittäjälle, jonka koodaustilaus ei koskaan osu rajoihinsa, tilaus on todennäköisesti halvempi. Spark kannattaa, kun useat ihmiset jakavat yhden päätepisteen, kun nopeusrajoitukset pysäyttävät pitkiä agenttiajoja tai kun koodisi ei saa mennä mallintarjoajalle.

Rajoitukset, jotka kannattaa tietää ensin

Missä Sparkit ovat

Omat Sparkini ovat konesalissa Hradec Královéssa, Tšekissä. Kumppaneiden Sparkit ovat kumppaneiden omistamia ja niiden omissa tiloissa ylläpitämiä Yhdysvalloissa, Ruotsissa, Alankomaissa, Slovakiassa ja Hongkongissa. Konsoli näyttää maan ja sen, onko kone ETA-alueella, ennen käyttöönottoa. Kumppanilla on fyysinen pääsy koneeseensa, ja ETA-alueen ulkopuolinen kone tarkoittaa, että datasi poistuu EU:sta/ETA-alueelta, joten valitse koodillesi sopiva sijainti.

Hinta

0,79 $ tunnilta yhdestä Sparkista, laskutus minuutin tarkkuudella ennakkoon maksetusta saldosta. Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa. Pysäytetty instanssi säilyttää työtilansa ja laskutetaan 75 %:lla tuntihinnasta. Lopeta se, kun olet valmis, niin laskutus päättyy; se poistaa työtilan. Hinnat eivät sisällä alv:tä, jos sitä sovelletaan. Tiedot ovat hinnoittelusivulla.

Kuka tätä pyörittää

GPUwerk on uusi, joten tässä on, kenelle maksaisit. Olen Samuel Seidel, perustaja, ja yritys on PRINT IT! SE, rekisteröity Prahaan. Syyskuusta 2026 lähtien 94 kehittäjää on käynnistänyt 374 instanssia (tilanne 9. marraskuuta 2026). Palvelun tila on julkisesti osoitteessa status.gpuwerk.com. Kysyttävää ennen aloittamista? Kirjoita yhteystietosivun kautta; vastaan itse.

UKK

Voinko käyttää pi:tä tai OpenCodea Qwen3 Coder 30B -esiasetuksen kanssa?

Ei sellaisenaan. Molemmat lähettävät OpenAI-työkalukutsuja, ja esiasetus käynnistää vLLM:n ilman valitsinta --enable-auto-tool-choice, joten vLLM hylkää nuo pyynnöt. Ota sen sijaan käyttöön DGX OS -vedos ja aja malli llama.cpp:llä ja valitsimella --jinja, kuten tämän sivun asetuksessa 2. aider ja Continuen chat-tila toimivat esiasetuksella sellaisenaan.

Kuinka nopea Qwen3 Coder 30B on DGX Sparkilla?

Yhdellä Sparkeistani se tuotti 80,9 tokenia sekunnissa yksittäiselle pyynnölle ja 35,2 pyyntöä kohden 8 samanaikaisella pyynnöllä (vLLM 0.27.1, AWQ 4-bit, 2. syyskuuta 2026). Raakaloki on linkitetty tällä sivulla. llama.cpp:n ylläpitäjät raportoivat 61,1 tok/s Q8_0:lla.

Mitä koodausagentti Sparkilla maksaa?

0,79 $ tunnilta, laskutus minuutin tarkkuudella ennakkoon maksetusta saldosta, lähettipä agentti mitä tahansa: 6,32 $ kahdeksan tunnin työpäivältä. Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa. Pysäytetty instanssi laskutetaan 75 %:lla tuntihinnasta; lopettaminen päättää laskutuksen ja poistaa työtilan. Hinnat eivät sisällä alv:tä, jos sitä sovelletaan.

Meneekö koodini mallintarjoajalle?

Kolmannen osapuolen malli-API:a ei ole mukana: malli toimii vuokraamallasi Sparkilla, jota kukaan muu ei käytä sillä aikaa, kun se on sinulla. Pyynnöt esiasetuksen HTTPS-päätepisteeseen kulkevat GPUwerkin yhdyskäytävän ja instanssista riippuen Cloudflaren kautta. SSH-tunneli itse käynnistämääsi palvelimeen välttää molemmat. Kumppanin Sparkilla kumppanilla on fyysinen pääsy koneeseen.

Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa

Ohjaa agenttisi omalle Sparkillesi.

Dedikoitu DGX Spark, jossa Qwen3 Coder 30B on valmiina ajossa, 0,79 $/h, laskutus minuutin tarkkuudella. Lopeta, kun olet valmis, niin laskutus päättyy.

Ota käyttöön nyt