Yksityinen koodausagentti omalla DGX Sparkillasi
Vuokraa kokonainen NVIDIA DGX Spark, käynnistä Qwen3 Coder 30B -vedos ja ohjaa koodausagenttisi sen tarjoamaan OpenAI-yhteensopivaan päätepisteeseen. Kukaan muu ei käytä konetta sillä aikaa, kun se on sinulla, ja tunti maksaa 0,79 $ riippumatta siitä, kuinka monta tokenia agenttisi lähettää. Yhdellä Sparkeistani tämä malli tuotti 80,9 tokenia sekunnissa yksittäiselle pyynnölle (vLLM, 2. syyskuuta 2026, raakaloki).
Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa. Laskutus minuutin tarkkuudella ennakkoon maksetusta saldosta. Lopeta, kun olet valmis, niin laskutus päättyy. Valitse konsolissa DGX Spark 1× ja sitten Qwen3 Coder 30B -vedos.
Mitä koneella on
| Laitteisto | Yksi NVIDIA DGX Spark: GB10 Grace Blackwell, 128 GB yhtenäistä muistia 273 GB/s:n nopeudella, 1 TB NVMe. Koko kone on sinun, kun se on käynnissä. |
|---|---|
| Malli | Qwen3-Coder-30B-A3B-Instruct AWQ 4-bit -muodossa, mixture-of-experts-malli, joka lukee tokenia kohden noin 3B 30B parametristaan. Painot ovat jo koneella. |
| Palvelin | vLLM, joka tarjoaa mallin nimellä qwen3-coder-30b 32 768 tokenin kontekstilla pyyntöä kohden |
| Päätepiste | https://app-<instance-id>.gpuwerk.com/v1, OpenAI-yhteensopiva, suojattu konsolissa luomallasi API-avaimella, jolla on inference-oikeus |
| Komentorivi | Root-pääte selaimessa ilman SSH-avainta tai root SSH:lla omalla avaimellasi. /workspace-hakemiston tiedostot säilyvät uudelleenkäynnistyksissä. |
| Missä | Tämä vedos toimii omilla Sparkeillani Hradec Královéssa, Tšekissä. Kumppaneiden Sparkit tarjoavat DGX OS- ja Ubuntu-vedokset, joilla käynnistät mallin itse (katso toinen asetus alla). |
Kuinka nopea se on, mitattuna
Ajoin vllm bench serve -testin tälle mallille yhdellä Sparkeistani ilman muuta kuormaa sen GPU:lla 2. syyskuuta 2026 (vLLM 0.27.1, AWQ 4-bit). Koko menetelmä ja 70B-vertailuajo ovat vertailutestisivulla.
| Pyyntöjä kerralla | Tuotettu pyyntöä kohden | Miltä se tuntuu |
|---|---|---|
| 1 | 80,9 tok/s | Yksi kehittäjä: vastaukset virtaavat nopeammin kuin ehdit lukea |
| 8 | 35,2 tok/s | Pieni tiimi, joka jakaa yhden päätepisteen |
| 32 | 18,4 tok/s | Monta rinnakkaista agenttiajoa; jokainen hidastuu |
Myös kehotteen lukeminen on nopeaa: 8 192 tokenin kehote meni sisään 5 705 tok/s:n nopeudella, noin 1,4 sekuntia ennen ensimmäistä tokenia. Nämä ovat viiteajoja, eivät lupaus omille kehotteillesi. Tänään käyttöön ottamasi esiasetus voi ajaa uudempaa vLLM-versiota, ja pitkät agenttikehotteet vievät kauemmin kuin lyhyet vertailutestikehotteet.
Mitkä agentit toimivat esiasetuksella sellaisenaan
Koodausagentit puhuvat mallille kahdella tavalla, ja se ratkaisee, minkä asetuksen tarvitset. Esiasetus käynnistää vLLM:n vain kontekstirajalla ja muistirajalla (--max-model-len 32768 --gpu-memory-utilization 0.5). Se ei välitä valitsinta --enable-auto-tool-choice, ja vLLM hylkää pyynnöt, jotka pyytävät automaattisia työkalukutsuja, ellei palvelinta ole käynnistetty tällä valitsimella ja työkalukutsujen jäsentimellä.
- aider pyytää muokkaukset tekstinä eikä tarvitse työkalukutsuja, joten se toimii esiasetuksella sellaisenaan. Samoin Continuen chat- ja muokkaustila.
- pi ja OpenCode perustuvat työkalukutsuihin, kuten myös Continuen agenttitila. Niitä varten aja malli itse palvelimena työkalukutsut päällä. Se vie noin 15 minuuttia ja toimii millä tahansa Sparkilla, myös kumppanikoneilla.
Asetus 1: esiasetus aiderin kanssa
- Lataa konsolissa saldoa, valitse DGX Spark 1× ja Qwen3 Coder 30B -vedos ja ota käyttöön. Laskutus alkaa, kun instanssi läpäisee valmiustarkistuksensa ja näyttää tilan running.
- Luo konsolissa API-avain, jolla on inference-oikeus, ja kopioi HTTPS-päätepiste instanssin sivulta.
- Tarkista kannettavallasi, että päätepiste vastaa. Vastaus listaa
qwen3-coder-30b.
export SPARK=https://app-<instance-id>.gpuwerk.com/v1 export GPUWERK_API_KEY=sy_key_... # inference scope curl -s $SPARK/models -H "Authorization: Bearer $GPUWERK_API_KEY"
Käynnistä sitten aider repossasi. Etuliite openai/ kertoo aiderille, mitä API-muotoa puhua; mitään OpenAI-palvelua ei käytetä.
export OPENAI_API_BASE=$SPARK export OPENAI_API_KEY=$GPUWERK_API_KEY aider --model openai/qwen3-coder-30b
Continuen ja Clinen asetukset samalle päätepisteelle ovat oppaassa koodausagentit omaa päätepistettäsi vasten.
Asetus 2: pi tai OpenCode työkalukutsuilla
Ota sen sijaan käyttöön DGX OS -vedos. Käännä llama.cpp GB10:lle ja käynnistä Qwen3 Coder valitsimella --jinja, joka soveltaa mallin omaa chat-mallipohjaa ja palauttaa sen työkalukutsut OpenAI-muodossa. Nämä ovat käännösvaiheet llama.cpp-oppaastani, ajettuina selainpäätteessä:
apt-get update && apt-get install -y build-essential cmake libcurl4-openssl-dev git clone https://github.com/ggml-org/llama.cpp /workspace/llama.cpp cd /workspace/llama.cpp cmake -B build -DGGML_CUDA=ON -DGGML_CURL=ON -DCMAKE_CUDA_ARCHITECTURES=121a-real cmake --build build --config Release --target llama-server -j # about 32 GB of weights on the first start ./build/bin/llama-server -hf unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:Q8_0 \ --alias qwen3-coder --jinja -c 65536 \ --host 127.0.0.1 --port 30000
Palvelin kuuntelee vain osoitteessa 127.0.0.1, joten pääset siihen SSH-tunnelin kautta kannettavaltasi. Se vaatii oman SSH-avaimesi instanssissa (kaksi minuuttia). llama.cpp:n ylläpitäjät raportoivat tälle mallille 61,1 tok/s Q8_0:lla DGX Sparkilla (DGX Spark -tulokset, build 7941); en ole itse mitannut tätä polkua.
# on your laptop, leave it running ssh -N -L 30000:127.0.0.1:30000 root@<instance-name>.gpuwerk.com
OpenCode (npm install -g opencode-ai) lukee tarjoajat projektisi tiedostosta opencode.json:
{
"$schema": "https://opencode.ai/config.json",
"provider": {
"spark": {
"npm": "@ai-sdk/openai-compatible",
"name": "DGX Spark",
"options": { "baseURL": "http://127.0.0.1:30000/v1" },
"models": { "qwen3-coder": { "name": "Qwen3 Coder 30B on a Spark" } }
}
}
}
pi (npm install -g --ignore-scripts @earendil-works/pi-coding-agent) lukee tiedoston ~/.pi/agent/models.json. Pidä contextWindow enintään palvelimen -c-arvon suuruisena, tai pi ylitäyttää kontekstin ja palvelin hylkää pyynnön.
{
"providers": {
"spark": {
"baseUrl": "http://127.0.0.1:30000/v1",
"api": "openai-completions",
"apiKey": "unused",
"compat": { "supportsDeveloperRole": false, "maxTokensField": "max_tokens" },
"models": [
{ "id": "qwen3-coder", "name": "Qwen3 Coder 30B (Spark)",
"reasoning": false, "contextWindow": 65536, "maxTokens": 8192,
"cost": { "input": 0, "output": 0, "cacheRead": 0, "cacheWrite": 0 } }
]
}
}
}
Sitten pi --model qwen3-coder repossasi. Palvelin jatkaa toimintaansa, kun agentti sulkeutuu; lopeta instanssi konsolissa, kun päivä on ohi.
Mitä tunti ostaa API-laskun rinnalla
Spark maksaa 0,79 $ tunnilta, laskutus minuutin tarkkuudella: 6,32 $ kahdeksan tunnin työpäivältä, 132,72 21 $ tällaiselta päivältä. Mitä sillä saat, riippuu siitä, kuinka kiireisenä sen pidät. Omien laskelmieni mukaan yllä mitatuista nopeuksista:
- Yksi kehittäjä, yksi pyyntö kerrallaan: 80,9 tok/s on enintään noin 291 000 tuotettua tokenia tunnissa, eli 2,71 $ miljoonalta, jos malli ei koskaan pidä taukoa. Todelliset istunnot pitävät taukoja, kun luet ja testit ajetaan, joten tokenia kohden hinta on tätä korkeampi.
- Tiimi, joka jakaa päätepisteen: kun käynnissä on 8 pyyntöä, 8 × 35,2 tok/s on noin miljoona tuotettua tokenia tunnissa, noin 0,78 $ miljoonalta.
- Kehotteen tokenit eivät maksa mitään ylimääräistä. Agentti lähettää tiedostosi ja koko keskustelun uudelleen joka vuorolla, joten tokenipohjaisessa API:ssa suurin osa laskusta on syötettä. Täällä hinta on aikaa: esitäyttö 5 705 tok/s.
Aseta ne oman API-laskusi viereen. Yhdelle kehittäjälle, jonka koodaustilaus ei koskaan osu rajoihinsa, tilaus on todennäköisesti halvempi. Spark kannattaa, kun useat ihmiset jakavat yhden päätepisteen, kun nopeusrajoitukset pysäyttävät pitkiä agenttiajoja tai kun koodisi ei saa mennä mallintarjoajalle.
Rajoitukset, jotka kannattaa tietää ensin
- Se on keskikokoinen avoin malli. Qwen3 Coder 30B on täällä nopea, koska se lukee noin 3B parametria tokenia kohden. Se ei ole kärkimalli, enkä ole ajanut sillä koodausvertailutestiä. Kokeile sitä omilla tehtävilläsi ennen kuin siirrät työtä sille.
- 32 768 tokenia pyyntöä kohden esiasetuksella. Agentti, joka lukee monta tiedostoa, osuu tähän rajaan. Asetus 2 antaa sinun valita kontekstin pituuden.
- Esiasetus toimii vain omilla Sparkeillani. Kun ne ovat kaikki vuokrattuina, konsoli näyttää sen. Kumppaneiden Sparkit ajavat asetusta 2.
- Esiasetuksen päätepiste kulkee yhdyskäytäväni kautta. Se on julkinen HTTPS, suojattu API-avaimellasi, ja instanssista riippuen TLS päättyy Cloudflareen ja yhdyskäytävääni ennen kuin pyyntö saapuu Sparkille (API ilmoittaa kumman, kentässä
https_termination). Koodille, jonka ei pitäisi kulkea kummankaan kautta, käytä asetuksen 2 SSH-tunnelia. - Spark on ARM64. Agenttisi toimii kannettavallasi, joten tällä on harvoin merkitystä tässä, mutta kaikki, mitä asennat itse Sparkille, tarvitsee aarch64-version.
- Ei SLA:ta eikä varmuuskopioita. Pidä koodisi gitissä omalla puolellasi; lopettaminen poistaa työtilan.
Missä Sparkit ovat
Omat Sparkini ovat konesalissa Hradec Královéssa, Tšekissä. Kumppaneiden Sparkit ovat kumppaneiden omistamia ja niiden omissa tiloissa ylläpitämiä Yhdysvalloissa, Ruotsissa, Alankomaissa, Slovakiassa ja Hongkongissa. Konsoli näyttää maan ja sen, onko kone ETA-alueella, ennen käyttöönottoa. Kumppanilla on fyysinen pääsy koneeseensa, ja ETA-alueen ulkopuolinen kone tarkoittaa, että datasi poistuu EU:sta/ETA-alueelta, joten valitse koodillesi sopiva sijainti.
Hinta
0,79 $ tunnilta yhdestä Sparkista, laskutus minuutin tarkkuudella ennakkoon maksetusta saldosta. Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa. Pysäytetty instanssi säilyttää työtilansa ja laskutetaan 75 %:lla tuntihinnasta. Lopeta se, kun olet valmis, niin laskutus päättyy; se poistaa työtilan. Hinnat eivät sisällä alv:tä, jos sitä sovelletaan. Tiedot ovat hinnoittelusivulla.
Kuka tätä pyörittää
GPUwerk on uusi, joten tässä on, kenelle maksaisit. Olen Samuel Seidel, perustaja, ja yritys on PRINT IT! SE, rekisteröity Prahaan. Syyskuusta 2026 lähtien 94 kehittäjää on käynnistänyt 374 instanssia (tilanne 9. marraskuuta 2026). Palvelun tila on julkisesti osoitteessa status.gpuwerk.com. Kysyttävää ennen aloittamista? Kirjoita yhteystietosivun kautta; vastaan itse.
UKK
Voinko käyttää pi:tä tai OpenCodea Qwen3 Coder 30B -esiasetuksen kanssa?
Ei sellaisenaan. Molemmat lähettävät OpenAI-työkalukutsuja, ja esiasetus käynnistää vLLM:n ilman valitsinta --enable-auto-tool-choice, joten vLLM hylkää nuo pyynnöt. Ota sen sijaan käyttöön DGX OS -vedos ja aja malli llama.cpp:llä ja valitsimella --jinja, kuten tämän sivun asetuksessa 2. aider ja Continuen chat-tila toimivat esiasetuksella sellaisenaan.
Kuinka nopea Qwen3 Coder 30B on DGX Sparkilla?
Yhdellä Sparkeistani se tuotti 80,9 tokenia sekunnissa yksittäiselle pyynnölle ja 35,2 pyyntöä kohden 8 samanaikaisella pyynnöllä (vLLM 0.27.1, AWQ 4-bit, 2. syyskuuta 2026). Raakaloki on linkitetty tällä sivulla. llama.cpp:n ylläpitäjät raportoivat 61,1 tok/s Q8_0:lla.
Mitä koodausagentti Sparkilla maksaa?
0,79 $ tunnilta, laskutus minuutin tarkkuudella ennakkoon maksetusta saldosta, lähettipä agentti mitä tahansa: 6,32 $ kahdeksan tunnin työpäivältä. Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa. Pysäytetty instanssi laskutetaan 75 %:lla tuntihinnasta; lopettaminen päättää laskutuksen ja poistaa työtilan. Hinnat eivät sisällä alv:tä, jos sitä sovelletaan.
Meneekö koodini mallintarjoajalle?
Kolmannen osapuolen malli-API:a ei ole mukana: malli toimii vuokraamallasi Sparkilla, jota kukaan muu ei käytä sillä aikaa, kun se on sinulla. Pyynnöt esiasetuksen HTTPS-päätepisteeseen kulkevat GPUwerkin yhdyskäytävän ja instanssista riippuen Cloudflaren kautta. SSH-tunneli itse käynnistämääsi palvelimeen välttää molemmat. Kumppanin Sparkilla kumppanilla on fyysinen pääsy koneeseen.