DGX Spark/Agenci do kodowania
Zastosowanie · Agenci do kodowania

Prywatny agent do kodowania na twoim własnym DGX Spark

Samuel Seidel · Zaktualizowano 10 listopada 2026 · 8 min czytania

Wynajmij cały NVIDIA DGX Spark, uruchom obraz Qwen3 Coder 30B i skieruj swojego agenta do kodowania na endpoint zgodny z OpenAI, który serwuje. Nikt inny nie korzysta z maszyny, dopóki ją masz, a godzina kosztuje 0,79 USD niezależnie od tego, ile tokenów wysyła twój agent. Na jednym z moich Sparków ten model generował 80,9 tokena na sekundę dla pojedynczego żądania (vLLM, 2 września 2026, surowy log).

Pierwsze doładowanie: zapłać 20 USD, otrzymasz 30 USD środków. Rozliczane co minutę ze środków przedpłaconych. Zakończ instancję, gdy nie będzie ci już potrzebna, a naliczanie opłat się skończy. W konsoli wybierz DGX Spark 1×, a potem obraz Qwen3 Coder 30B.

Co jest na maszynie

SprzętJeden NVIDIA DGX Spark: GB10 Grace Blackwell, 128 GB pamięci zunifikowanej przy 273 GB/s, 1 TB NVMe. Cała maszyna jest twoja, dopóki działa.
ModelQwen3-Coder-30B-A3B-Instruct w AWQ 4-bit, model mixture-of-experts, który na token odczytuje około 3B ze swoich 30B parametrów. Wagi są już na maszynie.
SerwervLLM, serwujący model jako qwen3-coder-30b z kontekstem 32 768 tokenów na żądanie
Endpointhttps://app-<instance-id>.gpuwerk.com/v1, zgodny z OpenAI, chroniony kluczem API z zakresem inference, który tworzysz w konsoli
PowłokaTerminal roota w przeglądarce bez klucza SSH albo root przez SSH z własnym kluczem. Pliki w /workspace przetrwają restarty.
GdzieTen obraz działa na moich własnych Sparkach w Hradec Králové w Czechach. Sparki partnerów oferują obrazy DGX OS i Ubuntu, na których model uruchamiasz sam (zobacz drugą konfigurację poniżej).

Jak szybki jest, według pomiarów

Uruchomiłem vllm bench serve dla tego modelu na jednym z moich Sparków, bez niczego innego na GPU, 2 września 2026 (vLLM 0.27.1, AWQ 4-bit). Pełna metoda i porównawczy pomiar modelu 70B są na stronie z benchmarkami.

Jednoczesne żądaniaGenerowane na żądanieJak to wygląda w praktyce
180,9 tok/sJeden deweloper: odpowiedzi pojawiają się szybciej, niż je czytasz
835,2 tok/sMały zespół korzystający z jednego endpointu
3218,4 tok/sWiele równoległych uruchomień agentów; każde zwalnia

Odczyt promptu też jest szybki: prompt o długości 8192 tokenów został przetworzony z prędkością 5705 tok/s, czyli około 1,4 sekundy przed pierwszym tokenem. To pomiary referencyjne, a nie obietnica dla twoich promptów. Preset, który wdrożysz dziś, może korzystać z nowszej wersji vLLM, a długie prompty agentów przetwarzają się dłużej niż krótkie prompty benchmarkowe.

Którzy agenci działają z presetem bez zmian

Agenci do kodowania komunikują się z modelem na jeden z dwóch sposobów, a to decyduje o tym, jakiej konfiguracji potrzebujesz. Preset uruchamia vLLM wyłącznie z limitem kontekstu i limitem pamięci (--max-model-len 32768 --gpu-memory-utilization 0.5). Nie przekazuje --enable-auto-tool-choice, a vLLM odrzuca żądania o automatyczne wywołania narzędzi, chyba że serwer został uruchomiony z tą flagą i parserem wywołań narzędzi.

Konfiguracja 1: preset z aider

  1. W konsoli doładuj środki, wybierz DGX Spark 1× i obraz Qwen3 Coder 30B, a potem wdróż. Rozliczanie zaczyna się, gdy instancja przejdzie test gotowości i pokaże stan running.
  2. Utwórz w konsoli klucz API z zakresem inference i skopiuj endpoint HTTPS ze strony instancji.
  3. Na swoim laptopie sprawdź, czy endpoint odpowiada. Odpowiedź wymienia qwen3-coder-30b.
export SPARK=https://app-<instance-id>.gpuwerk.com/v1
export GPUWERK_API_KEY=sy_key_...        # inference scope
curl -s $SPARK/models -H "Authorization: Bearer $GPUWERK_API_KEY"

Potem uruchom aider w swoim repozytorium. Prefiks openai/ mówi aiderowi, jakiego formatu API używać; żadna usługa OpenAI nie jest w to zaangażowana.

export OPENAI_API_BASE=$SPARK
export OPENAI_API_KEY=$GPUWERK_API_KEY
aider --model openai/qwen3-coder-30b

Ustawienia Continue i Cline dla tego samego endpointu są w artykule agenci do kodowania z twoim własnym endpointem.

Konfiguracja 2: pi lub OpenCode z wywołaniami narzędzi

Zamiast tego wdróż obraz DGX OS. Zbuduj llama.cpp dla GB10 i uruchom Qwen3 Coder z --jinja, co stosuje własny szablon czatu modelu i zwraca jego wywołania narzędzi w formacie OpenAI. Oto kroki budowania z mojego poradnika llama.cpp, wykonywane w terminalu w przeglądarce:

apt-get update && apt-get install -y build-essential cmake libcurl4-openssl-dev
git clone https://github.com/ggml-org/llama.cpp /workspace/llama.cpp
cd /workspace/llama.cpp
cmake -B build -DGGML_CUDA=ON -DGGML_CURL=ON -DCMAKE_CUDA_ARCHITECTURES=121a-real
cmake --build build --config Release --target llama-server -j

# about 32 GB of weights on the first start
./build/bin/llama-server -hf unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:Q8_0 \
  --alias qwen3-coder --jinja -c 65536 \
  --host 127.0.0.1 --port 30000

Serwer nasłuchuje tylko na 127.0.0.1, więc łączysz się z nim przez tunel SSH ze swojego laptopa. Wymaga to własnego klucza SSH na instancji (dwie minuty). Opiekunowie llama.cpp raportują dla tego modelu 61,1 tok/s przy Q8_0 na DGX Spark (wyniki dla DGX Spark, build 7941); tej ścieżki sam nie mierzyłem.

# on your laptop, leave it running
ssh -N -L 30000:127.0.0.1:30000 root@<instance-name>.gpuwerk.com

OpenCode (npm install -g opencode-ai) czyta dostawców z pliku opencode.json w twoim projekcie:

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "spark": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "DGX Spark",
      "options": { "baseURL": "http://127.0.0.1:30000/v1" },
      "models": { "qwen3-coder": { "name": "Qwen3 Coder 30B on a Spark" } }
    }
  }
}

pi (npm install -g --ignore-scripts @earendil-works/pi-coding-agent) czyta ~/.pi/agent/models.json. Utrzymuj contextWindow na poziomie -c serwera lub niżej, inaczej pi przepełni kontekst, a serwer odrzuci żądanie.

{
  "providers": {
    "spark": {
      "baseUrl": "http://127.0.0.1:30000/v1",
      "api": "openai-completions",
      "apiKey": "unused",
      "compat": { "supportsDeveloperRole": false, "maxTokensField": "max_tokens" },
      "models": [
        { "id": "qwen3-coder", "name": "Qwen3 Coder 30B (Spark)",
          "reasoning": false, "contextWindow": 65536, "maxTokens": 8192,
          "cost": { "input": 0, "output": 0, "cacheRead": 0, "cacheWrite": 0 } }
      ]
    }
  }
}

Potem pi --model qwen3-coder w twoim repozytorium. Serwer działa dalej, gdy agent się zamknie; na koniec dnia zakończ instancję w konsoli.

Co daje godzina w porównaniu z rachunkiem za API

Spark kosztuje 0,79 USD za godzinę, rozliczane co minutę: 6,32 USD za ośmiogodzinny dzień, 132,72 USD za 21 takich dni. Co za to dostajesz, zależy od tego, jak bardzo go obciążasz. Według moich obliczeń na podstawie zmierzonych wyżej prędkości:

Porównaj to z własną fakturą za API. Dla jednego dewelopera, którego subskrypcja na kodowanie nigdy nie dochodzi do limitów, subskrypcja jest prawdopodobnie tańsza. Spark się opłaca, gdy kilka osób korzysta z jednego endpointu, gdy limity żądań przerywają długie sesje agentów albo gdy twój kod nie powinien trafiać do dostawcy modelu.

Ograniczenia, które warto znać

Gdzie są Sparki

Moje własne Sparki stoją w centrum danych w Hradec Králové w Czechach. Sparki partnerów należą do partnerów i są przez nich hostowane w ich własnych lokalizacjach w USA, Szwecji, Holandii, na Słowacji i w Hongkongu. Konsola pokazuje kraj i to, czy jest w EOG, zanim wdrożysz. Partner ma fizyczny dostęp do swojej maszyny, a maszyna poza EOG oznacza, że twoje dane opuszczają UE/EOG, więc wybierz lokalizację odpowiednią dla twojego kodu.

Cena

0,79 USD za godzinę za jednego Sparka, rozliczane co minutę ze środków przedpłaconych. Pierwsze doładowanie: zapłać 20 USD, otrzymasz 30 USD środków. Zatrzymana instancja zachowuje obszar roboczy i jest rozliczana według 75% stawki godzinowej. Zakończ ją, gdy nie będzie ci już potrzebna, a naliczanie opłat się skończy; to usuwa obszar roboczy. Ceny nie zawierają VAT, jeśli ma on zastosowanie. Szczegóły są na stronie z cennikiem.

Kto to prowadzi

GPUwerk jest nowy, więc oto komu płacisz. Jestem Samuel Seidel, założyciel, a firma to PRINT IT! SE z siedzibą w Pradze. Od września 2026 94 deweloperów uruchomiło 374 instancje (stan na 9 listopada 2026). Status usługi jest publiczny na status.gpuwerk.com. Masz pytania przed startem? Napisz przez stronę kontaktową; odpowiadam osobiście.

FAQ

Czy mogę używać pi lub OpenCode z presetem Qwen3 Coder 30B?

Nie w obecnej postaci. Oba wysyłają wywołania narzędzi OpenAI, a preset uruchamia vLLM bez --enable-auto-tool-choice, więc vLLM odrzuca te żądania. Zamiast tego wdróż obraz DGX OS i serwuj model przez llama.cpp z --jinja, jak w konfiguracji 2 na tej stronie. aider i tryb czatu Continue działają z presetem bez zmian.

Jak szybki jest Qwen3 Coder 30B na DGX Spark?

Na jednym z moich Sparków generował 80,9 tokena na sekundę dla pojedynczego żądania i 35,2 na żądanie przy 8 żądaniach jednocześnie (vLLM 0.27.1, AWQ 4-bit, 2 września 2026). Surowy log jest podlinkowany na tej stronie. Opiekunowie llama.cpp raportują 61,1 tok/s przy Q8_0.

Ile kosztuje agent do kodowania na Sparku?

0,79 USD za godzinę, rozliczane co minutę ze środków przedpłaconych, niezależnie od tego, co wysyła agent: 6,32 USD za ośmiogodzinny dzień. Pierwsze doładowanie: zapłać 20 USD, otrzymasz 30 USD środków. Zatrzymana instancja jest rozliczana według 75% stawki godzinowej; zakończenie instancji kończy rozliczanie i usuwa obszar roboczy. Ceny nie zawierają VAT, jeśli ma on zastosowanie.

Czy mój kod trafia do dostawcy modelu?

Nie jest używane żadne zewnętrzne API modelu: model działa na wynajętym przez ciebie Sparku, z którego nikt inny nie korzysta, dopóki go masz. Żądania do endpointu HTTPS presetu przechodzą przez bramkę GPUwerk i, zależnie od instancji, przez Cloudflare. Tunel SSH do serwera, który uruchamiasz sam, omija oba. Na Sparku partnera partner ma fizyczny dostęp do maszyny.

Pierwsze doładowanie: zapłać 20 USD, otrzymasz 30 USD środków

Skieruj swojego agenta na własnego Sparka.

Dedykowany DGX Spark z Qwen3 Coder 30B gotowym do serwowania, 0,79 USD/h rozliczane co minutę. Zakończ instancję, gdy nie będzie ci już potrzebna, a naliczanie opłat się skończy.

Wdróż teraz