DGX Spark/Агенти за програмиране
Случай на употреба · Агенти за програмиране

Частен агент за програмиране на вашия собствен DGX Spark

Автор: Samuel Seidel · Обновено на 10 ноември 2026 г. · 8 мин. четене

Наемете цял NVIDIA DGX Spark, стартирайте образа Qwen3 Coder 30B и насочете агента си за програмиране към OpenAI-съвместимия endpoint, който той обслужва. Никой друг не използва машината, докато е при вас, а един час струва 0,79 $, независимо колко токена изпраща агентът ви. На един от моите Spark този модел генерира 80,9 токена в секунда при една заявка (vLLM, 2 септември 2026 г., суров лог).

Първо внасяне: платете 20 $, получете 30 $ кредит. Таксуване на минута от предплатен кредит. Прекратете, когато приключите, и таксуването спира. В конзолата изберете DGX Spark 1× и след това образа Qwen3 Coder 30B.

Какво има на машината

ХардуерЕдин NVIDIA DGX Spark: GB10 Grace Blackwell, 128 GB унифицирана памет при 273 GB/s, 1 TB NVMe. Цялата машина е ваша, докато работи.
МоделQwen3-Coder-30B-A3B-Instruct в AWQ 4-bit, mixture-of-experts модел, който чете около 3B от своите 30B параметъра на токен. Теглата вече са на машината.
СървърvLLM, обслужващ модела като qwen3-coder-30b с контекст от 32 768 токена на заявка
Endpointhttps://app-<instance-id>.gpuwerk.com/v1, OpenAI-съвместим, защитен с API ключ с обхват inference, който създавате в конзолата
ShellRoot терминал в браузъра, без нужда от SSH ключ, или root през SSH със собствен ключ. Файловете под /workspace оцеляват при рестартиране.
КъдеТози образ работи на моите собствени Spark възли в Храдец Кралове, Чехия. Партньорските Spark възли предлагат образите DGX OS и Ubuntu, където стартирате модела сами (вижте втората настройка по-долу).

Колко е бърз, измерено

Пуснах vllm bench serve срещу този модел на един от моите Spark без нищо друго на GPU, на 2 септември 2026 г. (vLLM 0.27.1, AWQ 4-bit). Пълният метод и сравнителното изпълнение със 70B са на страницата с бенчмаркове.

Едновременни заявкиГенерирани на заявкаКакво е усещането
180,9 tok/sЕдин разработчик: отговорите излизат по-бързо, отколкото ги четете
835,2 tok/sМалък екип, който споделя един endpoint
3218,4 tok/sМного паралелни изпълнения на агенти; всяко се забавя

Четенето на промпта също е бързо: промпт от 8192 токена влезе при 5705 tok/s, около 1,4 секунди преди първия токен. Това са референтни изпълнения, а не обещание за промптовете ви. Готова настройка, която стартирайте днес, може да използва по-нова версия на vLLM, а дългите промптове на агенти отнемат повече време от кратките за бенчмарк.

Кои агенти работят с готовата настройка в този вид

Агентите за програмиране комуникират с модел по един от два начина и това определя каква настройка ви трябва. Готовата настройка стартира vLLM само с ограничение на контекста и ограничение на паметта (--max-model-len 32768 --gpu-memory-utilization 0.5). Тя не подава --enable-auto-tool-choice, а vLLM отказва заявки, които изискват автоматични tool calls, освен ако сървърът не е стартиран с този флаг и парсер за tool calls.

Настройка 1: готовата настройка с aider

  1. В конзолата добавете кредит, изберете DGX Spark 1× и образа Qwen3 Coder 30B и стартирайте. Таксуването започва, след като инстанцията премине проверката за готовност и покаже running.
  2. Създайте API ключ с обхват inference в конзолата и копирайте HTTPS endpoint от страницата на инстанцията.
  3. На лаптопа си проверете дали endpoint-ът отговаря. Отговорът съдържа qwen3-coder-30b.
export SPARK=https://app-<instance-id>.gpuwerk.com/v1
export GPUWERK_API_KEY=sy_key_...        # inference scope
curl -s $SPARK/models -H "Authorization: Bearer $GPUWERK_API_KEY"

След това стартирайте aider в хранилището си. Префиксът openai/ казва на aider кой API формат да използва; не участва услуга на OpenAI.

export OPENAI_API_BASE=$SPARK
export OPENAI_API_KEY=$GPUWERK_API_KEY
aider --model openai/qwen3-coder-30b

Настройките на Continue и Cline за същия endpoint са в агенти за програмиране срещу вашия собствен endpoint.

Настройка 2: pi или OpenCode, с tool calls

Вместо това пуснете образа DGX OS. Компилирайте llama.cpp за GB10 и стартирайте Qwen3 Coder с --jinja, което прилага собствения чат шаблон на модела и връща tool calls във формата на OpenAI. Това са стъпките за компилиране от моето ръководство за llama.cpp, изпълнени в терминала в браузъра:

apt-get update && apt-get install -y build-essential cmake libcurl4-openssl-dev
git clone https://github.com/ggml-org/llama.cpp /workspace/llama.cpp
cd /workspace/llama.cpp
cmake -B build -DGGML_CUDA=ON -DGGML_CURL=ON -DCMAKE_CUDA_ARCHITECTURES=121a-real
cmake --build build --config Release --target llama-server -j

# about 32 GB of weights on the first start
./build/bin/llama-server -hf unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:Q8_0 \
  --alias qwen3-coder --jinja -c 65536 \
  --host 127.0.0.1 --port 30000

Сървърът слуша само на 127.0.0.1, така че го достигате през SSH тунел от лаптопа си. Това изисква собствен SSH ключ на инстанцията (две минути). Поддръжниците на llama.cpp отчитат 61,1 tok/s за този модел при Q8_0 на DGX Spark (резултати за DGX Spark, build 7941); не съм измервал този път сам.

# on your laptop, leave it running
ssh -N -L 30000:127.0.0.1:30000 root@<instance-name>.gpuwerk.com

OpenCode (npm install -g opencode-ai) чете доставчиците от opencode.json в проекта ви:

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "spark": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "DGX Spark",
      "options": { "baseURL": "http://127.0.0.1:30000/v1" },
      "models": { "qwen3-coder": { "name": "Qwen3 Coder 30B on a Spark" } }
    }
  }
}

pi (npm install -g --ignore-scripts @earendil-works/pi-coding-agent) чете ~/.pi/agent/models.json. Дръжте contextWindow на или под -c на сървъра, иначе pi препълва контекста и сървърът отхвърля заявката.

{
  "providers": {
    "spark": {
      "baseUrl": "http://127.0.0.1:30000/v1",
      "api": "openai-completions",
      "apiKey": "unused",
      "compat": { "supportsDeveloperRole": false, "maxTokensField": "max_tokens" },
      "models": [
        { "id": "qwen3-coder", "name": "Qwen3 Coder 30B (Spark)",
          "reasoning": false, "contextWindow": 65536, "maxTokens": 8192,
          "cost": { "input": 0, "output": 0, "cacheRead": 0, "cacheWrite": 0 } }
      ]
    }
  }
}

След това pi --model qwen3-coder в хранилището ви. Сървърът продължава да работи, когато агентът излезе; прекратете инстанцията в конзолата, когато денят приключи.

Какво купува един час в сравнение със сметка за API

Spark струва 0,79 $ на час, таксуване на минута: 6,32 $ за осемчасов ден, 132,72 $ за 21 такива дни. Какво получавате срещу това, зависи от това колко го натоварвате. По моите изчисления от измерените скорости по-горе:

Сравнете тези числа със собствената си фактура за API. За един разработчик, чийто абонамент за програмиране никога не достига лимитите си, абонаментът вероятно е по-евтин. Spark се изплаща, когато няколко души споделят един endpoint, когато ограниченията на заявките спират дълги изпълнения на агенти или когато кодът ви не бива да отива при доставчик на модели.

Ограничения, които да знаете предварително

Къде са Spark

Моите собствени Spark възли са в център за данни в Храдец Кралове, Чехия. Партньорските Spark възли са притежавани и хоствани от партньори в техните собствени помещения в САЩ, Швеция, Нидерландия, Словакия и Хонконг. Конзолата показва държавата и дали е в ЕИП, преди да стартирате. Партньорът има физически достъп до своята машина, а машина извън ЕИП означава, че данните ви напускат ЕС/ЕИП, затова изберете местоположението, което подхожда на кода ви.

Цена

0,79 $ на час за един Spark, таксуване на минута от предплатен кредит. Първо внасяне: платете 20 $, получете 30 $ кредит. Спряната инстанция запазва работното си пространство и се таксува със 75% от часовата цена. Прекратете я, когато приключите, и таксуването спира; това изтрива работното пространство. Цените са без ДДС, където е приложимо. Подробности има на страницата с цени.

Кой стои зад това

GPUwerk е нов, затова ето на кого бихте плащали. Аз съм Samuel Seidel, основателят, а компанията е PRINT IT! SE, регистрирана в Прага. От септември 2026 г. 94 разработчици са стартирали 374 инстанции (към 9 ноември 2026 г.). Статусът на услугата е публичен на status.gpuwerk.com. Въпроси, преди да започнете? Пишете чрез страницата за контакт; отговарям лично.

ЧЗВ

Мога ли да използвам pi или OpenCode с готовата настройка Qwen3 Coder 30B?

Не в този вид. И двата изпращат OpenAI tool calls, а готовата настройка стартира vLLM без --enable-auto-tool-choice, така че vLLM отказва тези заявки. Вместо това пуснете образа DGX OS и обслужвайте модела с llama.cpp и --jinja, както в настройка 2 на тази страница. aider и режимът за чат на Continue работят с непроменената готова настройка.

Колко бърз е Qwen3 Coder 30B на DGX Spark?

На един от моите Spark той генерира 80,9 токена в секунда при една заявка и 35,2 на заявка при 8 едновременни заявки (vLLM 0.27.1, AWQ 4-bit, 2 септември 2026 г.). Суровият лог е посочен на тази страница. Поддръжниците на llama.cpp отчитат 61,1 tok/s при Q8_0.

Колко струва агент за програмиране на Spark?

0,79 $ на час, таксуване на минута от предплатен кредит, каквото и да изпраща агентът: 6,32 $ за осемчасов ден. Първо внасяне: платете 20 $, получете 30 $ кредит. Спряна инстанция се таксува със 75% от часовата цена; прекратяването спира таксуването и изтрива работното пространство. Цените са без ДДС, където е приложимо.

Отива ли кодът ми при доставчик на модели?

Не участва API на модел от трета страна: моделът работи на Spark, който наемате и който никой друг не използва, докато е при вас. Заявките към HTTPS endpoint-а на готовата настройка минават през шлюза на GPUwerk и, в зависимост от инстанцията, през Cloudflare. SSH тунел до сървър, който стартирате сами, избягва и двете. При партньорски Spark възел партньорът има физически достъп до машината.

Първо внасяне: платете 20 $, получете 30 $ кредит

Насочете агента си към собствен Spark.

Самостоятелен DGX Spark с Qwen3 Coder 30B, готов за обслужване, 0,79 $/час, таксуване на минута. Прекратете, когато приключите, и таксуването спира.

Стартирайте сега