DGX Spark/Coding agents
Περίπτωση χρήσης · Coding agents

Ένας ιδιωτικός coding agent στο δικό σας DGX Spark

Του Samuel Seidel · Ενημερώθηκε 10 Νοεμβρίου 2026 · 8 λεπτά ανάγνωσης

Νοικιάστε ένα ολόκληρο NVIDIA DGX Spark, ξεκινήστε το image Qwen3 Coder 30B και συνδέστε τον coding agent σας στο endpoint συμβατό με OpenAI που εξυπηρετεί. Κανείς άλλος δεν χρησιμοποιεί το μηχάνημα όσο το έχετε, και μια ώρα κοστίζει 0,79 $ όσα tokens κι αν στέλνει ο agent σας. Σε ένα από τα Spark μου αυτό το μοντέλο παρήγαγε 80,9 tokens το δευτερόλεπτο για ένα αίτημα (vLLM, 2 Σεπτεμβρίου 2026, πλήρες log).

Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση. Χρέωση ανά λεπτό από προπληρωμένη πίστωση. Τερματίστε όταν τελειώσετε και η χρέωση σταματά. Στην κονσόλα, επιλέξτε DGX Spark 1× και μετά το image Qwen3 Coder 30B.

Τι υπάρχει στο μηχάνημα

ΥλικόΈνα NVIDIA DGX Spark: GB10 Grace Blackwell, 128 GB ενοποιημένης μνήμης στα 273 GB/s, 1 TB NVMe. Ολόκληρο το μηχάνημα είναι δικό σας όσο λειτουργεί.
ΜοντέλοΤο Qwen3-Coder-30B-A3B-Instruct σε AWQ 4-bit, ένα μοντέλο mixture-of-experts που διαβάζει περίπου 3B από τις 30B παραμέτρους του ανά token. Τα βάρη βρίσκονται ήδη στο μηχάνημα.
ServervLLM, που εξυπηρετεί το μοντέλο ως qwen3-coder-30b με context 32.768 tokens ανά αίτημα
Endpointhttps://app-<instance-id>.gpuwerk.com/v1, συμβατό με OpenAI, προστατευμένο με κλειδί API με εύρος inference που δημιουργείτε στην κονσόλα
ShellΈνα τερματικό root στον browser, χωρίς να χρειάζεται κλειδί SSH, ή root μέσω SSH με το δικό σας κλειδί. Τα αρχεία κάτω από το /workspace διατηρούνται στις επανεκκινήσεις.
ΠούΑυτό το image εκτελείται στα δικά μου Spark στο Hradec Králové της Τσεχικής Δημοκρατίας. Τα Spark συνεργατών προσφέρουν τα images DGX OS και Ubuntu, όπου ξεκινάτε μόνοι σας το μοντέλο (δείτε τη δεύτερη ρύθμιση παρακάτω).

Πόσο γρήγορο είναι, μετρημένο

Εκτέλεσα vllm bench serve με αυτό το μοντέλο σε ένα από τα Spark μου χωρίς τίποτε άλλο στη GPU του, στις 2 Σεπτεμβρίου 2026 (vLLM 0.27.1, AWQ 4-bit). Η πλήρης μέθοδος και η εκτέλεση σύγκρισης με το 70B βρίσκονται στη σελίδα benchmarks.

Ταυτόχρονα αιτήματαΠαραγόμενα ανά αίτημαΠώς είναι στην πράξη
180,9 tok/sΈνας developer: οι απαντήσεις ρέουν ταχύτερα από όσο τις διαβάζετε
835,2 tok/sΜια μικρή ομάδα που μοιράζεται ένα endpoint
3218,4 tok/sΠολλές παράλληλες εκτελέσεις agent· καθεμία επιβραδύνεται

Η ανάγνωση του prompt είναι επίσης γρήγορη: ένα prompt 8.192 tokens μπήκε στα 5.705 tok/s, περίπου 1,4 δευτερόλεπτα πριν από το πρώτο token. Αυτές είναι εκτελέσεις αναφοράς, όχι υπόσχεση για τα δικά σας prompts. Μια προεπιλογή που αναπτύσσετε σήμερα μπορεί να εκτελεί νεότερο build του vLLM, και τα μεγάλα prompts agent παίρνουν περισσότερο από τα σύντομα prompts benchmark.

Ποιοι agents λειτουργούν με την προεπιλογή ως έχει

Οι coding agents επικοινωνούν με ένα μοντέλο με έναν από δύο τρόπους, και αυτό καθορίζει ποια ρύθμιση χρειάζεστε. Η προεπιλογή ξεκινά το vLLM μόνο με όριο context και όριο μνήμης (--max-model-len 32768 --gpu-memory-utilization 0.5). Δεν περνά το --enable-auto-tool-choice, και το vLLM απορρίπτει αιτήματα που ζητούν αυτόματα tool calls εκτός αν ο server ξεκίνησε με αυτό το flag και έναν parser για tool calls.

Ρύθμιση 1: η προεπιλογή με aider

  1. Στην κονσόλα, προσθέστε πίστωση, επιλέξτε DGX Spark 1× και το image Qwen3 Coder 30B, και κάντε ανάπτυξη. Η χρέωση ξεκινά μόλις το instance περάσει τον έλεγχο ετοιμότητας και εμφανίσει running.
  2. Δημιουργήστε κλειδί API με εύρος inference στην κονσόλα και αντιγράψτε το endpoint HTTPS από τη σελίδα του instance.
  3. Στο laptop σας, ελέγξτε ότι το endpoint απαντά. Η απάντηση αναφέρει το qwen3-coder-30b.
export SPARK=https://app-<instance-id>.gpuwerk.com/v1
export GPUWERK_API_KEY=sy_key_...        # inference scope
curl -s $SPARK/models -H "Authorization: Bearer $GPUWERK_API_KEY"

Μετά ξεκινήστε το aider στο αποθετήριό σας. Το πρόθεμα openai/ λέει στο aider ποια μορφή API να χρησιμοποιήσει· δεν εμπλέκεται καμία υπηρεσία της OpenAI.

export OPENAI_API_BASE=$SPARK
export OPENAI_API_KEY=$GPUWERK_API_KEY
aider --model openai/qwen3-coder-30b

Οι ρυθμίσεις Continue και Cline για το ίδιο endpoint βρίσκονται στο coding agents με το δικό σας endpoint.

Ρύθμιση 2: pi ή OpenCode, με tool calls

Αναπτύξτε αντί γι' αυτό το image DGX OS. Κάντε build το llama.cpp για το GB10 και ξεκινήστε το Qwen3 Coder με --jinja, που εφαρμόζει το chat template του ίδιου του μοντέλου και επιστρέφει τα tool calls του σε μορφή OpenAI. Αυτά είναι τα βήματα build από τον οδηγό llama.cpp μου, εκτελεσμένα στο τερματικό του browser:

apt-get update && apt-get install -y build-essential cmake libcurl4-openssl-dev
git clone https://github.com/ggml-org/llama.cpp /workspace/llama.cpp
cd /workspace/llama.cpp
cmake -B build -DGGML_CUDA=ON -DGGML_CURL=ON -DCMAKE_CUDA_ARCHITECTURES=121a-real
cmake --build build --config Release --target llama-server -j

# about 32 GB of weights on the first start
./build/bin/llama-server -hf unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:Q8_0 \
  --alias qwen3-coder --jinja -c 65536 \
  --host 127.0.0.1 --port 30000

Ο server ακούει μόνο στο 127.0.0.1, οπότε φτάστε τον μέσω SSH tunnel από το laptop σας. Αυτό χρειάζεται το δικό σας κλειδί SSH στο instance (δύο λεπτά). Οι συντηρητές του llama.cpp αναφέρουν 61,1 tok/s για αυτό το μοντέλο σε Q8_0 σε DGX Spark (αποτελέσματα DGX Spark, build 7941)· δεν έχω μετρήσει ο ίδιος αυτή τη διαδρομή.

# on your laptop, leave it running
ssh -N -L 30000:127.0.0.1:30000 root@<instance-name>.gpuwerk.com

Το OpenCode (npm install -g opencode-ai) διαβάζει παρόχους από το opencode.json στο έργο σας:

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "spark": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "DGX Spark",
      "options": { "baseURL": "http://127.0.0.1:30000/v1" },
      "models": { "qwen3-coder": { "name": "Qwen3 Coder 30B on a Spark" } }
    }
  }
}

Το pi (npm install -g --ignore-scripts @earendil-works/pi-coding-agent) διαβάζει το ~/.pi/agent/models.json. Κρατήστε το contextWindow ίσο ή κάτω από το -c του server, αλλιώς το pi υπεργεμίζει το context και ο server απορρίπτει το αίτημα.

{
  "providers": {
    "spark": {
      "baseUrl": "http://127.0.0.1:30000/v1",
      "api": "openai-completions",
      "apiKey": "unused",
      "compat": { "supportsDeveloperRole": false, "maxTokensField": "max_tokens" },
      "models": [
        { "id": "qwen3-coder", "name": "Qwen3 Coder 30B (Spark)",
          "reasoning": false, "contextWindow": 65536, "maxTokens": 8192,
          "cost": { "input": 0, "output": 0, "cacheRead": 0, "cacheWrite": 0 } }
      ]
    }
  }
}

Μετά pi --model qwen3-coder στο αποθετήριό σας. Ο server συνεχίζει να λειτουργεί όταν κλείνει ο agent· τερματίστε το instance στην κονσόλα όταν τελειώσει η μέρα.

Τι αγοράζει μια ώρα, δίπλα σε έναν λογαριασμό API

Ένα Spark κοστίζει 0,79 $ την ώρα, με χρέωση ανά λεπτό: 6,32 $ για μια οκτάωρη μέρα, 132,72 $ για 21 τέτοιες μέρες. Τι παίρνετε για αυτό εξαρτάται από το πόσο απασχολημένο το κρατάτε. Σύμφωνα με τους δικούς μου υπολογισμούς από τις μετρημένες ταχύτητες παραπάνω:

Βάλτε τα δίπλα στο δικό σας τιμολόγιο API. Για έναν developer του οποίου η συνδρομή προγραμματισμού δεν φτάνει ποτέ τα όριά της, η συνδρομή είναι πιθανότατα φθηνότερη. Ένα Spark αποδίδει όταν πολλοί μοιράζονται ένα endpoint, όταν τα όρια ρυθμού σταματούν μεγάλες εκτελέσεις agent, ή όταν ο κώδικάς σας δεν πρέπει να πηγαίνει σε πάροχο μοντέλων.

Περιορισμοί που πρέπει να ξέρετε πρώτα

Πού βρίσκονται τα Spark

Τα δικά μου Spark βρίσκονται σε κέντρο δεδομένων στο Hradec Králové της Τσεχικής Δημοκρατίας. Τα Spark συνεργατών ανήκουν σε συνεργάτες και φιλοξενούνται στις δικές τους εγκαταστάσεις στις ΗΠΑ, τη Σουηδία, την Ολλανδία, τη Σλοβακία και το Χονγκ Κονγκ. Η κονσόλα δείχνει τη χώρα, και αν είναι στον ΕΟΧ, πριν κάνετε ανάπτυξη. Ένας συνεργάτης έχει φυσική πρόσβαση στο μηχάνημά του, και ένα μηχάνημα εκτός ΕΟΧ σημαίνει ότι τα δεδομένα σας φεύγουν από την ΕΕ/ΕΟΧ, οπότε επιλέξτε την τοποθεσία που ταιριάζει στον κώδικά σας.

Τιμή

0,79 $ την ώρα για ένα Spark, με χρέωση ανά λεπτό από προπληρωμένη πίστωση. Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση. Ένα σταματημένο instance διατηρεί τον χώρο εργασίας του και χρεώνεται με το 75% της ωριαίας τιμής. Τερματίστε το όταν τελειώσετε και η χρέωση σταματά· αυτό διαγράφει τον χώρο εργασίας. Οι τιμές δεν περιλαμβάνουν ΦΠΑ, όπου εφαρμόζεται. Λεπτομέρειες στη σελίδα τιμών.

Ποιος το διαχειρίζεται

Το GPUwerk είναι νέο, οπότε να ποιον θα πληρώνατε. Είμαι ο Samuel Seidel, ο ιδρυτής, και η εταιρεία είναι η PRINT IT! SE, εγγεγραμμένη στην Πράγα. Από τον Σεπτέμβριο του 2026, 94 developers έχουν ξεκινήσει 374 instances (στις 9 Νοεμβρίου 2026). Η κατάσταση της υπηρεσίας είναι δημόσια στο status.gpuwerk.com. Ερωτήσεις πριν ξεκινήσετε; Γράψτε μέσω της σελίδας επικοινωνίας· απαντώ προσωπικά.

Συχνές ερωτήσεις

Μπορώ να χρησιμοποιήσω το pi ή το OpenCode με την προεπιλογή Qwen3 Coder 30B;

Όχι ως έχει. Και τα δύο στέλνουν tool calls OpenAI, και η προεπιλογή ξεκινά το vLLM χωρίς --enable-auto-tool-choice, οπότε το vLLM απορρίπτει αυτά τα αιτήματα. Αναπτύξτε αντί γι' αυτό το image DGX OS και εξυπηρετήστε το μοντέλο με llama.cpp και --jinja, όπως στη ρύθμιση 2 αυτής της σελίδας. Το aider και η λειτουργία chat του Continue λειτουργούν με την προεπιλογή ως έχει.

Πόσο γρήγορο είναι το Qwen3 Coder 30B σε DGX Spark;

Σε ένα από τα Spark μου παρήγαγε 80,9 tokens το δευτερόλεπτο για ένα αίτημα, και 35.2 ανά αίτημα με 8 αιτήματα ταυτόχρονα (vLLM 0.27.1, AWQ 4-bit, 2 Σεπτεμβρίου 2026). Το πλήρες log συνδέεται σε αυτή τη σελίδα. Οι συντηρητές του llama.cpp αναφέρουν 61,1 tok/s σε Q8_0.

Πόσο κοστίζει ένας coding agent σε ένα Spark;

0,79 $ την ώρα, με χρέωση ανά λεπτό από προπληρωμένη πίστωση, ό,τι κι αν στέλνει ο agent: 6,32 $ για μια οκτάωρη μέρα. Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση. Ένα σταματημένο instance χρεώνεται με το 75% της ωριαίας τιμής· ο τερματισμός σταματά τη χρέωση και διαγράφει τον χώρο εργασίας. Οι τιμές δεν περιλαμβάνουν ΦΠΑ, όπου εφαρμόζεται.

Πηγαίνει ο κώδικάς μου σε πάροχο μοντέλων;

Δεν εμπλέκεται API μοντέλου τρίτου: το μοντέλο εκτελείται στο Spark που νοικιάζετε, το οποίο δεν χρησιμοποιεί κανείς άλλος όσο το έχετε. Τα αιτήματα προς το endpoint HTTPS της προεπιλογής περνούν από την πύλη του GPUwerk και, ανάλογα με το instance, από το Cloudflare. Ένα SSH tunnel σε server που ξεκινάτε μόνοι σας αποφεύγει και τα δύο. Σε ένα Spark συνεργάτη, ο συνεργάτης έχει φυσική πρόσβαση στο μηχάνημα.

Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση

Συνδέστε τον agent σας σε ένα δικό σας Spark.

Ένα αποκλειστικό DGX Spark με το Qwen3 Coder 30B έτοιμο για εξυπηρέτηση, 0,79 $/h με χρέωση ανά λεπτό. Τερματίστε όταν τελειώσετε και η χρέωση σταματά.

Ανάπτυξη τώρα