Un agent de code privé sur votre propre DGX Spark
Louez un NVIDIA DGX Spark entier, lancez l'image Qwen3 Coder 30B et pointez votre agent de code vers l'endpoint compatible OpenAI qu'elle sert. Personne d'autre n'utilise la machine pendant que vous l'avez, et une heure coûte 0,79 $ quel que soit le nombre de tokens qu'envoie votre agent. Sur l'un de mes Sparks, ce modèle a généré 80,9 tokens par seconde pour une seule requête (vLLM, 2 septembre 2026, log brut).
Première recharge : payez 20 $ recevez 30 $ de crédit. Facturé à la minute sur crédit prépayé. Supprimez l'instance quand vous avez fini : la facturation s'arrête. Dans la console, choisissez DGX Spark 1×, puis l'image Qwen3 Coder 30B.
Ce qu'il y a sur la machine
| Matériel | Un NVIDIA DGX Spark : GB10 Grace Blackwell, 128 Go de mémoire unifiée à 273 Go/s, 1 To NVMe. La machine entière est à vous pendant qu'elle tourne. |
|---|---|
| Modèle | Qwen3-Coder-30B-A3B-Instruct en AWQ 4 bits, un modèle mixture-of-experts qui lit environ 3B de ses 30B paramètres par token. Les poids sont déjà sur la machine. |
| Serveur | vLLM, qui sert le modèle sous le nom qwen3-coder-30b avec un contexte de 32 768 tokens par requête |
| Endpoint | https://app-<instance-id>.gpuwerk.com/v1, compatible OpenAI, protégé par une clé API avec la portée inference que vous créez dans la console |
| Shell | Un terminal root dans le navigateur, sans clé SSH, ou root via SSH avec votre propre clé. Les fichiers sous /workspace survivent aux redémarrages. |
| Où | Cette image tourne sur mes propres Sparks à Hradec Králové, en République tchèque. Les Sparks partenaires proposent les images DGX OS et Ubuntu, sur lesquelles vous lancez vous-même le modèle (voir la deuxième configuration ci-dessous). |
Sa vitesse, mesurée
J'ai lancé vllm bench serve sur ce modèle sur l'un de mes Sparks, sans rien d'autre sur son GPU, le 2 septembre 2026 (vLLM 0.27.1, AWQ 4 bits). La méthode complète et le test comparatif 70B sont sur la page des benchmarks.
| Requêtes simultanées | Générés par requête | Ce que l'on ressent à l'usage |
|---|---|---|
| 1 | 80,9 tok/s | Un développeur : les réponses défilent plus vite que vous ne les lisez |
| 8 | 35,2 tok/s | Une petite équipe qui partage un endpoint |
| 32 | 18,4 tok/s | De nombreuses exécutions d'agents en parallèle ; chacune ralentit |
La lecture du prompt est rapide aussi : un prompt de 8 192 tokens a été ingéré à 5 705 tok/s, soit environ 1,4 seconde avant le premier token. Ce sont des tests de référence, pas une promesse pour vos prompts. Un préréglage déployé aujourd'hui peut utiliser une version plus récente de vLLM, et les longs prompts d'agents prennent plus de temps que les courts prompts de benchmark.
Les agents qui fonctionnent avec le préréglage tel quel
Les agents de code communiquent avec un modèle de l'une de deux façons, et c'est ce qui détermine la configuration dont vous avez besoin. Le préréglage lance vLLM avec seulement une limite de contexte et une limite de mémoire (--max-model-len 32768 --gpu-memory-utilization 0.5). Il ne passe pas --enable-auto-tool-choice, et vLLM refuse les requêtes qui demandent des appels d'outils automatiques si le serveur n'a pas été lancé avec cette option et un parseur d'appels d'outils.
- aider demande les modifications sous forme de texte et n'a pas besoin d'appels d'outils : il fonctionne donc avec le préréglage tel quel. Tout comme les modes chat et édition de Continue.
- pi et OpenCode reposent sur les appels d'outils, tout comme le mode agent de Continue. Pour eux, servez vous-même le modèle avec les appels d'outils activés. Cela prend environ 15 minutes, et fonctionne sur n'importe quel Spark, machines partenaires comprises.
Configuration 1 : le préréglage avec aider
- Dans la console, ajoutez du crédit, choisissez DGX Spark 1× et l'image Qwen3 Coder 30B, puis déployez. La facturation commence une fois que l'instance a passé son contrôle de disponibilité et affiche En cours d'exécution.
- Créez dans la console une clé API avec la portée inference, et copiez l'endpoint HTTPS depuis la page de l'instance.
- Sur votre ordinateur portable, vérifiez que l'endpoint répond. La réponse liste
qwen3-coder-30b.
export SPARK=https://app-<instance-id>.gpuwerk.com/v1 export GPUWERK_API_KEY=sy_key_... # inference scope curl -s $SPARK/models -H "Authorization: Bearer $GPUWERK_API_KEY"
Puis lancez aider dans votre dépôt. Le préfixe openai/ indique à aider quel format d'API utiliser ; aucun service OpenAI n'intervient.
export OPENAI_API_BASE=$SPARK export OPENAI_API_KEY=$GPUWERK_API_KEY aider --model openai/qwen3-coder-30b
Les réglages de Continue et Cline pour le même endpoint se trouvent dans agents de code sur votre propre endpoint.
Configuration 2 : pi ou OpenCode, avec appels d'outils
Déployez plutôt l'image DGX OS. Compilez llama.cpp pour le GB10 et lancez Qwen3 Coder avec --jinja, qui applique le modèle de chat propre au modèle et renvoie ses appels d'outils au format OpenAI. Voici les étapes de compilation de mon guide llama.cpp, à exécuter dans le terminal du navigateur :
apt-get update && apt-get install -y build-essential cmake libcurl4-openssl-dev git clone https://github.com/ggml-org/llama.cpp /workspace/llama.cpp cd /workspace/llama.cpp cmake -B build -DGGML_CUDA=ON -DGGML_CURL=ON -DCMAKE_CUDA_ARCHITECTURES=121a-real cmake --build build --config Release --target llama-server -j # about 32 GB of weights on the first start ./build/bin/llama-server -hf unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:Q8_0 \ --alias qwen3-coder --jinja -c 65536 \ --host 127.0.0.1 --port 30000
Le serveur n'écoute que sur 127.0.0.1 : accédez-y donc via un tunnel SSH depuis votre ordinateur portable. Cela nécessite votre propre clé SSH sur l'instance (deux minutes). Les mainteneurs de llama.cpp rapportent 61,1 tok/s pour ce modèle en Q8_0 sur un DGX Spark (résultats DGX Spark, build 7941) ; je n'ai pas mesuré cette voie moi-même.
# on your laptop, leave it running ssh -N -L 30000:127.0.0.1:30000 root@<instance-name>.gpuwerk.com
OpenCode (npm install -g opencode-ai) lit les fournisseurs dans le fichier opencode.json de votre projet :
{
"$schema": "https://opencode.ai/config.json",
"provider": {
"spark": {
"npm": "@ai-sdk/openai-compatible",
"name": "DGX Spark",
"options": { "baseURL": "http://127.0.0.1:30000/v1" },
"models": { "qwen3-coder": { "name": "Qwen3 Coder 30B on a Spark" } }
}
}
}
pi (npm install -g --ignore-scripts @earendil-works/pi-coding-agent) lit ~/.pi/agent/models.json. Gardez contextWindow inférieur ou égal au -c du serveur, sinon pi surcharge le contexte et le serveur rejette la requête.
{
"providers": {
"spark": {
"baseUrl": "http://127.0.0.1:30000/v1",
"api": "openai-completions",
"apiKey": "unused",
"compat": { "supportsDeveloperRole": false, "maxTokensField": "max_tokens" },
"models": [
{ "id": "qwen3-coder", "name": "Qwen3 Coder 30B (Spark)",
"reasoning": false, "contextWindow": 65536, "maxTokens": 8192,
"cost": { "input": 0, "output": 0, "cacheRead": 0, "cacheWrite": 0 } }
]
}
}
}
Puis pi --model qwen3-coder dans votre dépôt. Le serveur continue de tourner quand l'agent se ferme ; supprimez l'instance dans la console à la fin de la journée.
Ce qu'offre une heure, à côté d'une facture d'API
Un Spark coûte 0,79 $ de l'heure, facturé à la minute : 6,32 $ pour une journée de huit heures, 132,72 $ pour 21 journées de ce type. Ce que vous obtenez pour ce prix dépend de son taux d'occupation. Selon mes calculs à partir des vitesses mesurées ci-dessus :
- Un développeur, une requête à la fois : 80,9 tok/s font au plus environ 291 000 tokens générés par heure, soit 2,71 $ le million si le modèle ne s'arrête jamais. Les vraies sessions marquent des pauses pendant que vous lisez et que les tests tournent : le coût par token est donc plus élevé.
- Une équipe qui partage l'endpoint : avec 8 requêtes en cours, 8 × 35,2 tok/s font environ 1 million de tokens générés par heure, soit environ 0,78 $ le million.
- Les tokens de prompt ne coûtent rien de plus. Un agent renvoie vos fichiers et toute la conversation à chaque tour : sur une API facturée au token, l'essentiel de la facture correspond donc à l'entrée. Ici, le coût est du temps : un prefill à 5 705 tok/s.
Comparez ces chiffres à votre propre facture d'API. Pour un développeur seul dont l'abonnement de code n'atteint jamais ses limites, l'abonnement est probablement moins cher. Un Spark devient rentable quand plusieurs personnes partagent un endpoint, quand les limites de débit interrompent de longues exécutions d'agents, ou quand votre code ne doit pas partir chez un fournisseur de modèles.
Les limites à connaître d'abord
- C'est un modèle ouvert de taille moyenne. Qwen3 Coder 30B est rapide ici parce qu'il lit environ 3B paramètres par token. Ce n'est pas un modèle de pointe, et je n'ai pas lancé de benchmark de code dessus. Essayez-le sur vos propres tâches avant d'y transférer du travail.
- 32 768 tokens par requête avec le préréglage. Un agent qui lit beaucoup de fichiers atteint cette limite. La configuration 2 vous permet de choisir la longueur de contexte.
- Le préréglage ne tourne que sur mes propres Sparks. Quand ils sont tous loués, la console l'indique. Les Sparks partenaires utilisent la configuration 2.
- L'endpoint du préréglage passe par ma passerelle. Il est en HTTPS public, protégé par votre clé API, et selon l'instance, le TLS est terminé chez Cloudflare et sur ma passerelle avant que la requête n'atteigne le Spark (l'API indique lequel, sous
https_termination). Pour du code qui ne doit passer par aucun des deux, utilisez le tunnel SSH de la configuration 2. - Le Spark est en ARM64. Votre agent tourne sur votre ordinateur portable, cela compte donc rarement ici, mais tout ce que vous installez sur le Spark lui-même nécessite une version aarch64.
- Ni SLA ni sauvegardes. Gardez votre code dans git de votre côté ; supprimer l'instance efface l'espace de travail.
Où se trouvent les Sparks
Mes propres Sparks sont dans un datacenter à Hradec Králové, en République tchèque. Les Sparks partenaires sont détenus et hébergés par des partenaires dans leurs propres locaux, aux États-Unis, en Suède, aux Pays-Bas, en Slovaquie et à Hong Kong. La console indique le pays, et s'il se trouve dans l'EEE, avant que vous ne déployiez. Un partenaire a un accès physique à sa machine, et une machine hors de l'EEE signifie que vos données quittent l'UE/EEE : choisissez donc l'emplacement qui convient à votre code.
Prix
0,79 $ de l'heure pour un Spark, facturé à la minute sur crédit prépayé. Première recharge : payez 20 $ recevez 30 $ de crédit. Une instance arrêtée conserve son espace de travail et est facturée à 75 % du tarif horaire. Supprimez-la quand vous avez fini : la facturation s'arrête et l'espace de travail est effacé. Prix hors TVA le cas échéant. Les détails sont sur la page des tarifs.
Qui est derrière
GPUwerk est nouveau, alors voici qui vous paieriez. Je suis Samuel Seidel, le fondateur, et la société est PRINT IT! SE, immatriculée à Prague. Depuis septembre 2026, 94 développeurs ont lancé 374 instances (au 9 novembre 2026). L'état du service est public sur status.gpuwerk.com. Des questions avant de commencer ? Écrivez via la page de contact ; je réponds moi-même.
FAQ
Puis-je utiliser pi ou OpenCode avec le préréglage Qwen3 Coder 30B ?
Pas tel quel. Les deux envoient des appels d'outils OpenAI, et le préréglage lance vLLM sans --enable-auto-tool-choice, si bien que vLLM refuse ces requêtes. Déployez plutôt l'image DGX OS et servez le modèle avec llama.cpp et --jinja, comme dans la configuration 2 de cette page. aider et le mode chat de Continue fonctionnent avec le préréglage tel quel.
Quelle est la vitesse de Qwen3 Coder 30B sur un DGX Spark ?
Sur l'un de mes Sparks, il a généré 80,9 tokens par seconde pour une seule requête, et 35,2 par requête avec 8 requêtes simultanées (vLLM 0.27.1, AWQ 4 bits, 2 septembre 2026). Le log brut est lié sur cette page. Les mainteneurs de llama.cpp rapportent 61,1 tok/s en Q8_0.
Combien coûte un agent de code sur un Spark ?
0,79 $ de l'heure, facturé à la minute sur crédit prépayé, quoi que l'agent envoie : 6,32 $ pour une journée de huit heures. Première recharge : payez 20 $ recevez 30 $ de crédit. Une instance arrêtée est facturée à 75 % du tarif horaire ; supprimer l'instance met fin à la facturation et efface l'espace de travail. Prix hors TVA le cas échéant.
Mon code est-il envoyé à un fournisseur de modèles ?
Aucune API de modèle tierce n'intervient : le modèle tourne sur le Spark que vous louez, que personne d'autre n'utilise pendant que vous l'avez. Les requêtes vers l'endpoint HTTPS du préréglage passent par la passerelle de GPUwerk et, selon l'instance, par Cloudflare. Un tunnel SSH vers un serveur que vous lancez vous-même évite les deux. Sur un Spark partenaire, le partenaire a un accès physique à la machine.