Guides DGX Spark
Soixante-cinq guides sur l'achat, l'utilisation et l'exploitation d'un DGX Spark, par GPUwerk, qui en loue. Ils sont regroupés en cinq sections : acheter et faire tourner un Spark, modèles et moteurs d'inférence, performances et benchmarks, clusters et montée en charge, et exploitation. Chaque carte affiche le résumé du guide.
Acheter et faire tourner un Spark
Avant d'acheter, puis consommation, bruit, installation, mises à jour, stockage et coûts de fonctionnement.
Ce qu'il faut savoir avant d'acheter un DGX Spark
Un guide d'achat honnête du DGX Spark par une entreprise qui en loue : benchmarks réels, le plafond de 273 Go/s de bande passante, prix constatés dans l'UE, et acheter ou louer.
Consommation électrique et coût de fonctionnement du DGX Spark
Consommation du DGX Spark, mesurée : 22-45 W au repos, 60-90 W en inférence LLM, environ 160-200 W à pleine charge, pour une alimentation de 240 W. Coût mensuel aux prix de l'électricité de l'UE.
Bruit du DGX Spark : 29 dB à pleine charge, 13 dB au repos
NVIDIA déclare le DGX Spark à 35 dB LWA et 29 dB LpA à charge maximale, 19 et 13 dB au repos (ECMA-109). Mesures des testeurs, refroidissement et emplacement.
Guide d'installation du DGX Spark : du premier démarrage à un modèle servi en une soirée
Un démarrage rapide DGX Spark par quelqu'un qui en installe en baie tous les jours : premier démarrage de DGX OS, SSH par clé uniquement, choix d'une pile de service, et votre premier modèle servi à vos outils en une soirée.
Mises à jour des pilotes et du firmware du DGX Spark : ce que gère GPUwerk
Ce que GPUwerk tient à jour au niveau de l'hôte et du nœud sur un DGX Spark loué, et ce qui se trouve dans votre propre conteneur root et reste entièrement sous votre responsabilité.
Stockage du DGX Spark : ce qui persiste et ce qu'il faut sauvegarder
Le NVMe de 1 To d'un DGX Spark loué, exactement ce qui survit à un arrêt et à une suppression, et pourquoi votre propre sauvegarde compte puisque GPUwerk n'en garde aucune.
Démarrage à froid ou allumé en permanence : choisir un mode de disponibilité d'instance
Arrêter un DGX Spark entre deux utilisations ou le laisser tourner 24 h/24 : coût, latence et compromis sur les données, et comment choisir le mode qui correspond à l'utilisation réelle.
Migrer un déploiement d'IA auto-hébergé existant vers un DGX Spark
Un chemin de migration pratique d'une station de travail ou d'un autre GPU cloud vers un DGX Spark loué : requantification pour la mémoire unifiée, transfert des données et plan de bascule.
Prévision des coûts et budget pour l'infrastructure d'IA
Comment estimer les dépenses mensuelles d'infrastructure d'IA en auto-hébergement face à une API au compteur, avec le tarif de 0,79 $/heure de GPUwerk comme exemple chiffré et une checklist budgétaire.
Coût total de possession : location de GPU ou API d'IA cloud
Une API d'IA cloud facturée au token, un DGX Spark dédié loué à 0,79 $/heure et l'achat de matériel, comparés uniquement à partir de chiffres publiés sur ce site.
DGX Spark 64GB vs 128GB : vitesse, prix, ce qui tient
DGX Spark 64GB vs 128GB, novembre 2026 : même GB10 et 273 Go/s, 4 999 $ contre 6 950 $ environ 54 Gio utilisables. Tableau d'adéquation pour 8 modèles avec contexte, et qui le vend.
Installation du DGX Spark sans écran
Installation du DGX Spark sans écran : le parcours via le point d'accès Wi-Fi, trouver spark-xxxx.local, le Wi-Fi Assistant d'octobre 2026, la réserve d'affichage de 512 Mo, et cloud-init pour de nombreuses machines.
Stockage du DGX Spark : 1 To vs 4 To et où ranger les modèles
Stockage du DGX Spark, 1 To vs 4 To : combien de 14 modèles actuels tiennent (gpt-oss-120b fait 65,3 Go), un cache Hugging Face partagé, la vitesse de hf_xet, les options USB-C et NFS.
Guide de restauration du DGX Spark et de réinstallation de DGX OS
Restauration du DGX Spark : réparer une mise à jour ratée sans tout effacer, sauvegarder depuis une clé USB live, réinstaller avec l'image de restauration 1.155.49 (5,9 Go), images OEM, et quand demander un RMA.
Mises à jour logicielles du DGX Spark : historique jusqu'à octobre 2026
Mises à jour logicielles du DGX Spark, du lancement à la version d'octobre 2026 : DGX OS 7.6.0, Linux 7.0, pilote 580.178.04, les problèmes connus, et comment mettre à jour en toute sécurité.
Guide NVIDIA Sync et accès à distance pour DGX Spark
Accès à distance au DGX Spark avec NVIDIA Sync 0.148.0-153 : ce qu'il installe, le DGX Dashboard sur le port 11000, Tailscale, une configuration SSH simple, et une exposition sûre de l'API.
Modèles et moteurs d'inférence
Quels modèles faire tourner, avec quel moteur les servir, et comment mesurer le résultat.
Meilleurs modèles pour DGX Spark, édition d'octobre 2026
Meilleurs modèles pour DGX Spark, octobre 2026 : Qwen3.6-35B-A3B NVFP4 mesuré à 86,3 tok/s sur un Spark, DeepSeek-V4-Flash à environ 44 tok/s sur deux. Tableaux de verdict avec sources.
llama.cpp vs vLLM vs SGLang sur DGX Spark : tok/s et options
vLLM 60,7 vs Ollama 42,1 tok/s pour gpt-oss-120b sur un DGX Spark, et 116 à 153 contre 42,5 avec 8 utilisateurs. Quel moteur pour un utilisateur, une équipe ou deux Sparks, avec les options exactes.
Comment faire tourner un modèle tout juste publié sur un DGX Spark (GB10)
Faites tourner un nouveau modèle à poids ouverts sur un DGX Spark la semaine de sa sortie : adéquation mémoire, images arm64, NVFP4 ou GGUF, vLLM, SGLang ou llama.cpp, et quand il faut deux Sparks.
Servir Qwen3 avec vLLM sur un DGX Spark
Installez vLLM, servez Qwen3-32B-AWQ avec une API compatible OpenAI, connectez Open WebUI et maintenez le tout en marche avec systemd : un guide à copier-coller pour DGX Spark.
Modèles quantifiés ou en pleine précision en production
Comment choisir entre un modèle quantifié et un modèle en pleine précision pour un déploiement auto-hébergé en production : adéquation mémoire, risque de qualité selon la tâche, et quand tester les deux.
Faire le fine-tuning d'un modèle sur les données de votre entreprise, sans que vos données quittent les murs
Fine-tuner un LLM ouvert sur les données de l'entreprise sans qu'elles quittent les murs : tableaux de mémoire LoRA et QLoRA, un exemple chiffré en 32B, et fine-tuning ou RAG.
Embeddings et recherche vectorielle sur un DGX Spark
Faites tourner un modèle d'embedding et une base vectorielle à côté de votre modèle de génération sur un seul DGX Spark : budget mémoire, service des embeddings, et choix d'une base vectorielle.
Faire tourner des modèles de vision et multimodaux sur un DGX Spark
Ce qui est envisageable avec les 128 Go de mémoire unifiée d'un DGX Spark pour les modèles vision-langage et la compréhension d'images, et pourquoi GPUwerk n'a pas encore publié de benchmarks VLM dédiés.
ComfyUI et Stable Diffusion sur un DGX Spark
Faites tourner ComfyUI, FLUX et SDXL sur un DGX Spark : installation sur ARM64, temps de génération d'images rapportés par modèle, contention de la mémoire unifiée avec les LLM, et réserves thermiques.
Sortie structurée et appel de fonctions sur un LLM auto-hébergé
Configurer la sortie structurée en mode JSON et l'appel d'outils/de fonctions sur des modèles auto-hébergés avec vLLM et llama.cpp, y compris quels modèles le prennent en charge et comment déboguer les appels mal formés.
Mise en cache des prompts pour réduire le coût d'inférence
Comment la réutilisation du préfixe et du cache KV réduit le calcul répété sur un déploiement auto-hébergé : ce qui donne lieu à un succès de cache, comment structurer les prompts pour cela, et où les économies apparaissent réellement sur un Spark loué à l'heure.
Traitement par lots de gros jobs d'inférence sur un Spark loué
Lancez du traitement de documents en masse et de l'annotation de jeux de données sur un DGX Spark loué : réglages de débit de vLLM, dimensionnement des jobs par rapport au tarif horaire, et checkpoints.
Évaluer la qualité d'un modèle avant d'en changer
Jeux de test réservés, approches A/B et tests de non-régression pour comparer un modèle candidat à votre modèle actuel avant de changer en production.
Comment GPUwerk réalise les benchmarks du DGX Spark
Ce que GPUwerk mesure sur un DGX Spark : flux unique ou requêtes simultanées, quels moteurs et réglages, et pourquoi les logs bruts sont publiés, pas seulement un récapitulatif.
DGX Spark en contexte long : tok/s de 4k à 100k, novembre 2026
Performances du DGX Spark en contexte long, novembre 2026 : décodage à 4k, 50k et 100k pour six modèles, environ 76 s pour le prefill de 100k tokens, et tailles du cache KV à 128k.
DGX Spark, Docker et conteneurs NGC : arm64, GPU, compose
Guide Docker pour DGX Spark, novembre 2026 : Docker 29.6.2 et Container Toolkit 1.20 préinstallés, les images NGC disponibles en arm64, et un fichier compose pour vLLM.
LM Studio sur DGX Spark : Linux ARM64, llmster, vitesse (2026)
LM Studio sur un DGX Spark, novembre 2026 : une version Linux ARM64 avec un moteur llama.cpp CUDA 13 depuis octobre 2025, l'installation sans interface de llmster, et la vitesse face à llama.cpp.
NVIDIA AI Workbench et JupyterLab sur DGX Spark
NVIDIA AI Workbench sur DGX Spark, novembre 2026 : version 2026.06.5, images de base arm64 avec CUDA 13.1, le JupyterLab du DGX Dashboard et JupyterLab 4.6.6 standard.
NIM sur DGX Spark : quels NIM tournent sur GB10, licence, installation
NVIDIA NIM sur DGX Spark, novembre 2026 : une vingtaine de NIM indiquent la prise en charge du GB10, gratuits pour le développement sur jusqu'à 16 GPU, et la production nécessite une licence AI Enterprise.
Ollama sur DGX Spark : installation, réglages et tok/s
Ollama sur un DGX Spark, novembre 2026 : installation arm64, les six réglages qui comptent, 42 tok/s sur gpt-oss-120b contre 59 pour llama.cpp, et une exposition sûre de l'API.
PyTorch sur DGX Spark : wheels aarch64 CUDA 13
PyTorch sur un DGX Spark, novembre 2026 : wheels aarch64 torch 2.15.0 cu132 ou 2.14.1 cu130, le faux avertissement sm_121, NGC 26.10, et l'état de flash-attn et xformers.
SGLang sur DGX Spark : installation, options et tok/s
SGLang sur un DGX Spark, novembre 2026 : image arm64 v0.5.23 et wheels pip, --mem-fraction-static 0.80 sur GB10, et 52 contre 36 tok/s face à vLLM sur gpt-oss-120b.
Whisper et Parakeet sur DGX Spark : reconnaissance vocale, nov. 2026
Reconnaissance vocale sur un DGX Spark, novembre 2026 : Parakeet TDT 0.6B v3 à 283 fois le temps réel sur GB10, Whisper large-v3 à 19 à 25 fois, avec le WER de l'Open ASR Leaderboard.
TensorRT-LLM sur DGX Spark : trtllm-serve, NVFP4, tok/s (2026)
TensorRT-LLM sur un DGX Spark, novembre 2026 : le conteneur 1.3.0rc13 de NVIDIA, trtllm-serve avec NVFP4, 38,65 tok/s sur Llama 3.1 8B, et quand la configuration en vaut la peine.
Génération vidéo sur DGX Spark : secondes par clip, novembre 2026
Génération vidéo sur DGX Spark, novembre 2026 : clips LTX-2.5 de 5 secondes en environ 70 s, Wan 2.2 5B en 720p en 14 min, et pourquoi une RTX 5090 va 2,4 à 5,5x plus vite.
Performances et benchmarks
Vitesse mesurée et rapportée : utilisateurs par Spark, bande passante mémoire, CPU, calcul, formats de quantification et comportement de chaque machine GB10 en charge.
Combien d'utilisateurs un DGX Spark peut-il servir ? Chiffres en simultané
Combien d'utilisateurs un DGX Spark sert-il, novembre 2026 : tok/s par utilisateur de 1 à 256 requêtes, environ 52 flux de chat à 15 tok/s sur un MoE à 3B paramètres actifs, et dimensionnement des équipes.
Performances CPU du DGX Spark : benchmarks GB10 face à x86 et M5
Performances CPU du DGX Spark, novembre 2026 : le GB10 obtient 3 123 en monocœur et 19 708 en multicœur sur Geekbench 6 et 675 GFLOPS sur HPL, face au Ryzen AI Max+ 395 et au M5 Max.
Bande passante mémoire du DGX Spark mesurée : 273 Go/s face au réel
Bande passante mémoire du DGX Spark mesurée, novembre 2026 : 234 à 247 Go/s dans clpeak, 200 à 213 Go/s en STREAM triad, 38 Go/s par cœur CPU, et un décodage à 73-87 %.
Vitesse de quantification sur DGX Spark : NVFP4 vs FP8 vs AWQ vs GGUF
La quantification la plus rapide sur DGX Spark, novembre 2026 : un même modèle à 31 tok/s en BF16, 50 à 55 en FP8, 65 à 66 en NVFP4, 81 en AWQ, et quand NVFP4 décroche.
TFLOPS du DGX Spark mesurés : 1 PFLOP FP4 face à un vrai matmul
TFLOPS du DGX Spark mesurés, novembre 2026 : 973 à 1 022 en FP4 avec sparsité dans un microbenchmark, 356 dans un GEMM CUTLASS, 77 à 99 en BF16 soutenu, et ce qu'utilise le prefill.
Bridage thermique du GB10 : vitesse soutenue par OEM (2026)
Bridage thermique du GB10 par fabricant : cinq machines OEM sont restées dans une marge de 2,6 % en prefill vLLM, avec des températures CPU maximales de 74,7 à 90 °C. Le vrai risque, c'est le firmware.
Clusters et montée en charge
Deux Sparks, une flotte, plusieurs modèles sur une machine, et le partage avec une équipe.
Cluster DGX Spark : deux Sparks, configuration, limites et tok/s
Deux DGX Spark offrent 256 Go et, avec le parallélisme tensoriel, un décodage plus rapide : 1,75× mesuré sur Qwen3-32B, jusqu'à environ 1,8× rapporté. Câbles, noms des ports, configuration, modèles qui nécessitent deux Sparks.
Passer d'un DGX Spark à une flotte
Quand louer davantage de Sparks seuls l'emporte sur un cluster de deux nœuds, comment répartir la charge entre des nœuds indépendants, et les compromis d'exploitation d'une petite flotte.
Gestion de la mémoire GPU pour plusieurs modèles sur un Spark
Répartissez 128 Go de mémoire unifiée entre plusieurs modèles ou conteneurs sur un DGX Spark, et sachez quand passer plutôt à un cluster de deux nœuds ou à un second nœud.
Surveiller l'utilisation du GPU et bien dimensionner votre déploiement
Comment lire l'utilisation réelle du GPU et de la mémoire sur un DGX Spark loué et s'en servir pour décider entre rester tel quel, monter en puissance avec un cluster de deux nœuds, ou s'étendre à une flotte.
Faire tourner plusieurs conteneurs et services sur un DGX Spark
Schémas de conteneurs Docker pour un seul DGX Spark : quand un simple fichier docker-compose suffit, et quand la charge de travail l'a dépassé.
Mettre à jour ou changer de modèle sans interruption
Un DGX Spark est une machine unique : des mises à jour de modèle réellement sans interruption nécessitent un second Spark vers lequel basculer. Voici ce qu'implique cette configuration, et l'alternative honnête si vous acceptez plutôt une courte fenêtre de redémarrage.
Accès d'équipe et multi-utilisateur à un DGX Spark partagé
Comment partager un DGX Spark loué en équipe : des utilisateurs Linux distincts avec leurs propres clés SSH, ou une passerelle en frontal pour éviter le shell à la plupart.
Cluster DGX Spark de 4 ou 8 nœuds : switch, configuration, tok/s
Clusters DGX Spark de 4 et 8 nœuds : pris en charge par NVIDIA depuis le 22 oct. 2026, le switch et les câbles, la configuration NCCL, 52,6 tok/s rapportés à 8 nœuds, et le coût face à 8x B200.
Kimi K3 et DeepSeek V4 sur des clusters DGX Spark : de 1 à 8 nœuds
Combien de DGX Spark faut-il pour Kimi K3, DeepSeek V4, GLM-5.3 et MiniMax M3 ? Calculs de mémoire de 1 à 8 nœuds et vitesses rapportées jusqu'à 132 tok/s sur 4 Sparks.
Exploitation
Surveillance, sauvegardes, sécurité et contrôle d'accès pour un déploiement auto-hébergé.
Surveillance et observabilité pour un LLM auto-hébergé
Ce qu'il faut surveiller sur un DGX Spark qui fait tourner un LLM, et quels outils open source font le travail, de nvidia-smi à une pile Prometheus et Grafana. GPUwerk fournit un accès à la console et à l'API, pas un produit de surveillance.
Sauvegarde et reprise après sinistre pour votre charge de travail DGX Spark
GPUwerk ne garde aucune copie de l'espace de travail d'un DGX Spark loué. Que sauvegarder, où l'envoyer, et à quelle fréquence synchroniser.
Tester votre plan de reprise après sinistre pour un LLM auto-hébergé
Une sauvegarde que vous n'avez jamais restaurée n'est qu'une hypothèse. Exercices de restauration, game days et mesure du RTO/RPO pour un LLM auto-hébergé sur du matériel GPU loué.
Sécuriser une instance GPU louée
Durcissement pratique à l'intérieur de l'instance pour un GPU loué : gestion des clés SSH, exposition réseau, services sans root, secrets, et état éphémère ou persistant.
Bonnes pratiques de rotation des clés API pour un déploiement LLM privé
La rotation des clés API et des identifiants pour un endpoint d'inférence auto-hébergé : portées, calendriers de rotation, révocation, et ce qu'il faut automatiser ou faire à la main.
Limitation de débit et quotas pour un déploiement LLM interne
Un DGX Spark brut n'a pas de limitation de débit par utilisateur. Ajoutez-la vous-même avec les limites rpm/tpm et les budgets par clé de LiteLLM, ou avec un reverse proxy en frontal.
Journalisation d'audit pour un déploiement LLM auto-hébergé soumis à des exigences de conformité
Mettez en place des logs d'audit des requêtes et réponses dans votre propre conteneur sur un DGX Spark loué : quoi capturer, où le stocker, et où s'arrête le rôle de GPUwerk.
Configurer le SSO et le contrôle d'accès pour un déploiement LLM d'équipe
Placer une couche d'authentification devant un endpoint d'inférence auto-hébergé pour qu'une équipe se connecte avec ses identités existantes au lieu de partager des clés SSH ou des jetons d'API.
Stratégie de versionnage des modèles et de retour arrière pour un déploiement auto-hébergé
Savoir quels poids et quelles configurations de modèle tournent réellement, et revenir proprement en arrière quand une nouvelle version déçoit, sur un déploiement DGX Spark auto-hébergé.
Pour savoir comment le Spark se compare à d'autres machines, voir les comparaisons. Pour le matériel lui-même, voir la page des caractéristiques.