DGX Spark-guides
Femogtres guides om køb, brug og drift af en DGX Spark fra GPUwerk, som udlejer dem. De er grupperet i fem afsnit: køb og drift af en Spark, modeller og inferens-engines, ydeevne og benchmarks, klynger og skalering og drift. Hvert kort viser guidens eget resumé.
Køb og drift af en Spark
Før du køber, og derefter strøm, støj, opsætning, opdateringer, lager og driftsomkostninger.
Hvad du skal vide, før du køber en DGX Spark
En ærlig købsguide til DGX Spark fra en virksomhed, der udlejer dem: rigtige benchmarks, loftet på 273 GB/s båndbredde, butikspriser i EU og køb mod leje.
DGX Sparks strømforbrug og driftsomkostninger
DGX Sparks strømforbrug målt: 22-45 W i tomgang, 60-90 W under LLM-inferens, cirka 160-200 W ved fuld belastning mod en strømforsyning på 240 W. Månedlig pris ved EU-elpriser.
DGX Spark-støj: 29 dB ved fuld belastning, 13 dB i tomgang
NVIDIA angiver DGX Spark til 35 dB LWA og 29 dB LpA ved maksimal belastning, 19 og 13 dB i tomgang (ECMA-109). Anmelderes målinger, køling og placering.
Opsætningsguide til DGX Spark: fra første opstart til en serveret model på én aften
En hurtigstart til DGX Spark fra en, der monterer dem i rack hver dag: første opstart af DGX OS, SSH kun med nøgle, valg af serving-stack og serving af din første model til dine værktøjer på én aften.
Driver- og firmwareopdateringer på DGX Spark: hvad GPUwerk står for
Hvad GPUwerk holder opdateret på værts- og nodeniveau på en lejet DGX Spark, og hvad der ligger i din egen root-container og helt er dit ansvar.
DGX Spark-lager: hvad der er persistent, og hvad du skal tage backup af
1 TB NVMe på en lejet DGX Spark, præcis hvad der overlever et stop i forhold til en afslutning, og hvorfor din egen backup er vigtig, da GPUwerk ikke opbevarer nogen.
Koldstart mod altid tændt: valg af oppetidsmønster for en instans
At stoppe en DGX Spark mellem brug eller holde den kørende døgnet rundt: afvejningerne af pris, svartid og data, og hvordan du afgør, hvilket mønster der passer til det faktiske forbrug.
Migrering af en eksisterende selvhostet AI-udrulning til en DGX Spark
En praktisk migreringsvej fra en workstation eller en anden cloud-GPU til en lejet DGX Spark: genkvantisering til unified memory, flytning af data og en plan for omstillingen.
Omkostningsprognoser og budgettering for AI-infrastruktur
Sådan estimerer du de månedlige udgifter til AI-infrastruktur ved selvhosting mod en målt API, med GPUwerks takst på 0 $,79/time som gennemregnet eksempel og en tjekliste til budgettering.
Samlede ejeromkostninger: GPU-leje mod en cloud-AI-API
En cloud-AI-API med betaling pr. token, en lejet dedikeret DGX Spark til 0 $,79/time og køb af egen hardware sammenlignet udelukkende med tal, der er offentliggjort på dette websted.
DGX Spark 64GB vs 128GB: hastighed, pris, hvad der passer
DGX Spark 64GB vs 128GB, november 2026: samme GB10 og 273 GB/s, 4.999 $ mod 6.950 $, cirka 54 GiB brugbart. Tabel over 8 modeller med kontekst, og hvem der sælger den.
Headless opsætning af DGX Spark uden skærm
Headless opsætning af DGX Spark: Wi-Fi-hotspot-forløbet, sådan finder du spark-xxxx.local, Wi-Fi Assistant fra oktober 2026, 512 MB skærmreserve og cloud-init til mange enheder.
DGX Spark-lager: 1 TB vs 4 TB, og hvor modellerne skal ligge
DGX Spark-lager 1 TB vs 4 TB: hvor mange af 14 aktuelle modeller der passer (gpt-oss-120b fylder 65,3 GB), én delt Hugging Face-cache, hf_xet-hastighed, USB-C- og NFS-muligheder.
Guide til gendannelse af DGX Spark og geninstallation af DGX OS
Gendannelse af DGX Spark: reparer en mislykket opdatering uden at slette, tag backup fra en live-USB, geninstaller med gendannelsesimage 1.155.49 (5,9 GB), OEM-images, og hvornår du skal bruge RMA.
Softwareopdateringer til DGX Spark: udgivelseslog til oktober 2026
Softwareopdateringer til DGX Spark fra lanceringen til udgivelsen i oktober 2026: DGX OS 7.6.0, Linux 7.0, driver 580.178.04, kendte problemer, og hvordan du opdaterer sikkert.
Guide til NVIDIA Sync og fjernadgang på DGX Spark
Fjernadgang til DGX Spark med NVIDIA Sync 0.148.0-153: hvad det installerer, DGX Dashboard på port 11000, Tailscale, en almindelig SSH-konfiguration og sikker eksponering af API'en.
Modeller og inferens-engines
Hvilke modeller du skal køre, hvilken engine du skal servere dem med, og hvordan du måler resultatet.
Bedste modeller til DGX Spark, udgave oktober 2026
Bedste modeller til DGX Spark, oktober 2026: Qwen3.6-35B-A3B NVFP4 rapporteret til 86,3 tok/s på én Spark, DeepSeek-V4-Flash til cirka 44 tok/s på to. Vurderingstabeller med kilder.
llama.cpp vs vLLM vs SGLang på DGX Spark: tok/s og flag
vLLM 60,7 vs Ollama 42,1 tok/s for gpt-oss-120b på én DGX Spark og 116 til 153 vs 42,5 ved 8 brugere. Hvilken engine til én bruger, et team eller to Sparks, plus præcise flag.
Sådan kører du en nyudgivet model på en DGX Spark (GB10)
Kør en ny open-weight-model på en DGX Spark i udgivelsesugen: hukommelsestilpasning, arm64-images, NVFP4 eller GGUF, vLLM, SGLang eller llama.cpp, og hvornår den kræver to Sparks.
Server Qwen3 med vLLM på en DGX Spark
Installer vLLM, server Qwen3-32B-AWQ med en OpenAI-kompatibel API, forbind Open WebUI, og hold det kørende med systemd: en kopiér-og-indsæt-guide til DGX Spark.
Kvantiserede modeller vs modeller i fuld præcision i produktion
Sådan vælger du mellem en kvantiseret model og en model i fuld præcision til en selvhostet produktionsudrulning: hukommelsestilpasning, kvalitetsrisiko pr. opgave, og hvornår du skal teste begge.
Finjuster en model på din virksomheds data, uden at dine data forlader bygningen
Finjuster en åben LLM på virksomhedsdata, uden at de forlader bygningen: hukommelsestabeller for LoRA og QLoRA, et gennemregnet eksempel med 32B og finjustering vs RAG.
Embeddings og vektorsøgning på en DGX Spark
Kør en embedding-model og en vektordatabase ved siden af din genereringsmodel på én DGX Spark: hukommelsesbudget, serving af embeddings og valg af vektordatabase.
Kørsel af visions- og multimodale modeller på en DGX Spark
Hvad der er realistisk på en DGX Sparks 128 GB unified memory for vision-language-modeller og billedforståelse, og hvorfor GPUwerk endnu ikke har offentliggjort dedikerede VLM-benchmarks.
ComfyUI og Stable Diffusion på en DGX Spark
Kør ComfyUI, FLUX og SDXL på en DGX Spark: opsætning på ARM64, rapporterede billedtider pr. model, konkurrence om unified memory med LLM'er og termiske forbehold.
Struktureret output og function calling på en selvhostet LLM
Opsætning af struktureret output i JSON-tilstand og tool/function calling på selvhostede modeller med vLLM og llama.cpp, inklusive hvilke modeller der understøtter det, og hvordan du fejlfinder misdannede kald.
Prompt caching for at reducere inferensomkostninger
Sådan reducerer genbrug af prefix- og KV-cache gentagen beregning i en selvhostet udrulning: hvad der giver et cache-hit, hvordan du strukturerer prompts til det, og hvor besparelserne reelt viser sig på en Spark, der lejes pr. time.
Batchbehandling af store inferensjob på en lejet Spark
Kør massebehandling af dokumenter og mærkning af datasæt på en lejet DGX Spark: vLLM-indstillinger for gennemløb, dimensionering af job i forhold til timeprisen og checkpointing.
Evaluering af modelkvalitet, før du skifter model
Holdout-testsæt, A/B-tilgange og regressionstjek til benchmarking af en kandidatmodel mod din nuværende, før du skifter i produktion.
Sådan benchmarker GPUwerk DGX Spark
Hvad GPUwerk måler på en DGX Spark: én strøm mod samtidighed, hvilke engines og indstillinger, og hvorfor de rå logfiler offentliggøres, ikke kun et resumé.
DGX Spark lang kontekst: tok/s ved 4k til 100k, november 2026
DGX Sparks ydeevne med lang kontekst, november 2026: dekodning ved 4k, 50k og 100k for seks modeller, cirka 76 s til prefill af 100k tokens og KV-cachestørrelser ved 128k.
DGX Spark Docker og NGC-containere: arm64, GPU, compose
DGX Spark Docker-guide, november 2026: Docker 29.6.2 og Container Toolkit 1.20 forudinstalleret, hvilke NGC-images har arm64-builds, og en vLLM-compose-fil.
LM Studio på DGX Spark: Linux ARM64, llmster, hastighed (2026)
LM Studio på en DGX Spark, november 2026: et Linux ARM64-build med en CUDA 13 llama.cpp-engine siden oktober 2025, headless opsætning med llmster og hastighed mod llama.cpp.
NVIDIA AI Workbench og JupyterLab på DGX Spark
NVIDIA AI Workbench på DGX Spark, november 2026: udgivelse 2026.06.5, arm64-basisimages med CUDA 13.1, DGX Dashboard JupyterLab og almindelig JupyterLab 4.6.6.
NIM på DGX Spark: hvilke NIM'er kører på GB10, licens, opsætning
NVIDIA NIM på DGX Spark, november 2026: cirka 20 NIM'er angiver GB10-understøttelse, gratis til udvikling på op til 16 GPU'er, og produktion kræver en AI Enterprise-licens.
Ollama på DGX Spark: opsætning, indstillinger og tok/s
Ollama på en DGX Spark, november 2026: arm64-installation, de seks indstillinger, der betyder noget, 42 tok/s på gpt-oss-120b mod 59 for llama.cpp og sikker eksponering af API'en.
PyTorch på DGX Spark: CUDA 13 aarch64-wheels
PyTorch på en DGX Spark, november 2026: torch 2.15.0 cu132 eller 2.14.1 cu130 aarch64-wheels, den falske sm_121-advarsel, NGC 26.10 og status for flash-attn og xformers.
SGLang på DGX Spark: installation, flag og tok/s
SGLang på en DGX Spark, november 2026: v0.5.23 arm64-image og pip-wheels, --mem-fraction-static 0.80 på GB10 og 52 mod 36 tok/s i forhold til vLLM på gpt-oss-120b.
Whisper og Parakeet på DGX Spark: tale til tekst, nov. 2026
Tale til tekst på en DGX Spark, november 2026: Parakeet TDT 0.6B v3 ved 283x realtid på GB10, Whisper large-v3 ved 19 til 25x, med WER fra Open ASR Leaderboard.
TensorRT-LLM på DGX Spark: trtllm-serve, NVFP4, tok/s (2026)
TensorRT-LLM på en DGX Spark, november 2026: NVIDIAs container 1.3.0rc13, trtllm-serve med NVFP4, 38,65 tok/s på Llama 3.1 8B, og hvornår opsætningen betaler sig.
Videogenerering på DGX Spark: sekunder pr. klip, november 2026
Videogenerering på DGX Spark, november 2026: LTX-2.5-klip på 5 sekunder på cirka 70 s, Wan 2.2 5B 720p på 14 min, og hvorfor en RTX 5090 er 2,4 til 5,5x hurtigere.
Ydeevne og benchmarks
Målt og rapporteret hastighed: brugere pr. Spark, hukommelsesbåndbredde, CPU, regnekraft, kvantiseringsformater, og hvordan hver GB10-maskine holder under belastning.
Hvor mange brugere kan en DGX Spark betjene? Data om samtidighed
Hvor mange brugere én DGX Spark betjener, november 2026: tok/s pr. bruger ved 1 til 256 forespørgsler, cirka 52 chatstrømme ved 15 tok/s på en MoE med 3B aktive og dimensionering af teams.
DGX Spark CPU-ydeevne: GB10-benchmarks mod x86 og M5
DGX Spark CPU-ydeevne, november 2026: GB10 scorer 3.123 single og 19.708 multi i Geekbench 6 og 675 GFLOPS i HPL mod Ryzen AI Max+ 395 og M5 Max.
DGX Sparks hukommelsesbåndbredde målt: 273 GB/s mod virkeligheden
DGX Sparks hukommelsesbåndbredde målt, november 2026: 234 til 247 GB/s i clpeak, 200 til 213 GB/s STREAM triad, 38 GB/s pr. CPU-kerne og dekodning ved 73 til 87 %.
DGX Spark-kvantiseringshastighed: NVFP4 vs FP8 vs AWQ vs GGUF
Hurtigste kvantisering på en DGX Spark, november 2026: én model ved 31 tok/s i BF16, 50 til 55 i FP8, 65 til 66 i NVFP4, 81 i AWQ, og hvornår NVFP4 halter bagefter.
DGX Spark TFLOPS målt: 1 PFLOP FP4 mod reel matmul
DGX Spark TFLOPS målt, november 2026: 973 til 1.022 sparse FP4 i et mikrobenchmark, 356 i en CUTLASS GEMM, 77 til 99 BF16 vedvarende, og hvad prefill bruger.
Termisk drosling på GB10: vedvarende hastighed efter OEM (2026)
Termisk drosling på GB10 efter producent: fem OEM-maskiner holdt sig inden for 2,6 % på vLLM-prefill, mens CPU-spidstemperaturer lå på 74,7 til 90 °C. Firmwaren er den reelle risiko.
Klynger og skalering
To Sparks, en flåde, flere modeller på én maskine og deling med et team.
DGX Spark-klynge: to Sparks, opsætning, grænser og tok/s
To DGX Sparks giver 256 GB og, med tensor-parallelisme, hurtigere dekodning: 1,75× målt på Qwen3-32B, op til cirka 1,8× rapporteret. Kabeldele, portnavne, opsætning og modeller, der kræver to Sparks.
Skalering fra én DGX Spark til en flåde
Hvornår det er bedre at leje flere enkelte Sparks end en klynge med to noder, hvordan du fordeler belastningen på uafhængige noder, og de driftsmæssige afvejninger ved at drive en lille flåde.
Styring af GPU-hukommelse til flere modeller på én Spark
Fordel 128 GB unified memory på flere modeller eller containere på én DGX Spark, og vid, hvornår du i stedet skal gå over til en klynge med to noder eller en ekstra node.
Overvågning af GPU-udnyttelse og korrekt dimensionering af din udrulning
Sådan aflæser du den faktiske GPU- og hukommelsesudnyttelse på en lejet DGX Spark og bruger den til at vælge mellem at blive, hvor du er, skalere op til en klynge med to noder eller skalere ud til en flåde.
Kørsel af flere containere og tjenester på en DGX Spark
Docker-containermønstre for én DGX Spark: hvornår en almindelig docker-compose-fil er nok, og hvornår workloadet er vokset fra den.
Opdatering eller udskiftning af modeller uden nedetid
En DGX Spark er én enkelt maskine, så reelt nedetidsfri modelopdateringer kræver en ekstra Spark at skifte over til. Her er, hvad den opsætning indebærer, og det ærlige alternativ, hvis du kan acceptere et kort genstartsvindue i stedet.
Adgang for teams og flere brugere til en delt DGX Spark
Mønstre for deling af én lejet DGX Spark i et team: separate Linux-brugere med egne SSH-nøgler eller en gateway foran, så de fleste aldrig har brug for en shell.
DGX Spark-klynge med 4 eller 8 noder: switch, opsætning, tok/s
DGX Spark-klynger med 4 og 8 noder: NVIDIA-understøttelse siden 22. okt. 2026, switch og kabler, NCCL-opsætning, 52,6 tok/s rapporteret ved 8 noder og pris mod 8x B200.
Kimi K3 og DeepSeek V4 på DGX Spark-klynger: 1 til 8 noder
Hvor mange DGX Sparks kræver Kimi K3, DeepSeek V4, GLM-5.3 og MiniMax M3? Hukommelsesregnestykket for 1 til 8 noder og rapporterede hastigheder op til 132 tok/s på 4 Sparks.
Drift
Overvågning, backup, sikkerhed og adgangskontrol for en selvhostet udrulning.
Overvågning og observerbarhed for en selvhostet LLM
Hvad du skal holde øje med på én DGX Spark, der kører en LLM, og hvilke open source-værktøjer der klarer opgaven, fra nvidia-smi til en Prometheus- og Grafana-stack. GPUwerk leverer adgang via konsol og API, ikke et overvågningsprodukt.
Backup og katastrofegendannelse for dit DGX Spark-workload
GPUwerk opbevarer ingen kopi af en lejet DGX Sparks workspace. Hvad du skal tage backup af, hvor du skal sende det hen, og hvor ofte du skal synkronisere det.
Test af din katastrofeberedskabsplan for en selvhostet LLM
En backup, du ikke har gendannet fra, er en hypotese. Gendannelsesøvelser, game days og måling af RTO/RPO for en selvhostet LLM på lejet GPU-hardware.
Sikkerhedshærdning af en lejet GPU-instans
Praktisk hærdning inde i instansen for en lejet GPU: håndtering af SSH-nøgler, netværkseksponering, kørsel af tjenester uden root, hemmeligheder og flygtig vs persistent tilstand.
Best practices for rotation af API-nøgler i en privat LLM-udrulning
Rotation af API-nøgler og legitimationsoplysninger for et selvhostet inferens-endpoint: afgrænsning, rotationsplaner, tilbagekaldelse, og hvad der skal automatiseres frem for at gøres manuelt.
Ratebegrænsning og kvoter for en intern LLM-udrulning
En rå DGX Spark har ingen ratebegrænsning pr. bruger. Tilføj den selv med LiteLLM's rpm/tpm-grænser og budgetter pr. nøgle eller med en reverse proxy foran.
Revisionslogning for en compliance-følsom selvhostet LLM-udrulning
Opsæt revisionslogfiler for forespørgsler og svar i din egen container på en lejet DGX Spark: hvad der skal registreres, hvor det skal gemmes, og hvor GPUwerks opgave ender.
Opsætning af SSO og adgangskontrol til en LLM-udrulning for et team
Placering af et autentificeringslag foran et selvhostet inferens-endpoint, så et team logger ind med eksisterende identiteter i stedet for at dele SSH-nøgler eller API-tokens.
Strategi for modelversionering og tilbagerulning i en selvhostet udrulning
Overblik over, hvilke modelvægte og konfigurationer der faktisk kører, og ren tilbagerulning, når en ny version præsterer dårligere, i en selvhostet DGX Spark-udrulning.
Hvordan Sparken klarer sig mod andre maskiner, kan du se i sammenligningerne. Selve hardwaren står på specifikationssiden.