DGX Spark/Guides
Guides

DGX Spark-guides

Af Samuel Seidel · Opdateret 7. november 2026

Femogtres guides om køb, brug og drift af en DGX Spark fra GPUwerk, som udlejer dem. De er grupperet i fem afsnit: køb og drift af en Spark, modeller og inferens-engines, ydeevne og benchmarks, klynger og skalering og drift. Hvert kort viser guidens eget resumé.

Køb og drift af en Spark

Før du køber, og derefter strøm, støj, opsætning, opdateringer, lager og driftsomkostninger.

Hvad du skal vide, før du køber en DGX Spark

En ærlig købsguide til DGX Spark fra en virksomhed, der udlejer dem: rigtige benchmarks, loftet på 273 GB/s båndbredde, butikspriser i EU og køb mod leje.

DGX Sparks strømforbrug og driftsomkostninger

DGX Sparks strømforbrug målt: 22-45 W i tomgang, 60-90 W under LLM-inferens, cirka 160-200 W ved fuld belastning mod en strømforsyning på 240 W. Månedlig pris ved EU-elpriser.

DGX Spark-støj: 29 dB ved fuld belastning, 13 dB i tomgang

NVIDIA angiver DGX Spark til 35 dB LWA og 29 dB LpA ved maksimal belastning, 19 og 13 dB i tomgang (ECMA-109). Anmelderes målinger, køling og placering.

Opsætningsguide til DGX Spark: fra første opstart til en serveret model på én aften

En hurtigstart til DGX Spark fra en, der monterer dem i rack hver dag: første opstart af DGX OS, SSH kun med nøgle, valg af serving-stack og serving af din første model til dine værktøjer på én aften.

Driver- og firmwareopdateringer på DGX Spark: hvad GPUwerk står for

Hvad GPUwerk holder opdateret på værts- og nodeniveau på en lejet DGX Spark, og hvad der ligger i din egen root-container og helt er dit ansvar.

DGX Spark-lager: hvad der er persistent, og hvad du skal tage backup af

1 TB NVMe på en lejet DGX Spark, præcis hvad der overlever et stop i forhold til en afslutning, og hvorfor din egen backup er vigtig, da GPUwerk ikke opbevarer nogen.

Koldstart mod altid tændt: valg af oppetidsmønster for en instans

At stoppe en DGX Spark mellem brug eller holde den kørende døgnet rundt: afvejningerne af pris, svartid og data, og hvordan du afgør, hvilket mønster der passer til det faktiske forbrug.

Migrering af en eksisterende selvhostet AI-udrulning til en DGX Spark

En praktisk migreringsvej fra en workstation eller en anden cloud-GPU til en lejet DGX Spark: genkvantisering til unified memory, flytning af data og en plan for omstillingen.

Omkostningsprognoser og budgettering for AI-infrastruktur

Sådan estimerer du de månedlige udgifter til AI-infrastruktur ved selvhosting mod en målt API, med GPUwerks takst på 0 $,79/time som gennemregnet eksempel og en tjekliste til budgettering.

Samlede ejeromkostninger: GPU-leje mod en cloud-AI-API

En cloud-AI-API med betaling pr. token, en lejet dedikeret DGX Spark til 0 $,79/time og køb af egen hardware sammenlignet udelukkende med tal, der er offentliggjort på dette websted.

DGX Spark 64GB vs 128GB: hastighed, pris, hvad der passer

DGX Spark 64GB vs 128GB, november 2026: samme GB10 og 273 GB/s, 4.999 $ mod 6.950 $, cirka 54 GiB brugbart. Tabel over 8 modeller med kontekst, og hvem der sælger den.

Headless opsætning af DGX Spark uden skærm

Headless opsætning af DGX Spark: Wi-Fi-hotspot-forløbet, sådan finder du spark-xxxx.local, Wi-Fi Assistant fra oktober 2026, 512 MB skærmreserve og cloud-init til mange enheder.

DGX Spark-lager: 1 TB vs 4 TB, og hvor modellerne skal ligge

DGX Spark-lager 1 TB vs 4 TB: hvor mange af 14 aktuelle modeller der passer (gpt-oss-120b fylder 65,3 GB), én delt Hugging Face-cache, hf_xet-hastighed, USB-C- og NFS-muligheder.

Guide til gendannelse af DGX Spark og geninstallation af DGX OS

Gendannelse af DGX Spark: reparer en mislykket opdatering uden at slette, tag backup fra en live-USB, geninstaller med gendannelsesimage 1.155.49 (5,9 GB), OEM-images, og hvornår du skal bruge RMA.

Softwareopdateringer til DGX Spark: udgivelseslog til oktober 2026

Softwareopdateringer til DGX Spark fra lanceringen til udgivelsen i oktober 2026: DGX OS 7.6.0, Linux 7.0, driver 580.178.04, kendte problemer, og hvordan du opdaterer sikkert.

Guide til NVIDIA Sync og fjernadgang på DGX Spark

Fjernadgang til DGX Spark med NVIDIA Sync 0.148.0-153: hvad det installerer, DGX Dashboard på port 11000, Tailscale, en almindelig SSH-konfiguration og sikker eksponering af API'en.

Modeller og inferens-engines

Hvilke modeller du skal køre, hvilken engine du skal servere dem med, og hvordan du måler resultatet.

Bedste modeller til DGX Spark, udgave oktober 2026

Bedste modeller til DGX Spark, oktober 2026: Qwen3.6-35B-A3B NVFP4 rapporteret til 86,3 tok/s på én Spark, DeepSeek-V4-Flash til cirka 44 tok/s på to. Vurderingstabeller med kilder.

llama.cpp vs vLLM vs SGLang på DGX Spark: tok/s og flag

vLLM 60,7 vs Ollama 42,1 tok/s for gpt-oss-120b på én DGX Spark og 116 til 153 vs 42,5 ved 8 brugere. Hvilken engine til én bruger, et team eller to Sparks, plus præcise flag.

Sådan kører du en nyudgivet model på en DGX Spark (GB10)

Kør en ny open-weight-model på en DGX Spark i udgivelsesugen: hukommelsestilpasning, arm64-images, NVFP4 eller GGUF, vLLM, SGLang eller llama.cpp, og hvornår den kræver to Sparks.

Server Qwen3 med vLLM på en DGX Spark

Installer vLLM, server Qwen3-32B-AWQ med en OpenAI-kompatibel API, forbind Open WebUI, og hold det kørende med systemd: en kopiér-og-indsæt-guide til DGX Spark.

Kvantiserede modeller vs modeller i fuld præcision i produktion

Sådan vælger du mellem en kvantiseret model og en model i fuld præcision til en selvhostet produktionsudrulning: hukommelsestilpasning, kvalitetsrisiko pr. opgave, og hvornår du skal teste begge.

Finjuster en model på din virksomheds data, uden at dine data forlader bygningen

Finjuster en åben LLM på virksomhedsdata, uden at de forlader bygningen: hukommelsestabeller for LoRA og QLoRA, et gennemregnet eksempel med 32B og finjustering vs RAG.

Embeddings og vektorsøgning på en DGX Spark

Kør en embedding-model og en vektordatabase ved siden af din genereringsmodel på én DGX Spark: hukommelsesbudget, serving af embeddings og valg af vektordatabase.

Kørsel af visions- og multimodale modeller på en DGX Spark

Hvad der er realistisk på en DGX Sparks 128 GB unified memory for vision-language-modeller og billedforståelse, og hvorfor GPUwerk endnu ikke har offentliggjort dedikerede VLM-benchmarks.

ComfyUI og Stable Diffusion på en DGX Spark

Kør ComfyUI, FLUX og SDXL på en DGX Spark: opsætning på ARM64, rapporterede billedtider pr. model, konkurrence om unified memory med LLM'er og termiske forbehold.

Struktureret output og function calling på en selvhostet LLM

Opsætning af struktureret output i JSON-tilstand og tool/function calling på selvhostede modeller med vLLM og llama.cpp, inklusive hvilke modeller der understøtter det, og hvordan du fejlfinder misdannede kald.

Prompt caching for at reducere inferensomkostninger

Sådan reducerer genbrug af prefix- og KV-cache gentagen beregning i en selvhostet udrulning: hvad der giver et cache-hit, hvordan du strukturerer prompts til det, og hvor besparelserne reelt viser sig på en Spark, der lejes pr. time.

Batchbehandling af store inferensjob på en lejet Spark

Kør massebehandling af dokumenter og mærkning af datasæt på en lejet DGX Spark: vLLM-indstillinger for gennemløb, dimensionering af job i forhold til timeprisen og checkpointing.

Evaluering af modelkvalitet, før du skifter model

Holdout-testsæt, A/B-tilgange og regressionstjek til benchmarking af en kandidatmodel mod din nuværende, før du skifter i produktion.

Sådan benchmarker GPUwerk DGX Spark

Hvad GPUwerk måler på en DGX Spark: én strøm mod samtidighed, hvilke engines og indstillinger, og hvorfor de rå logfiler offentliggøres, ikke kun et resumé.

DGX Spark lang kontekst: tok/s ved 4k til 100k, november 2026

DGX Sparks ydeevne med lang kontekst, november 2026: dekodning ved 4k, 50k og 100k for seks modeller, cirka 76 s til prefill af 100k tokens og KV-cachestørrelser ved 128k.

DGX Spark Docker og NGC-containere: arm64, GPU, compose

DGX Spark Docker-guide, november 2026: Docker 29.6.2 og Container Toolkit 1.20 forudinstalleret, hvilke NGC-images har arm64-builds, og en vLLM-compose-fil.

LM Studio på DGX Spark: Linux ARM64, llmster, hastighed (2026)

LM Studio på en DGX Spark, november 2026: et Linux ARM64-build med en CUDA 13 llama.cpp-engine siden oktober 2025, headless opsætning med llmster og hastighed mod llama.cpp.

NVIDIA AI Workbench og JupyterLab på DGX Spark

NVIDIA AI Workbench på DGX Spark, november 2026: udgivelse 2026.06.5, arm64-basisimages med CUDA 13.1, DGX Dashboard JupyterLab og almindelig JupyterLab 4.6.6.

NIM på DGX Spark: hvilke NIM'er kører på GB10, licens, opsætning

NVIDIA NIM på DGX Spark, november 2026: cirka 20 NIM'er angiver GB10-understøttelse, gratis til udvikling på op til 16 GPU'er, og produktion kræver en AI Enterprise-licens.

Ollama på DGX Spark: opsætning, indstillinger og tok/s

Ollama på en DGX Spark, november 2026: arm64-installation, de seks indstillinger, der betyder noget, 42 tok/s på gpt-oss-120b mod 59 for llama.cpp og sikker eksponering af API'en.

PyTorch på DGX Spark: CUDA 13 aarch64-wheels

PyTorch på en DGX Spark, november 2026: torch 2.15.0 cu132 eller 2.14.1 cu130 aarch64-wheels, den falske sm_121-advarsel, NGC 26.10 og status for flash-attn og xformers.

SGLang på DGX Spark: installation, flag og tok/s

SGLang på en DGX Spark, november 2026: v0.5.23 arm64-image og pip-wheels, --mem-fraction-static 0.80 på GB10 og 52 mod 36 tok/s i forhold til vLLM på gpt-oss-120b.

Whisper og Parakeet på DGX Spark: tale til tekst, nov. 2026

Tale til tekst på en DGX Spark, november 2026: Parakeet TDT 0.6B v3 ved 283x realtid på GB10, Whisper large-v3 ved 19 til 25x, med WER fra Open ASR Leaderboard.

TensorRT-LLM på DGX Spark: trtllm-serve, NVFP4, tok/s (2026)

TensorRT-LLM på en DGX Spark, november 2026: NVIDIAs container 1.3.0rc13, trtllm-serve med NVFP4, 38,65 tok/s på Llama 3.1 8B, og hvornår opsætningen betaler sig.

Videogenerering på DGX Spark: sekunder pr. klip, november 2026

Videogenerering på DGX Spark, november 2026: LTX-2.5-klip på 5 sekunder på cirka 70 s, Wan 2.2 5B 720p på 14 min, og hvorfor en RTX 5090 er 2,4 til 5,5x hurtigere.

Ydeevne og benchmarks

Målt og rapporteret hastighed: brugere pr. Spark, hukommelsesbåndbredde, CPU, regnekraft, kvantiseringsformater, og hvordan hver GB10-maskine holder under belastning.

Klynger og skalering

To Sparks, en flåde, flere modeller på én maskine og deling med et team.

DGX Spark-klynge: to Sparks, opsætning, grænser og tok/s

To DGX Sparks giver 256 GB og, med tensor-parallelisme, hurtigere dekodning: 1,75× målt på Qwen3-32B, op til cirka 1,8× rapporteret. Kabeldele, portnavne, opsætning og modeller, der kræver to Sparks.

Skalering fra én DGX Spark til en flåde

Hvornår det er bedre at leje flere enkelte Sparks end en klynge med to noder, hvordan du fordeler belastningen på uafhængige noder, og de driftsmæssige afvejninger ved at drive en lille flåde.

Styring af GPU-hukommelse til flere modeller på én Spark

Fordel 128 GB unified memory på flere modeller eller containere på én DGX Spark, og vid, hvornår du i stedet skal gå over til en klynge med to noder eller en ekstra node.

Overvågning af GPU-udnyttelse og korrekt dimensionering af din udrulning

Sådan aflæser du den faktiske GPU- og hukommelsesudnyttelse på en lejet DGX Spark og bruger den til at vælge mellem at blive, hvor du er, skalere op til en klynge med to noder eller skalere ud til en flåde.

Kørsel af flere containere og tjenester på en DGX Spark

Docker-containermønstre for én DGX Spark: hvornår en almindelig docker-compose-fil er nok, og hvornår workloadet er vokset fra den.

Opdatering eller udskiftning af modeller uden nedetid

En DGX Spark er én enkelt maskine, så reelt nedetidsfri modelopdateringer kræver en ekstra Spark at skifte over til. Her er, hvad den opsætning indebærer, og det ærlige alternativ, hvis du kan acceptere et kort genstartsvindue i stedet.

Adgang for teams og flere brugere til en delt DGX Spark

Mønstre for deling af én lejet DGX Spark i et team: separate Linux-brugere med egne SSH-nøgler eller en gateway foran, så de fleste aldrig har brug for en shell.

DGX Spark-klynge med 4 eller 8 noder: switch, opsætning, tok/s

DGX Spark-klynger med 4 og 8 noder: NVIDIA-understøttelse siden 22. okt. 2026, switch og kabler, NCCL-opsætning, 52,6 tok/s rapporteret ved 8 noder og pris mod 8x B200.

Kimi K3 og DeepSeek V4 på DGX Spark-klynger: 1 til 8 noder

Hvor mange DGX Sparks kræver Kimi K3, DeepSeek V4, GLM-5.3 og MiniMax M3? Hukommelsesregnestykket for 1 til 8 noder og rapporterede hastigheder op til 132 tok/s på 4 Sparks.

Drift

Overvågning, backup, sikkerhed og adgangskontrol for en selvhostet udrulning.

Overvågning og observerbarhed for en selvhostet LLM

Hvad du skal holde øje med på én DGX Spark, der kører en LLM, og hvilke open source-værktøjer der klarer opgaven, fra nvidia-smi til en Prometheus- og Grafana-stack. GPUwerk leverer adgang via konsol og API, ikke et overvågningsprodukt.

Backup og katastrofegendannelse for dit DGX Spark-workload

GPUwerk opbevarer ingen kopi af en lejet DGX Sparks workspace. Hvad du skal tage backup af, hvor du skal sende det hen, og hvor ofte du skal synkronisere det.

Test af din katastrofeberedskabsplan for en selvhostet LLM

En backup, du ikke har gendannet fra, er en hypotese. Gendannelsesøvelser, game days og måling af RTO/RPO for en selvhostet LLM på lejet GPU-hardware.

Sikkerhedshærdning af en lejet GPU-instans

Praktisk hærdning inde i instansen for en lejet GPU: håndtering af SSH-nøgler, netværkseksponering, kørsel af tjenester uden root, hemmeligheder og flygtig vs persistent tilstand.

Best practices for rotation af API-nøgler i en privat LLM-udrulning

Rotation af API-nøgler og legitimationsoplysninger for et selvhostet inferens-endpoint: afgrænsning, rotationsplaner, tilbagekaldelse, og hvad der skal automatiseres frem for at gøres manuelt.

Ratebegrænsning og kvoter for en intern LLM-udrulning

En rå DGX Spark har ingen ratebegrænsning pr. bruger. Tilføj den selv med LiteLLM's rpm/tpm-grænser og budgetter pr. nøgle eller med en reverse proxy foran.

Revisionslogning for en compliance-følsom selvhostet LLM-udrulning

Opsæt revisionslogfiler for forespørgsler og svar i din egen container på en lejet DGX Spark: hvad der skal registreres, hvor det skal gemmes, og hvor GPUwerks opgave ender.

Opsætning af SSO og adgangskontrol til en LLM-udrulning for et team

Placering af et autentificeringslag foran et selvhostet inferens-endpoint, så et team logger ind med eksisterende identiteter i stedet for at dele SSH-nøgler eller API-tokens.

Strategi for modelversionering og tilbagerulning i en selvhostet udrulning

Overblik over, hvilke modelvægte og konfigurationer der faktisk kører, og ren tilbagerulning, når en ny version præsterer dårligere, i en selvhostet DGX Spark-udrulning.

Hvordan Sparken klarer sig mod andre maskiner, kan du se i sammenligningerne. Selve hardwaren står på specifikationssiden.

Første optankning: betal 20 $, få 30 $ i kredit

Prøv en guide på en rigtig Spark for 0 $,79/time.

Lej en dedikeret DGX Spark i Europa, Nordamerika eller Østasien, og følg med. Faktureret pr. minut fra forudbetalt kredit.

Opret konto Se priser