DGX Spark -oppaat
Kuusikymmentäviisi opasta DGX Sparkin ostamisesta, käytöstä ja operoinnista GPUwerkiltä, joka vuokraa niitä. Ne on ryhmitelty viiteen osioon: Sparkin ostaminen ja käyttö, mallit ja päättelymoottorit, suorituskyky ja vertailutestit, klusterit ja skaalaus sekä operointi. Jokainen kortti näyttää oppaan oman tiivistelmän.
Sparkin ostaminen ja käyttö
Ennen ostoa, sitten virrankulutus, melu, käyttöönotto, päivitykset, tallennustila ja käyttökulut.
Mitä tietää ennen DGX Sparkin ostamista
Rehellinen DGX Sparkin ostajan opas yritykseltä, joka vuokraa niitä: todelliset vertailutestit, 273 GB/s:n kaistakatto, EU:n katuhinnat ja osto vai vuokraus.
DGX Sparkin virrankulutus ja käyttökustannukset
DGX Sparkin mitattu virrankulutus: 22–45 W joutokäynnillä, 60–90 W LLM-päättelyn aikana, noin 160–200 W täydellä kuormalla, 240 W:n virtalähteellä. Kuukausikustannus EU:n sähköhinnoilla.
DGX Sparkin melu: 29 dB täydellä kuormalla, 13 dB joutokäynnillä
NVIDIA ilmoittaa DGX Sparkin äänitasoksi 35 dB LWA ja 29 dB LpA maksimikuormalla, 19 ja 13 dB joutokäynnillä (ECMA-109). Arvioijien lukemat, jäähdytys ja sijoittelu.
DGX Sparkin asennusopas: ensikäynnistyksestä ajossa olevaan mallipalvelimeen yhdessä illassa
DGX Sparkin pikaopas henkilöltä, joka asentaa niitä räkkiin päivittäin: DGX OS:n ensimmäinen käynnistys, pelkkä avainpohjainen SSH, palvelupinon valinta ja ensimmäisen mallin ajaminen työkalujesi käyttöön yhden illan aikana.
DGX Sparkin ajuri- ja laiteohjelmistopäivitykset: mitä GPUwerk hallinnoi
Mitä GPUwerk pitää ajan tasalla isäntä- ja solmutasolla vuokratulla DGX Sparkilla ja mikä on omassa root-kontissasi ja täysin sinun vastuullasi.
DGX Sparkin tallennustila: mikä säilyy ja mitä varmuuskopioida
Vuokratun DGX Sparkin 1 TB:n NVMe, mikä tarkalleen säilyy pysäyttämisessä ja lopettamisessa, ja miksi oma varmuuskopio on tärkeä, kun GPUwerk ei säilytä sellaista.
Kylmäkäynnistys vs aina päällä: instanssin käyttöaikamallin valinta
DGX Sparkin pysäyttäminen käyttökertojen välillä vs pitäminen käynnissä ympäri vuorokauden: kustannus-, viive- ja datakompromissit sekä miten päättää, mikä malli sopii todelliseen käyttöön.
Olemassa olevan itse ylläpidetyn tekoälyratkaisun siirtäminen DGX Sparkille
Käytännön siirtopolku työasemalta tai toisesta pilvi-GPU:sta vuokrattuun DGX Sparkiin: uudelleenkvantisointi yhtenäistä muistia varten, datan siirto ja siirtymäsuunnitelma.
Tekoälyinfrastruktuurin kustannusennusteet ja budjetointi
Miten arvioida tekoälyinfrastruktuurin kuukausikulut itse ylläpidossa verrattuna käytön mukaan laskutettuun API:hin, esimerkkinä GPUwerkin 0,79 $/tunti-hinta, sekä budjetoinnin tarkistuslista.
Kokonaiskustannukset: GPU-vuokraus vs pilvi-AI-API
Tokenipohjainen pilvi-AI-API, vuokrattu dedikoitu DGX Spark hintaan 0,79 $/tunti ja oman laitteiston ostaminen, vertailtuna vain tällä sivustolla julkaistuilla luvuilla.
DGX Spark 64GB vs 128GB: nopeus, hinta, mikä mahtuu
DGX Spark 64GB vs 128GB, marraskuu 2026: sama GB10 ja 273 GB/s, 4 999 $ vs 6 950 $, noin 54 GiB käytettävissä. 8 mallin sopivuustaulukko kontekstilla ja kuka sitä myy.
DGX Sparkin käyttöönotto ilman näyttöä
DGX Sparkin käyttöönotto ilman näyttöä: Wi-Fi-hotspot, spark-xxxx.local-osoitteen löytäminen, lokakuun 2026 Wi-Fi Assistant, 512 MB:n näyttövaraus ja cloud-init useille laitteille.
DGX Sparkin tallennustila: 1 TB vs 4 TB ja missä malleja säilytetään
DGX Sparkin tallennustila 1 TB vs 4 TB: kuinka moni 14 nykyisestä mallista mahtuu (gpt-oss-120b on 65,3 GB), yksi jaettu Hugging Face -välimuisti, hf_xet-nopeus, USB-C- ja NFS-vaihtoehdot.
DGX Sparkin palautus- ja DGX OS:n uudelleenasennusopas
DGX Sparkin palautus: korjaa epäonnistunut päivitys tyhjentämättä, varmuuskopioi live-USB:ltä, asenna uudelleen palautuslevykuvalla 1.155.49 (5,9 GB), OEM-levykuvat ja milloin RMA.
DGX Sparkin ohjelmistopäivitykset: julkaisuloki lokakuuhun 2026
DGX Sparkin ohjelmistopäivitykset julkaisusta lokakuun 2026 versioon: DGX OS 7.6.0, Linux 7.0, ajuri 580.178.04, tunnetut ongelmat ja turvallinen päivittäminen.
DGX Spark, NVIDIA Sync ja etäkäyttöopas
DGX Sparkin etäkäyttö NVIDIA Sync 0.148.0-153:lla: mitä se asentaa, DGX Dashboard portissa 11000, Tailscale, tavallinen SSH-asetus ja API:n turvallinen julkaiseminen.
Mallit ja päättelymoottorit
Mitä malleja ajaa, millä moottorilla tarjota niitä ja miten tulos mitataan.
Parhaat mallit DGX Sparkille, lokakuun 2026 versio
Parhaat mallit DGX Sparkille, lokakuu 2026: Qwen3.6-35B-A3B NVFP4 raportoitu 86,3 tok/s yhdellä Sparkilla, DeepSeek-V4-Flash noin 44 tok/s kahdella. Arviotaulukot lähteineen.
llama.cpp vs vLLM vs SGLang DGX Sparkilla: tok/s ja valitsimet
vLLM 60,7 vs. Ollama 42,1 tok/s gpt-oss-120b:llä yhdellä DGX Sparkilla, ja 116–153 vs. 42,5 8 käyttäjällä. Mikä moottori yhdelle käyttäjälle, tiimille tai kahdelle Sparkille, sekä tarkat valitsimet.
Miten ajaa juuri julkaistua mallia DGX Sparkilla (GB10)
Aja uutta avoimien painojen mallia DGX Sparkilla julkaisuviikolla: muistiin mahtuminen, arm64-vedokset, NVFP4 vai GGUF, vLLM, SGLang vai llama.cpp, ja milloin se tarvitsee kaksi Sparkia.
Aja Qwen3 vLLM-palvelimena DGX Sparkilla
Asenna vLLM, aja Qwen3-32B-AWQ palvelimena OpenAI-yhteensopivalla API:lla, yhdistä Open WebUI ja pidä se käynnissä systemd:llä: kopioi ja liitä -opas DGX Sparkille.
Kvantisoidut vs täyden tarkkuuden mallit tuotannossa
Miten valita kvantisoidun ja täyden tarkkuuden mallin välillä tuotantokäyttöön itse ylläpidetyssä ympäristössä: muistiin mahtuminen, laaturiski tehtävittäin ja milloin testata molempia.
Hienosäädä malli yrityksesi datalla ilman, että data poistuu talosta
Hienosäädä avoin LLM yrityksen datalla ilman, että se poistuu talosta: LoRA- ja QLoRA-muistitaulukot, 32B-esimerkki sekä hienosäätö vs RAG.
Upotusten ja vektorihaun ajaminen DGX Sparkilla
Aja upotusmallia ja vektoritietokantaa generointimallisi rinnalla yhdellä DGX Sparkilla: muistibudjetointi, upotusmallin ajaminen palvelimena ja vektorikannan valinta.
Näkö- ja multimodaalimallien ajaminen DGX Sparkilla
Mikä on mahdollista DGX Sparkin 128 GB:n yhtenäisellä muistilla näkö-kielimalleille ja kuvien ymmärtämiselle, ja miksi GPUwerk ei ole vielä julkaissut erillisiä VLM-vertailutestejä.
ComfyUI ja Stable Diffusion DGX Sparkilla
Aja ComfyUI:ta, FLUXia ja SDXL:ää DGX Sparkilla: asennus ARM64:llä, raportoidut kuva-ajat malleittain, yhtenäisen muistin kilpailu LLM:ien kanssa ja lämpöön liittyvät varaukset.
Jäsennelty tuloste ja funktiokutsut itse ylläpidetyllä LLM:llä
JSON-tilan jäsennellyn tulosteen ja työkalu-/funktiokutsujen määrittäminen itse ylläpidetyille malleille vLLM:llä ja llama.cpp:llä, mukaan lukien mitkä mallit tukevat sitä ja miten virheellisiä kutsuja debugataan.
Kehotteiden välimuisti päättelykustannusten leikkaamiseen
Miten prefix- ja KV-välimuistin uudelleenkäyttö vähentää toistuvaa laskentaa itse ylläpidetyssä käyttöönotossa: mikä kelpaa välimuistiosumaksi, miten kehotteet rakennetaan sitä varten ja missä säästöt oikeasti näkyvät tuntivuokratulla Sparkilla.
Suurten päättelytöiden eräkäsittely vuokratulla Sparkilla
Aja massadokumenttien käsittelyä ja datan merkintää vuokratulla DGX Sparkilla: vLLM:n läpäisyasetukset, töiden mitoitus tuntihintaa vasten ja tarkistuspisteet.
Mallin laadun arviointi ennen mallin vaihtamista
Erilliset testijoukot, A/B-lähestymistavat ja regressiotarkistukset ehdokasmallin vertailuun nykyiseen ennen vaihtoa tuotannossa.
Miten GPUwerk testaa DGX Sparkin suorituskyvyn
Mitä GPUwerk mittaa DGX Sparkilla: yksittäinen virta vs rinnakkaisuus, mitkä moottorit ja asetukset, ja miksi raakalokit julkaistaan eikä vain yhteenvetoa.
DGX Spark pitkällä kontekstilla: tok/s 4k–100k, marraskuu 2026
DGX Sparkin suorituskyky pitkällä kontekstilla, marraskuu 2026: dekoodaus 4k-, 50k- ja 100k-konteksteilla kuudella mallilla, noin 76 s 100k tokenin esitäyttöön ja KV-välimuistin koot 128k:lla.
DGX Spark, Docker ja NGC-kontit: arm64, GPU, compose
DGX Sparkin Docker-opas, marraskuu 2026: Docker 29.6.2 ja Container Toolkit 1.20 esiasennettuina, millä NGC-vedoksilla on arm64-versiot, ja vLLM:n compose-tiedosto.
LM Studio DGX Sparkilla: Linux ARM64, llmster, nopeus (2026)
LM Studio DGX Sparkilla, marraskuu 2026: Linux ARM64 -versio CUDA 13 llama.cpp -moottorilla lokakuusta 2025, llmster-asennus ilman käyttöliittymää ja nopeus vs llama.cpp.
NVIDIA AI Workbench ja JupyterLab DGX Sparkilla
NVIDIA AI Workbench DGX Sparkilla, marraskuu 2026: julkaisu 2026.06.5, arm64-perusvedokset CUDA 13.1:llä, DGX Dashboardin JupyterLab ja tavallinen JupyterLab 4.6.6.
NIM DGX Sparkilla: mitkä NIMit toimivat GB10:llä, lisenssi, asennus
NVIDIA NIM DGX Sparkilla, marraskuu 2026: noin 20 NIMiä listaa GB10-tuen, maksuton kehityskäyttöön enintään 16 GPU:lla, ja tuotantokäyttö vaatii AI Enterprise -lisenssin.
Ollama DGX Sparkilla: asennus, asetukset ja tok/s
Ollama DGX Sparkilla, marraskuu 2026: arm64-asennus, kuusi tärkeää asetusta, 42 tok/s gpt-oss-120b:llä vs. 59 llama.cpp:llä, ja API:n turvallinen julkaiseminen.
PyTorch DGX Sparkilla: CUDA 13 aarch64 -wheelit
PyTorch DGX Sparkilla, marraskuu 2026: torch 2.15.0 cu132- tai 2.14.1 cu130 -aarch64-wheelit, virheellinen sm_121-varoitus, NGC 26.10, flash-attnin ja xformersin tila.
SGLang DGX Sparkilla: asennus, valitsimet ja tok/s
SGLang DGX Sparkilla, marraskuu 2026: v0.5.23 arm64-vedos ja pip-wheelit, --mem-fraction-static 0.80 GB10:llä sekä 52 vs. 36 tok/s vLLM:ään verrattuna gpt-oss-120b:llä.
Whisper ja Parakeet DGX Sparkilla: puheentunnistus, marraskuu 2026
Puheentunnistus DGX Sparkilla, marraskuu 2026: Parakeet TDT 0.6B v3 283x reaaliaikaa nopeammin GB10:llä, Whisper large-v3 19–25x, Open ASR Leaderboardin WER-luvuin.
TensorRT-LLM DGX Sparkilla: trtllm-serve, NVFP4, tok/s (2026)
TensorRT-LLM DGX Sparkilla, marraskuu 2026: NVIDIAn 1.3.0rc13-kontti, trtllm-serve NVFP4:llä, 38,65 tok/s Llama 3.1 8B:llä, ja milloin asennus kannattaa.
DGX Sparkin videogenerointi: sekuntia klippiä kohden, marraskuu 2026
DGX Sparkin videogenerointi, marraskuu 2026: LTX-2.5:n 5 sekunnin klipit noin 70 sekunnissa, Wan 2.2 5B 720p 14 minuutissa, ja miksi RTX 5090 on 2,4–5,5x nopeampi.
Suorituskyky ja vertailutestit
Mitattu ja raportoitu nopeus: käyttäjiä Sparkia kohden, muistikaista, CPU, laskenta, kvantisointimuodot ja miten kukin GB10-kone kestää kuormaa.
Kuinka montaa käyttäjää DGX Spark voi palvella? Rinnakkaisuusdata
Kuinka montaa käyttäjää yksi DGX Spark palvelee, marraskuu 2026: käyttäjäkohtainen tok/s 1–256 pyynnöllä, noin 52 chat-virtaa 15 tok/s:n nopeudella 3B-aktiivisella MoE-mallilla, ja tiimin mitoitus.
DGX Sparkin CPU-suorituskyky: GB10-vertailutestit vs x86 ja M5
DGX Sparkin CPU-suorituskyky, marraskuu 2026: GB10 saa Geekbench 6:ssa 3 123 yhden ytimen ja 19 708 moniydinpistettä sekä HPL:ssä 675 GFLOPS, verrattuna Ryzen AI Max+ 395:een ja M5 Maxiin.
DGX Sparkin muistikaista mitattuna: 273 GB/s vs todellisuus
DGX Sparkin muistikaista mitattuna, marraskuu 2026: 234–247 GB/s clpeakissa, 200–213 GB/s STREAM triadissa, 38 GB/s CPU-ydintä kohden ja dekoodaus 73–87 %:ssa.
DGX Sparkin kvantisointinopeus: NVFP4 vs FP8 vs AWQ vs GGUF
Nopein kvantisointi DGX Sparkilla, marraskuu 2026: yksi malli 31 tok/s BF16:lla, 50–55 FP8:lla, 65–66 NVFP4:llä, 81 AWQ:lla, ja milloin NVFP4 jää jälkeen.
DGX Sparkin TFLOPS mitattuna: 1 PFLOP FP4 vs todellinen matmul
DGX Sparkin TFLOPS mitattuna, marraskuu 2026: 973–1 022 harvaa FP4:ää mikrovertailutestissä, 356 CUTLASS GEMMissä, 77–99 BF16 jatkuvana, ja mitä esitäyttö käyttää.
GB10:n lämpökuristus: jatkuva nopeus valmistajittain (2026)
GB10:n lämpökuristus valmistajittain: viisi OEM-konetta pysyi 2,6 %:n sisällä vLLM-esitäytössä, kun CPU:n huippulämpötilat olivat 74,7–90 °C. Laiteohjelmisto on todellinen riski.
Klusterit ja skaalaus
Kaksi Sparkia, kalusto, useita malleja yhdellä koneella ja sen jakaminen tiimin kanssa.
DGX Spark -klusteri: kaksi Sparkia, asennus, rajat ja tok/s
Kaksi DGX Sparkia antaa 256 GB ja tensoririnnakkaisuudella nopeamman dekoodauksen: 1,75× mitattuna Qwen3-32B:llä, jopa noin 1,8× raportoituna. Kaapeliosat, porttien nimet, asennus ja mallit, jotka tarvitsevat kaksi Sparkia.
Skaalaus yhdestä DGX Sparkista kalustoksi
Milloin useamman yksittäisen Sparkin vuokraaminen voittaa kahden solmun klusterin, miten kuormaa tasataan itsenäisten solmujen kesken ja pienen kaluston operoinnin kompromissit.
GPU-muistin hallinta useille malleille yhdellä Sparkilla
Jaa 128 GB yhtenäistä muistia useiden mallien tai konttien kesken yhdellä DGX Sparkilla ja tiedä, milloin siirtyä kahden solmun klusteriin tai toiseen solmuun.
GPU:n käyttöasteen seuranta ja käyttöönoton oikea mitoitus
Miten lukea vuokratun DGX Sparkin todellinen GPU- ja muistin käyttöaste ja käyttää sitä päätökseen siitä, pysytäänkö nykyisessä, skaalataanko kahden solmun klusteriin vai laajennetaanko kalustoksi.
Useiden konttien ja palveluiden ajaminen DGX Sparkilla
Docker-konttimallit yhdelle DGX Sparkille: milloin pelkkä docker-compose-tiedosto riittää ja milloin työkuorma on kasvanut sen ohi.
Mallien päivittäminen tai vaihtaminen ilman katkoa
DGX Spark on yksittäinen kone, joten aidosti katkottomat mallipäivitykset vaativat toisen Sparkin, jolle siirtyä. Tässä mitä se vaatii, ja rehellinen vaihtoehto, jos hyväksyt lyhyen uudelleenkäynnistyskatkon.
Tiimi- ja monikäyttäjäpääsy jaettuun DGX Sparkiin
Mallit yhden vuokratun DGX Sparkin jakamiseen tiimin kesken: erilliset Linux-käyttäjät omilla SSH-avaimillaan tai yhdyskäytävä edessä, jotta useimmat eivät koskaan tarvitse komentoriviä.
DGX Spark -klusteri 4 tai 8 solmulla: kytkin, asennus, tok/s
4 ja 8 solmun DGX Spark -klusterit: NVIDIAn tuki 22.10.2026 alkaen, kytkin ja kaapelit, NCCL-asetukset, 52,6 tok/s raportoitu 8 solmulla, ja kustannus vs 8x B200.
Kimi K3 ja DeepSeek V4 DGX Spark -klustereilla: 1–8 solmua
Kuinka monta DGX Sparkia Kimi K3, DeepSeek V4, GLM-5.3 ja MiniMax M3 tarvitsevat? Muistilaskelmat 1–8 solmulle ja raportoidut nopeudet jopa 132 tok/s 4 Sparkilla.
Operointi
Valvonta, varmuuskopiot, tietoturva ja pääsynhallinta itse ylläpidetylle käyttöönotolle.
Itse ylläpidetyn LLM:n valvonta ja havainnoitavuus
Mitä seurata yhdellä LLM:ää ajavalla DGX Sparkilla ja mitkä avoimen lähdekoodin työkalut hoitavat sen, nvidia-smi:stä Prometheus- ja Grafana-pinoon. GPUwerk tarjoaa konsoli- ja API-pääsyn, ei valvontatuotetta.
Varmuuskopiointi ja palautuminen DGX Spark -työkuormallesi
GPUwerk ei säilytä kopiota vuokratun DGX Sparkin työtilasta. Mitä varmuuskopioida, minne se lähettää ja kuinka usein synkronoida.
Itse ylläpidetyn LLM:n palautumissuunnitelman testaaminen
Varmuuskopio, josta et ole palauttanut, on hypoteesi. Palautusharjoitukset, game dayt ja RTO/RPO-mittaus itse ylläpidetylle LLM:lle vuokratulla GPU-laitteistolla.
Vuokratun GPU-instanssin tietoturvan koventaminen
Käytännön koventaminen instanssin sisällä vuokratulle GPU:lle: SSH-avainten hallinta, verkkoaltistus, palveluiden ajaminen ilman rootia, salaisuudet sekä väliaikainen vs pysyvä tila.
API-avainten kierrätyksen parhaat käytännöt yksityiselle LLM-käyttöönotolle
API-avainten ja tunnistetietojen kierrättäminen itse ylläpidetylle päättelypäätepisteelle: oikeuksien rajaus, kierrätysaikataulut, mitätöinti ja mitä automatisoida ja mitä tehdä käsin.
Nopeusrajoitukset ja kiintiöt sisäiselle LLM-käyttöönotolle
Pelkässä DGX Sparkissa ei ole käyttäjäkohtaista nopeusrajoitusta. Lisää se itse LiteLLM:n avainkohtaisilla rpm/tpm-rajoilla ja budjeteilla tai eteen sijoitetulla käänteisvälityspalvelimella.
Auditointiloki vaatimustenmukaisuuden kannalta herkälle itse ylläpidetylle LLM-käyttöönotolle
Määritä pyyntö- ja vastausauditointilokit omaan konttiisi vuokratulla DGX Sparkilla: mitä tallentaa, mihin se säilöä ja missä GPUwerkin tehtävä päättyy.
SSO:n ja pääsynhallinnan määrittäminen tiimin LLM-käyttöönotolle
Tunnistautumiskerroksen sijoittaminen itse ylläpidetyn päättelypäätepisteen eteen, jotta tiimi kirjautuu olemassa olevilla tunnuksillaan SSH-avainten tai API-tunnisteiden jakamisen sijaan.
Mallien versiointi- ja palautusstrategia itse ylläpidetylle käyttöönotolle
Sen seuraaminen, mitkä mallipainot ja kokoonpanot ovat todella käytössä, ja siisti palautus, kun uusi versio suoriutuu huonommin, itse ylläpidetyssä DGX Spark -käyttöönotossa.
Sparkin vertailu muihin koneisiin: katso vertailut. Itse laitteisto: katso tekniset tiedot -sivu.