DGX Spark/Oppaat
Oppaat

DGX Spark -oppaat

Kirjoittaja: Samuel Seidel · Päivitetty 7. marraskuuta 2026

Kuusikymmentäviisi opasta DGX Sparkin ostamisesta, käytöstä ja operoinnista GPUwerkiltä, joka vuokraa niitä. Ne on ryhmitelty viiteen osioon: Sparkin ostaminen ja käyttö, mallit ja päättelymoottorit, suorituskyky ja vertailutestit, klusterit ja skaalaus sekä operointi. Jokainen kortti näyttää oppaan oman tiivistelmän.

Sparkin ostaminen ja käyttö

Ennen ostoa, sitten virrankulutus, melu, käyttöönotto, päivitykset, tallennustila ja käyttökulut.

Mitä tietää ennen DGX Sparkin ostamista

Rehellinen DGX Sparkin ostajan opas yritykseltä, joka vuokraa niitä: todelliset vertailutestit, 273 GB/s:n kaistakatto, EU:n katuhinnat ja osto vai vuokraus.

DGX Sparkin virrankulutus ja käyttökustannukset

DGX Sparkin mitattu virrankulutus: 22–45 W joutokäynnillä, 60–90 W LLM-päättelyn aikana, noin 160–200 W täydellä kuormalla, 240 W:n virtalähteellä. Kuukausikustannus EU:n sähköhinnoilla.

DGX Sparkin melu: 29 dB täydellä kuormalla, 13 dB joutokäynnillä

NVIDIA ilmoittaa DGX Sparkin äänitasoksi 35 dB LWA ja 29 dB LpA maksimikuormalla, 19 ja 13 dB joutokäynnillä (ECMA-109). Arvioijien lukemat, jäähdytys ja sijoittelu.

DGX Sparkin asennusopas: ensikäynnistyksestä ajossa olevaan mallipalvelimeen yhdessä illassa

DGX Sparkin pikaopas henkilöltä, joka asentaa niitä räkkiin päivittäin: DGX OS:n ensimmäinen käynnistys, pelkkä avainpohjainen SSH, palvelupinon valinta ja ensimmäisen mallin ajaminen työkalujesi käyttöön yhden illan aikana.

DGX Sparkin ajuri- ja laiteohjelmistopäivitykset: mitä GPUwerk hallinnoi

Mitä GPUwerk pitää ajan tasalla isäntä- ja solmutasolla vuokratulla DGX Sparkilla ja mikä on omassa root-kontissasi ja täysin sinun vastuullasi.

DGX Sparkin tallennustila: mikä säilyy ja mitä varmuuskopioida

Vuokratun DGX Sparkin 1 TB:n NVMe, mikä tarkalleen säilyy pysäyttämisessä ja lopettamisessa, ja miksi oma varmuuskopio on tärkeä, kun GPUwerk ei säilytä sellaista.

Kylmäkäynnistys vs aina päällä: instanssin käyttöaikamallin valinta

DGX Sparkin pysäyttäminen käyttökertojen välillä vs pitäminen käynnissä ympäri vuorokauden: kustannus-, viive- ja datakompromissit sekä miten päättää, mikä malli sopii todelliseen käyttöön.

Olemassa olevan itse ylläpidetyn tekoälyratkaisun siirtäminen DGX Sparkille

Käytännön siirtopolku työasemalta tai toisesta pilvi-GPU:sta vuokrattuun DGX Sparkiin: uudelleenkvantisointi yhtenäistä muistia varten, datan siirto ja siirtymäsuunnitelma.

Tekoälyinfrastruktuurin kustannusennusteet ja budjetointi

Miten arvioida tekoälyinfrastruktuurin kuukausikulut itse ylläpidossa verrattuna käytön mukaan laskutettuun API:hin, esimerkkinä GPUwerkin 0,79 $/tunti-hinta, sekä budjetoinnin tarkistuslista.

Kokonaiskustannukset: GPU-vuokraus vs pilvi-AI-API

Tokenipohjainen pilvi-AI-API, vuokrattu dedikoitu DGX Spark hintaan 0,79 $/tunti ja oman laitteiston ostaminen, vertailtuna vain tällä sivustolla julkaistuilla luvuilla.

DGX Spark 64GB vs 128GB: nopeus, hinta, mikä mahtuu

DGX Spark 64GB vs 128GB, marraskuu 2026: sama GB10 ja 273 GB/s, 4 999 $ vs 6 950 $, noin 54 GiB käytettävissä. 8 mallin sopivuustaulukko kontekstilla ja kuka sitä myy.

DGX Sparkin käyttöönotto ilman näyttöä

DGX Sparkin käyttöönotto ilman näyttöä: Wi-Fi-hotspot, spark-xxxx.local-osoitteen löytäminen, lokakuun 2026 Wi-Fi Assistant, 512 MB:n näyttövaraus ja cloud-init useille laitteille.

DGX Sparkin tallennustila: 1 TB vs 4 TB ja missä malleja säilytetään

DGX Sparkin tallennustila 1 TB vs 4 TB: kuinka moni 14 nykyisestä mallista mahtuu (gpt-oss-120b on 65,3 GB), yksi jaettu Hugging Face -välimuisti, hf_xet-nopeus, USB-C- ja NFS-vaihtoehdot.

DGX Sparkin palautus- ja DGX OS:n uudelleenasennusopas

DGX Sparkin palautus: korjaa epäonnistunut päivitys tyhjentämättä, varmuuskopioi live-USB:ltä, asenna uudelleen palautuslevykuvalla 1.155.49 (5,9 GB), OEM-levykuvat ja milloin RMA.

DGX Sparkin ohjelmistopäivitykset: julkaisuloki lokakuuhun 2026

DGX Sparkin ohjelmistopäivitykset julkaisusta lokakuun 2026 versioon: DGX OS 7.6.0, Linux 7.0, ajuri 580.178.04, tunnetut ongelmat ja turvallinen päivittäminen.

DGX Spark, NVIDIA Sync ja etäkäyttöopas

DGX Sparkin etäkäyttö NVIDIA Sync 0.148.0-153:lla: mitä se asentaa, DGX Dashboard portissa 11000, Tailscale, tavallinen SSH-asetus ja API:n turvallinen julkaiseminen.

Mallit ja päättelymoottorit

Mitä malleja ajaa, millä moottorilla tarjota niitä ja miten tulos mitataan.

Parhaat mallit DGX Sparkille, lokakuun 2026 versio

Parhaat mallit DGX Sparkille, lokakuu 2026: Qwen3.6-35B-A3B NVFP4 raportoitu 86,3 tok/s yhdellä Sparkilla, DeepSeek-V4-Flash noin 44 tok/s kahdella. Arviotaulukot lähteineen.

llama.cpp vs vLLM vs SGLang DGX Sparkilla: tok/s ja valitsimet

vLLM 60,7 vs. Ollama 42,1 tok/s gpt-oss-120b:llä yhdellä DGX Sparkilla, ja 116–153 vs. 42,5 8 käyttäjällä. Mikä moottori yhdelle käyttäjälle, tiimille tai kahdelle Sparkille, sekä tarkat valitsimet.

Miten ajaa juuri julkaistua mallia DGX Sparkilla (GB10)

Aja uutta avoimien painojen mallia DGX Sparkilla julkaisuviikolla: muistiin mahtuminen, arm64-vedokset, NVFP4 vai GGUF, vLLM, SGLang vai llama.cpp, ja milloin se tarvitsee kaksi Sparkia.

Aja Qwen3 vLLM-palvelimena DGX Sparkilla

Asenna vLLM, aja Qwen3-32B-AWQ palvelimena OpenAI-yhteensopivalla API:lla, yhdistä Open WebUI ja pidä se käynnissä systemd:llä: kopioi ja liitä -opas DGX Sparkille.

Kvantisoidut vs täyden tarkkuuden mallit tuotannossa

Miten valita kvantisoidun ja täyden tarkkuuden mallin välillä tuotantokäyttöön itse ylläpidetyssä ympäristössä: muistiin mahtuminen, laaturiski tehtävittäin ja milloin testata molempia.

Hienosäädä malli yrityksesi datalla ilman, että data poistuu talosta

Hienosäädä avoin LLM yrityksen datalla ilman, että se poistuu talosta: LoRA- ja QLoRA-muistitaulukot, 32B-esimerkki sekä hienosäätö vs RAG.

Upotusten ja vektorihaun ajaminen DGX Sparkilla

Aja upotusmallia ja vektoritietokantaa generointimallisi rinnalla yhdellä DGX Sparkilla: muistibudjetointi, upotusmallin ajaminen palvelimena ja vektorikannan valinta.

Näkö- ja multimodaalimallien ajaminen DGX Sparkilla

Mikä on mahdollista DGX Sparkin 128 GB:n yhtenäisellä muistilla näkö-kielimalleille ja kuvien ymmärtämiselle, ja miksi GPUwerk ei ole vielä julkaissut erillisiä VLM-vertailutestejä.

ComfyUI ja Stable Diffusion DGX Sparkilla

Aja ComfyUI:ta, FLUXia ja SDXL:ää DGX Sparkilla: asennus ARM64:llä, raportoidut kuva-ajat malleittain, yhtenäisen muistin kilpailu LLM:ien kanssa ja lämpöön liittyvät varaukset.

Jäsennelty tuloste ja funktiokutsut itse ylläpidetyllä LLM:llä

JSON-tilan jäsennellyn tulosteen ja työkalu-/funktiokutsujen määrittäminen itse ylläpidetyille malleille vLLM:llä ja llama.cpp:llä, mukaan lukien mitkä mallit tukevat sitä ja miten virheellisiä kutsuja debugataan.

Kehotteiden välimuisti päättelykustannusten leikkaamiseen

Miten prefix- ja KV-välimuistin uudelleenkäyttö vähentää toistuvaa laskentaa itse ylläpidetyssä käyttöönotossa: mikä kelpaa välimuistiosumaksi, miten kehotteet rakennetaan sitä varten ja missä säästöt oikeasti näkyvät tuntivuokratulla Sparkilla.

Suurten päättelytöiden eräkäsittely vuokratulla Sparkilla

Aja massadokumenttien käsittelyä ja datan merkintää vuokratulla DGX Sparkilla: vLLM:n läpäisyasetukset, töiden mitoitus tuntihintaa vasten ja tarkistuspisteet.

Mallin laadun arviointi ennen mallin vaihtamista

Erilliset testijoukot, A/B-lähestymistavat ja regressiotarkistukset ehdokasmallin vertailuun nykyiseen ennen vaihtoa tuotannossa.

Miten GPUwerk testaa DGX Sparkin suorituskyvyn

Mitä GPUwerk mittaa DGX Sparkilla: yksittäinen virta vs rinnakkaisuus, mitkä moottorit ja asetukset, ja miksi raakalokit julkaistaan eikä vain yhteenvetoa.

DGX Spark pitkällä kontekstilla: tok/s 4k–100k, marraskuu 2026

DGX Sparkin suorituskyky pitkällä kontekstilla, marraskuu 2026: dekoodaus 4k-, 50k- ja 100k-konteksteilla kuudella mallilla, noin 76 s 100k tokenin esitäyttöön ja KV-välimuistin koot 128k:lla.

DGX Spark, Docker ja NGC-kontit: arm64, GPU, compose

DGX Sparkin Docker-opas, marraskuu 2026: Docker 29.6.2 ja Container Toolkit 1.20 esiasennettuina, millä NGC-vedoksilla on arm64-versiot, ja vLLM:n compose-tiedosto.

LM Studio DGX Sparkilla: Linux ARM64, llmster, nopeus (2026)

LM Studio DGX Sparkilla, marraskuu 2026: Linux ARM64 -versio CUDA 13 llama.cpp -moottorilla lokakuusta 2025, llmster-asennus ilman käyttöliittymää ja nopeus vs llama.cpp.

NVIDIA AI Workbench ja JupyterLab DGX Sparkilla

NVIDIA AI Workbench DGX Sparkilla, marraskuu 2026: julkaisu 2026.06.5, arm64-perusvedokset CUDA 13.1:llä, DGX Dashboardin JupyterLab ja tavallinen JupyterLab 4.6.6.

NIM DGX Sparkilla: mitkä NIMit toimivat GB10:llä, lisenssi, asennus

NVIDIA NIM DGX Sparkilla, marraskuu 2026: noin 20 NIMiä listaa GB10-tuen, maksuton kehityskäyttöön enintään 16 GPU:lla, ja tuotantokäyttö vaatii AI Enterprise -lisenssin.

Ollama DGX Sparkilla: asennus, asetukset ja tok/s

Ollama DGX Sparkilla, marraskuu 2026: arm64-asennus, kuusi tärkeää asetusta, 42 tok/s gpt-oss-120b:llä vs. 59 llama.cpp:llä, ja API:n turvallinen julkaiseminen.

PyTorch DGX Sparkilla: CUDA 13 aarch64 -wheelit

PyTorch DGX Sparkilla, marraskuu 2026: torch 2.15.0 cu132- tai 2.14.1 cu130 -aarch64-wheelit, virheellinen sm_121-varoitus, NGC 26.10, flash-attnin ja xformersin tila.

SGLang DGX Sparkilla: asennus, valitsimet ja tok/s

SGLang DGX Sparkilla, marraskuu 2026: v0.5.23 arm64-vedos ja pip-wheelit, --mem-fraction-static 0.80 GB10:llä sekä 52 vs. 36 tok/s vLLM:ään verrattuna gpt-oss-120b:llä.

Whisper ja Parakeet DGX Sparkilla: puheentunnistus, marraskuu 2026

Puheentunnistus DGX Sparkilla, marraskuu 2026: Parakeet TDT 0.6B v3 283x reaaliaikaa nopeammin GB10:llä, Whisper large-v3 19–25x, Open ASR Leaderboardin WER-luvuin.

TensorRT-LLM DGX Sparkilla: trtllm-serve, NVFP4, tok/s (2026)

TensorRT-LLM DGX Sparkilla, marraskuu 2026: NVIDIAn 1.3.0rc13-kontti, trtllm-serve NVFP4:llä, 38,65 tok/s Llama 3.1 8B:llä, ja milloin asennus kannattaa.

DGX Sparkin videogenerointi: sekuntia klippiä kohden, marraskuu 2026

DGX Sparkin videogenerointi, marraskuu 2026: LTX-2.5:n 5 sekunnin klipit noin 70 sekunnissa, Wan 2.2 5B 720p 14 minuutissa, ja miksi RTX 5090 on 2,4–5,5x nopeampi.

Suorituskyky ja vertailutestit

Mitattu ja raportoitu nopeus: käyttäjiä Sparkia kohden, muistikaista, CPU, laskenta, kvantisointimuodot ja miten kukin GB10-kone kestää kuormaa.

Klusterit ja skaalaus

Kaksi Sparkia, kalusto, useita malleja yhdellä koneella ja sen jakaminen tiimin kanssa.

DGX Spark -klusteri: kaksi Sparkia, asennus, rajat ja tok/s

Kaksi DGX Sparkia antaa 256 GB ja tensoririnnakkaisuudella nopeamman dekoodauksen: 1,75× mitattuna Qwen3-32B:llä, jopa noin 1,8× raportoituna. Kaapeliosat, porttien nimet, asennus ja mallit, jotka tarvitsevat kaksi Sparkia.

Skaalaus yhdestä DGX Sparkista kalustoksi

Milloin useamman yksittäisen Sparkin vuokraaminen voittaa kahden solmun klusterin, miten kuormaa tasataan itsenäisten solmujen kesken ja pienen kaluston operoinnin kompromissit.

GPU-muistin hallinta useille malleille yhdellä Sparkilla

Jaa 128 GB yhtenäistä muistia useiden mallien tai konttien kesken yhdellä DGX Sparkilla ja tiedä, milloin siirtyä kahden solmun klusteriin tai toiseen solmuun.

GPU:n käyttöasteen seuranta ja käyttöönoton oikea mitoitus

Miten lukea vuokratun DGX Sparkin todellinen GPU- ja muistin käyttöaste ja käyttää sitä päätökseen siitä, pysytäänkö nykyisessä, skaalataanko kahden solmun klusteriin vai laajennetaanko kalustoksi.

Useiden konttien ja palveluiden ajaminen DGX Sparkilla

Docker-konttimallit yhdelle DGX Sparkille: milloin pelkkä docker-compose-tiedosto riittää ja milloin työkuorma on kasvanut sen ohi.

Mallien päivittäminen tai vaihtaminen ilman katkoa

DGX Spark on yksittäinen kone, joten aidosti katkottomat mallipäivitykset vaativat toisen Sparkin, jolle siirtyä. Tässä mitä se vaatii, ja rehellinen vaihtoehto, jos hyväksyt lyhyen uudelleenkäynnistyskatkon.

Tiimi- ja monikäyttäjäpääsy jaettuun DGX Sparkiin

Mallit yhden vuokratun DGX Sparkin jakamiseen tiimin kesken: erilliset Linux-käyttäjät omilla SSH-avaimillaan tai yhdyskäytävä edessä, jotta useimmat eivät koskaan tarvitse komentoriviä.

DGX Spark -klusteri 4 tai 8 solmulla: kytkin, asennus, tok/s

4 ja 8 solmun DGX Spark -klusterit: NVIDIAn tuki 22.10.2026 alkaen, kytkin ja kaapelit, NCCL-asetukset, 52,6 tok/s raportoitu 8 solmulla, ja kustannus vs 8x B200.

Kimi K3 ja DeepSeek V4 DGX Spark -klustereilla: 1–8 solmua

Kuinka monta DGX Sparkia Kimi K3, DeepSeek V4, GLM-5.3 ja MiniMax M3 tarvitsevat? Muistilaskelmat 1–8 solmulle ja raportoidut nopeudet jopa 132 tok/s 4 Sparkilla.

Operointi

Valvonta, varmuuskopiot, tietoturva ja pääsynhallinta itse ylläpidetylle käyttöönotolle.

Itse ylläpidetyn LLM:n valvonta ja havainnoitavuus

Mitä seurata yhdellä LLM:ää ajavalla DGX Sparkilla ja mitkä avoimen lähdekoodin työkalut hoitavat sen, nvidia-smi:stä Prometheus- ja Grafana-pinoon. GPUwerk tarjoaa konsoli- ja API-pääsyn, ei valvontatuotetta.

Varmuuskopiointi ja palautuminen DGX Spark -työkuormallesi

GPUwerk ei säilytä kopiota vuokratun DGX Sparkin työtilasta. Mitä varmuuskopioida, minne se lähettää ja kuinka usein synkronoida.

Itse ylläpidetyn LLM:n palautumissuunnitelman testaaminen

Varmuuskopio, josta et ole palauttanut, on hypoteesi. Palautusharjoitukset, game dayt ja RTO/RPO-mittaus itse ylläpidetylle LLM:lle vuokratulla GPU-laitteistolla.

Vuokratun GPU-instanssin tietoturvan koventaminen

Käytännön koventaminen instanssin sisällä vuokratulle GPU:lle: SSH-avainten hallinta, verkkoaltistus, palveluiden ajaminen ilman rootia, salaisuudet sekä väliaikainen vs pysyvä tila.

API-avainten kierrätyksen parhaat käytännöt yksityiselle LLM-käyttöönotolle

API-avainten ja tunnistetietojen kierrättäminen itse ylläpidetylle päättelypäätepisteelle: oikeuksien rajaus, kierrätysaikataulut, mitätöinti ja mitä automatisoida ja mitä tehdä käsin.

Nopeusrajoitukset ja kiintiöt sisäiselle LLM-käyttöönotolle

Pelkässä DGX Sparkissa ei ole käyttäjäkohtaista nopeusrajoitusta. Lisää se itse LiteLLM:n avainkohtaisilla rpm/tpm-rajoilla ja budjeteilla tai eteen sijoitetulla käänteisvälityspalvelimella.

Auditointiloki vaatimustenmukaisuuden kannalta herkälle itse ylläpidetylle LLM-käyttöönotolle

Määritä pyyntö- ja vastausauditointilokit omaan konttiisi vuokratulla DGX Sparkilla: mitä tallentaa, mihin se säilöä ja missä GPUwerkin tehtävä päättyy.

SSO:n ja pääsynhallinnan määrittäminen tiimin LLM-käyttöönotolle

Tunnistautumiskerroksen sijoittaminen itse ylläpidetyn päättelypäätepisteen eteen, jotta tiimi kirjautuu olemassa olevilla tunnuksillaan SSH-avainten tai API-tunnisteiden jakamisen sijaan.

Mallien versiointi- ja palautusstrategia itse ylläpidetylle käyttöönotolle

Sen seuraaminen, mitkä mallipainot ja kokoonpanot ovat todella käytössä, ja siisti palautus, kun uusi versio suoriutuu huonommin, itse ylläpidetyssä DGX Spark -käyttöönotossa.

Sparkin vertailu muihin koneisiin: katso vertailut. Itse laitteisto: katso tekniset tiedot -sivu.

Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa

Kokeile opasta oikealla Sparkilla hintaan 0,79 $/tunti.

Vuokraa dedikoitu DGX Spark Euroopasta, Pohjois-Amerikasta tai Itä-Aasiasta ja seuraa mukana. Laskutus minuutin tarkkuudella ennakkoon maksetusta saldosta.

Luo tili Katso hinnoittelu