Vodniki za DGX Spark
Petinšestdeset vodnikov o nakupu, uporabi in upravljanju DGX Spark, od GPUwerka, ki jih oddaja. Razdeljeni so v pet razdelkov: nakup in uporaba Sparka, modeli in pogoni za sklepanje, zmogljivost in meritve, gruče in rast ter obratovanje. Vsaka kartica pokaže povzetek svojega vodnika.
Nakup in uporaba Sparka
Pred nakupom, nato pa poraba, hrup, postavitev, posodobitve, shramba in stroški delovanja.
Kaj vedeti pred nakupom DGX Sparka
Pošten vodnik za nakup DGX Sparka od podjetja, ki jih oddaja v najem: resnični primerjalni testi, meja pasovne širine 273 GB/s, maloprodajne cene v EU ter nakup ali najem.
Poraba energije in stroški delovanja DGX Sparka
Izmerjena poraba DGX Sparka: 22–45 W v prostem teku, 60–90 W med sklepanjem LLM, približno 160–200 W pri polni obremenitvi, ob 240-vatnem napajalniku. Mesečni strošek pri cenah elektrike v EU.
Hrup DGX Sparka: 29 dB pri polni obremenitvi, 13 dB v prostem teku
NVIDIA za DGX Spark navaja 35 dB LWA in 29 dB LpA pri največji obremenitvi ter 19 in 13 dB v mirovanju (ECMA-109). Meritve recenzentov, hlajenje in postavitev.
Vodnik za nastavitev DGX Sparka: od prvega zagona do strežbe modela v enem večeru
Hiter začetek z DGX Sparkom od nekoga, ki jih vsak dan vgrajuje v omare: prvi zagon DGX OS, SSH samo s ključem, izbira sklada za strežbo in strežba prvega modela vašim orodjem v enem večeru.
Posodobitve gonilnikov in vdelane programske opreme DGX Spark: kaj upravlja GPUwerk
Kaj GPUwerk na najetem DGX Sparku posodablja na ravni gostitelja in vozlišča ter kaj je znotraj vašega vsebnika z dostopom root in ostaja povsem vaša odgovornost.
Shramba DGX Sparka: kaj je trajno in česa narediti varnostno kopijo
1 TB NVMe na najetem DGX Sparku, kaj natanko preživi ustavitev in kaj odstranitev ter zakaj je pomembno imeti lastno varnostno kopijo, saj je GPUwerk ne hrani.
Hladni zagon vs. stalno delovanje: kako izbrati vzorec delovanja instance
Ustavljanje DGX Sparka med uporabami vs. neprekinjeno delovanje: stroški, odzivnost in kompromisi glede podatkov ter kako se odločiti, kateri vzorec ustreza dejanski uporabi.
Selitev obstoječe postavitve AI v lastni režiji na DGX Sparku
Praktična pot selitve z delovne postaje ali drugega GPU v oblaku na najet DGX Spark: ponovna kvantizacija za enotni pomnilnik, prenos podatkov in načrt preklopa.
Napovedovanje stroškov in načrtovanje proračuna za infrastrukturo AI
Kako oceniti mesečne stroške infrastrukture AI za lastno režijo v primerjavi z merjenim API-jem, z izračunanim primerom po ceni 0,79 USD na uro pri GPUwerku in kontrolnim seznamom za proračun.
Skupni stroški lastništva: najem GPU-ja vs. API za AI v oblaku
API za AI v oblaku z obračunom po tokenih, najet namenski DGX Spark za 0,79 USD/uro in nakup lastne strojne opreme, primerjani samo s številkami, objavljenimi na tem spletnem mestu.
DGX Spark 64GB vs. 128GB: hitrost, cena, kaj gre v pomnilnik
DGX Spark 64GB vs. 128GB, november 2026: isti GB10 in 273 GB/s, 4.999 USD vs. 6.950 USD, približno 54 GiB uporabnega. Tabela prileganja za 8 modelov s kontekstom in kdo jih prodaja.
Nastavitev DGX Sparka brez monitorja
Nastavitev DGX Sparka brez zaslona: potek prek dostopne točke Wi-Fi, iskanje spark-xxxx.local, pomočnik za Wi-Fi iz oktobra 2026, 512 MB rezerve za zaslon in cloud-init za več enot.
Shramba DGX Sparka: 1 TB vs. 4 TB in kje hraniti modele
Shramba DGX Sparka 1 TB vs. 4 TB: koliko od 14 aktualnih modelov gre v shrambo (gpt-oss-120b ima 65,3 GB), en deljen predpomnilnik Hugging Face, hitrost hf_xet ter možnosti USB-C in NFS.
Vodnik za obnovitev DGX Sparka in ponovno namestitev DGX OS
Obnovitev DGX Sparka: popravilo neuspele posodobitve brez brisanja, varnostna kopija z zagonskega ključa USB, ponovna namestitev z odtisom za obnovitev 1.155.49 (5,9 GB), odtisi OEM in kdaj je čas za RMA.
Posodobitve programske opreme DGX Spark: dnevnik izdaj do oktobra 2026
Posodobitve programske opreme DGX Spark od izida do izdaje iz oktobra 2026: DGX OS 7.6.0, Linux 7.0, gonilnik 580.178.04, znane težave in kako varno posodobiti.
Vodnik za NVIDIA Sync in oddaljeni dostop na DGX Sparku
Oddaljeni dostop do DGX Sparka z NVIDIA Sync 0.148.0-153: kaj namesti, nadzorna plošča DGX na vratih 11000, Tailscale, preprosta nastavitev SSH in varno izpostavljanje API-ja.
Modeli in pogoni za sklepanje
Katere modele poganjati, s katerim pogonom jih streči in kako izmeriti rezultat.
Najboljši modeli za DGX Spark, izdaja oktober 2026
Najboljši modeli za DGX Spark, oktober 2026: za Qwen3.6-35B-A3B NVFP4 poročajo o 86,3 tok/s na enem Sparku, za DeepSeek-V4-Flash o približno 44 tok/s na dveh. Tabele z ocenami in viri.
llama.cpp vs. vLLM in SGLang na DGX Sparku: tok/s in zastavice
vLLM 60,7 vs. Ollama 42,1 tok/s za gpt-oss-120b na enem DGX Sparku ter 116 do 153 vs. 42,5 pri 8 uporabnikih. Kateri pogon za enega uporabnika, ekipo ali dva Sparka, in natančne zastavice.
Kako na DGX Sparku (GB10) pognati sveže izdan model
Poženite nov model z odprtimi utežmi na DGX Sparku že v tednu izida: prileganje v pomnilnik, odtisi arm64, NVFP4 ali GGUF, vLLM, SGLang ali llama.cpp in kdaj potrebuje dva Sparka.
Strezite Qwen3 z vLLM na DGX Sparku
Namestite vLLM, s strežnikom ponudite Qwen3-32B-AWQ prek API-ja, združljivega z OpenAI, povežite Open WebUI in s systemd poskrbite, da teče naprej: vodnik za DGX Spark.
Kvantizirani modeli in modeli s polno natančnostjo v produkciji
Kako se odločiti med kvantiziranim modelom in modelom s polno natančnostjo pri produkcijski postavitvi v lastni režiji: prileganje v pomnilnik, tveganje za kakovost po nalogah in kdaj preizkusiti oba.
Fino nastavite model na podatkih svojega podjetja, ne da bi ti zapustili hišo
Fino nastavite odprt LLM na podatkih podjetja, ne da bi ti zapustili hišo: tabele pomnilnika za LoRA in QLoRA, izračunan primer s 32B in primerjava finega nastavljanja z RAG.
Vektorske vložitve in vektorsko iskanje na DGX Sparku
Poganjajte model za vektorske vložitve in vektorsko bazo ob modelu za ustvarjanje na enem DGX Sparku: načrtovanje pomnilnika, strežba vložitev in izbira shrambe vektorjev.
Poganjanje vidnih in večmodalnih modelov na DGX Sparku
Kaj je verjetno mogoče na 128 GB enotnega pomnilnika DGX Spark za jezikovno-vidne modele in razumevanje slik ter zakaj GPUwerk namenskih meritev za VLM še ni objavil.
ComfyUI in Stable Diffusion na DGX Sparku
Poganjajte ComfyUI, FLUX in SDXL na DGX Sparku: nastavitev na ARM64, objavljeni časi slik po modelih, tekmovanje za enotni pomnilnik z modeli LLM in toplotna opozorila.
Strukturiran izhod in klici funkcij na LLM v lastni režiji
Nastavitev strukturiranega izhoda v načinu JSON in klicev orodij oziroma funkcij na modelih v lastni režiji z vLLM in llama.cpp, vključno s tem, kateri modeli to podpirajo in kako razhroščiti napačno oblikovane klice.
Predpomnjenje pozivov za nižje stroške sklepanja
Kako ponovna uporaba predpone in predpomnilnika KV zmanjša ponavljajoče se računanje pri postavitvi v lastni režiji: kaj šteje za zadetek v predpomnilniku, kako temu prilagoditi zgradbo pozivov in kje se prihranek dejansko pokaže pri Sparku, najetem na uro.
Paketna obdelava velikih opravil sklepanja na najetem Sparku
Poganjajte množično obdelavo dokumentov in označevanje podatkovnih nizov na najetem DGX Sparku: nastavitve prepustnosti v vLLM, velikost opravil glede na urno ceno in kontrolne točke.
Vrednotenje kakovosti modela pred zamenjavo modelov
Ločeni testni nabori, pristopi A/B in regresijska preverjanja za primerjavo kandidatnega modela s trenutnim, preden ga zamenjate v produkciji.
Kako GPUwerk meri zmogljivost DGX Sparka
Kaj GPUwerk meri na DGX Sparku: en sam tok v primerjavi s hkratnimi zahtevami, kateri pogoni in nastavitve ter zakaj so objavljeni surovi dnevniki in ne le povzetek.
Dolg kontekst na DGX Sparku: tok/s od 4k do 100k, november 2026
Zmogljivost DGX Sparka pri dolgem kontekstu, november 2026: dekodiranje pri 4k, 50k in 100k za šest modelov, približno 76 s za predpripravo 100k tokenov in velikosti predpomnilnika KV pri 128k.
Docker in vsebniki NGC na DGX Sparku: arm64, GPU, compose
Vodnik za Docker na DGX Sparku, november 2026: Docker 29.6.2 in Container Toolkit 1.20 sta prednaložena, kateri odtisi NGC imajo različice za arm64 in datoteka compose za vLLM.
LM Studio na DGX Sparku: Linux ARM64, llmster, hitrost (2026)
LM Studio na DGX Sparku, november 2026: različica za Linux ARM64 s pogonom llama.cpp na CUDA 13 od oktobra 2025, namestitev llmster brez zaslona in hitrost v primerjavi z llama.cpp.
NVIDIA AI Workbench in JupyterLab na DGX Sparku
NVIDIA AI Workbench na DGX Sparku, november 2026: izdaja 2026.06.5, osnovni odtisi arm64 s CUDA 13.1, JupyterLab v DGX Dashboard in navadni JupyterLab 4.6.6.
NIM na DGX Sparku: kateri NIM delujejo na GB10, licenca, nastavitev
NVIDIA NIM na DGX Sparku, november 2026: približno 20 NIM navaja podporo za GB10, brezplačno za razvoj na do 16 GPU, produkcija pa zahteva licenco AI Enterprise.
Ollama na DGX Sparku: namestitev, nastavitve in tok/s
Ollama na DGX Sparku, november 2026: namestitev arm64, šest pomembnih nastavitev, 42 tok/s na gpt-oss-120b vs. 59 pri llama.cpp in varna izpostavitev API.
PyTorch na DGX Sparku: paketi CUDA 13 za aarch64
PyTorch na DGX Sparku, november 2026: paketi aarch64 torch 2.15.0 cu132 ali 2.14.1 cu130, lažno opozorilo sm_121, NGC 26.10, stanje flash-attn in xformers.
SGLang na DGX Sparku: namestitev, zastavice in tok/s
SGLang na DGX Sparku, november 2026: odtis v0.5.23 za arm64 in paketi wheel za pip, --mem-fraction-static 0.80 na GB10 ter 52 vs. 36 tok/s v primerjavi z vLLM na gpt-oss-120b.
Whisper in Parakeet na DGX Sparku: govor v besedilo, nov. 2026
Pretvorba govora v besedilo na DGX Sparku, november 2026: Parakeet TDT 0.6B v3 pri 283-kratniku realnega časa na GB10, Whisper large-v3 pri 19- do 25-kratniku, z WER z lestvice Open ASR Leaderboard.
TensorRT-LLM na DGX Sparku: trtllm-serve, NVFP4, tok/s (2026)
TensorRT-LLM na DGX Sparku, november 2026: vsebnik NVIDIA 1.3.0rc13, trtllm-serve z NVFP4, 38,65 tok/s na Llama 3.1 8B in kdaj se taka nastavitev izplača.
Ustvarjanje videa na DGX Sparku: sekunde na posnetek, november 2026
Ustvarjanje videa na DGX Sparku, november 2026: 5-sekundni posnetki LTX-2.5 v približno 70 s, Wan 2.2 5B pri 720p v 14 min in zakaj je RTX 5090 2,4- do 5,5-krat hitrejši.
Zmogljivost in meritve
Izmerjena in objavljena hitrost: uporabniki na Sparku, pasovna širina pomnilnika, CPE, računska moč, oblike kvantizacije in kako se vsaka naprava GB10 drži pod obremenitvijo.
Koliko uporabnikov zmore DGX Spark? Podatki o hkratnosti
Koliko uporabnikov streže en DGX Spark, november 2026: tok/s na uporabnika pri 1 do 256 zahtevah, približno 52 klepetalnih tokov pri 15 tok/s na modelu MoE s 3B aktivnimi parametri in kako oceniti velikost ekipe.
Zmogljivost CPU DGX Spark: meritve GB10 vs. x86 in M5
Zmogljivost CPE DGX Spark, november 2026: GB10 doseže 3.123 enojedrno in 19.708 večjedrno v Geekbench 6 ter 675 GFLOPS v HPL, v primerjavi z Ryzen AI Max+ 395 in M5 Max.
Izmerjena pasovna širina pomnilnika DGX Spark: 273 GB/s vs. resnični
Izmerjena pasovna širina pomnilnika DGX Spark, november 2026: 234 do 247 GB/s v clpeak, 200 do 213 GB/s pri STREAM triad, 38 GB/s na jedro CPE in dekodiranje pri 73 do 87 %.
Hitrost kvantizacij na DGX Sparku: NVFP4 vs. FP8, AWQ in GGUF
Najhitrejša kvantizacija na DGX Sparku, november 2026: en model pri 31 tok/s v BF16, 50 do 55 v FP8, 65 do 66 v NVFP4, 81 v AWQ in kdaj NVFP4 zaostane.
Izmerjeni TFLOPS DGX Sparka: 1 PFLOP FP4 vs. resnični matmul
Izmerjeni TFLOPS DGX Spark, november 2026: 973 do 1.022 redkih FP4 v mikromeritvi, 356 v CUTLASS GEMM, 77 do 99 vzdržnih BF16 in koliko porabi predpriprava.
Toplotno omejevanje GB10: vzdržna hitrost po proizvajalcih (2026)
Toplotno omejevanje GB10 po proizvajalcih: pet naprav OEM je pri predpripravi v vLLM ostalo v razponu 2,6 %, najvišje temperature CPE pa so bile od 74,7 do 90 °C. Pravo tveganje je vdelana programska oprema.
Gruče in širjenje
Dva Sparka, flota, več modelov na eni napravi in deljenje z ekipo.
Gruča DGX Sparka: dva Sparka, nastavitev, meje in tok/s
Dva DGX Sparka dasta 256 GB in s tenzorsko vzporednostjo hitrejše dekodiranje: izmerjenih 1,75-krat na Qwen3-32B, poročano do približno 1,8-krat. Deli kablov, imena vrat, nastavitev, modeli, ki potrebujejo dva Sparka.
Rast od enega DGX Sparka do flote
Kdaj je najem več posameznih Sparkov boljši od gruče z dvema vozliščema, kako razporejati obremenitev med neodvisnimi vozlišči in kakšni so praktični kompromisi pri vodenju majhne flote.
Upravljanje pomnilnika GPU za več modelov na enem Sparku
Razporedite 128 GB enotnega pomnilnika med več modelov ali vsebnikov na enem DGX Sparku in ugotovite, kdaj je namesto tega čas za gručo z dvema vozlišči ali za drugo napravo.
Spremljanje izkoriščenosti GPU-ja in pravilna velikost vaše postavitve
Kako na najetem DGX Sparku odčitati dejansko izkoriščenost GPU-ja in pomnilnika ter se na tej podlagi odločiti, ali ostati pri istem, nadgraditi na gručo z dvema vozliščema ali razširiti na floto.
Poganjanje več vsebnikov in storitev na DGX Sparku
Vzorci vsebnikov Docker za en sam DGX Spark: kdaj preprosta datoteka docker-compose zadošča in kdaj jo je opravilo preraslo.
Posodabljanje ali menjava modelov brez izpada
DGX Spark je ena sama naprava, zato posodobitve modela brez kakršnega koli izpada zahtevajo drugi Spark, na katerega preklopite. Tukaj je opisano, kaj takšna postavitev vključuje, in poštena alternativa, če sprejmete kratek čas ponovnega zagona.
Ekipni in večuporabniški dostop do skupnega DGX Spark
Vzorci za deljenje enega najetega DGX Sparka v ekipi: ločeni uporabniki Linux z lastnimi ključi SSH ali prehod pred napravo, da večina ljudi nikoli ne potrebuje lupine.
Gruča DGX Sparka s 4 ali 8 vozlišči: stikalo, nastavitev, tok/s
Gruče DGX Sparka s 4 in 8 vozlišči: podpora NVIDIA od 22. 10. 2026, stikalo in kabli, nastavitev NCCL, 52,6 tok/s pri 8 vozliščih in stroški v primerjavi z 8x B200.
Kimi K3 in DeepSeek V4 na gručah DGX Sparka: 1 do 8 vozlišč
Koliko naprav DGX Spark potrebujejo Kimi K3, DeepSeek V4, GLM-5.3 in MiniMax M3? Izračun pomnilnika za 1 do 8 vozlišč in objavljene hitrosti do 132 tok/s na 4 Sparkih.
Delovanje
Spremljanje, varnostne kopije, varnost in nadzor dostopa pri postavitvi v lastni režiji.
Spremljanje in opazljivost pri LLM v lastni režiji
Kaj spremljati na enem DGX Sparku, ki poganja LLM, in katera odprtokodna orodja to opravijo, od nvidia-smi do sklada Prometheus in Grafana. GPUwerk zagotavlja dostop prek konzole in API-ja, ne izdelka za spremljanje.
Varnostno kopiranje in obnova po nesreči za vaše obremenitve na DGX Sparku
GPUwerk ne hrani kopije delovnega prostora najetega DGX Sparka. Česa narediti varnostno kopijo, kam jo poslati in kako pogosto jo uskladiti.
Preizkušanje načrta za okrevanje po nesreči pri LLM v lastni režiji
Varnostna kopija, iz katere še niste obnovili podatkov, je le hipoteza. Vaje obnove, simulacije izpadov in merjenje RTO/RPO za LLM v lastni režiji na najeti strojni opremi GPU.
Varnostna utrditev najete instance GPU
Praktična utrditev znotraj instance za najet GPU: upravljanje ključev SSH, izpostavljenost omrežju, poganjanje storitev brez pravic root, skrivnosti ter začasno in trajno stanje.
Dobre prakse menjave ključev API za zasebno postavitev LLM
Menjava ključev API in poverilnic za končno točko za sklepanje v lastni režiji: določanje obsega, urniki menjave, preklic in kaj avtomatizirati ter kaj delati ročno.
Omejevanje hitrosti in kvote za notranjo uvedbo LLM
Sam po sebi DGX Spark nima omejevanja hitrosti po uporabnikih. Dodajte ga sami z omejitvami rpm/tpm in proračuni po ključih v LiteLLM ali z obratnim posredniškim strežnikom pred njim.
Revizijsko beleženje za postavitev LLM v lastni režiji, občutljivo na skladnost
Nastavite revizijske dnevnike zahtev in odgovorov v svojem vsebniku na najetem DGX Sparku: kaj beležiti, kje to hraniti in kje se naloga GPUwerka konča.
Nastavitev enotne prijave in nadzora dostopa za ekipno postavitev LLM
Postavitev sloja za preverjanje pristnosti pred končno točko za sklepanje v lastni režiji, da se ekipa prijavlja z obstoječimi identitetami, namesto da bi si delila ključe SSH ali tokene API.
Strategija za različice modelov in vračanje nazaj pri postavitvi v lastni režiji
Spremljanje, katere uteži in nastavitve modelov dejansko tečejo, in čisto vrnitev na prejšnjo različico, ko nova razočara, pri postavitvi na DGX Sparku v lastni režiji.
Kako se Spark primerja z drugimi napravami, si oglejte med primerjavami. Za samo strojno opremo glejte stran s specifikacijami.