DGX Spark/Vodiči
Vodiči

Vodiči za DGX Spark

Autor: Samuel Seidel · Ažurirano 7. studenoga 2026.

Šezdeset pet vodiča o kupnji, pokretanju i vođenju DGX Sparka, od GPUwerka, koji ih iznajmljuje. Grupirani su u pet odjeljaka: kupnja i pokretanje Sparka, modeli i pogoni za inferenciju, performanse i mjerenja, klasteri i skaliranje te rad i održavanje. Svaka kartica prikazuje vlastiti sažetak vodiča.

Kupnja i rad sa Sparkom

Prije kupnje, a zatim napajanje, buka, postavljanje, ažuriranja, pohrana i troškovi rada.

Što znati prije kupnje DGX Sparka

Iskren vodič za kupnju DGX Sparka od tvrtke koja ih iznajmljuje: stvarna mjerenja, ograničenje propusnosti od 273 GB/s, stvarne cijene u EU-u te kupnja naspram najma.

Potrošnja struje i trošak rada DGX Sparka

Izmjerena potrošnja DGX Sparka: 22-45 W u mirovanju, 60-90 W tijekom LLM inferencije, oko 160-200 W pri punom opterećenju, uz napajanje od 240 W. Mjesečni trošak po cijenama struje u EU.

Buka DGX Sparka: 29 dB pri punom opterećenju, 13 dB u mirovanju

NVIDIA za DGX Spark navodi 35 dB LWA i 29 dB LpA pri najvećem opterećenju te 19 i 13 dB u mirovanju (ECMA-109). Očitanja recenzenata, hlađenje i smještaj.

Vodič za postavljanje DGX Sparka: od prvog pokretanja do posluženog modela u jednoj večeri

Brzi početak s DGX Sparkom od nekoga tko ih svaki dan ugrađuje u rackove: prvo pokretanje DGX OS-a, SSH samo s ključem, odabir serving stacka i posluživanje prvog modela vašim alatima u jednoj večeri.

Ažuriranja upravljačkih programa i firmvera DGX Sparka: čime upravlja GPUwerk

Što GPUwerk na unajmljenom DGX Sparku održava ažurnim na razini hosta i čvora, a što je unutar vašeg root spremnika i ostaje u potpunosti vaša odgovornost.

Pohrana DGX Sparka: što je trajno, a što treba sigurnosno kopirati

NVMe od 1 TB na unajmljenom DGX Sparku, što točno preživljava zaustavljanje naspram ukidanja i zašto je važno držati vlastitu sigurnosnu kopiju jer je GPUwerk ne čuva.

Hladno pokretanje naspram stalnog rada: odabir obrasca rada instance

Zaustavljanje DGX Sparka između upotreba naspram neprekidnog rada: trošak, latencija i kompromisi oko podataka te kako odlučiti koji obrazac odgovara stvarnoj upotrebi.

Prelazak postojeće samostalno hostirane AI postavke na DGX Spark

Praktičan put migracije s radne stanice ili drugog GPU-a u oblaku na unajmljeni DGX Spark: ponovna kvantizacija za objedinjenu memoriju, premještanje podataka i plan prelaska.

Predviđanje troškova i budžetiranje AI infrastrukture

Kako procijeniti mjesečni trošak AI infrastrukture za samostalni hosting naspram API-ja s naplatom po upotrebi, s GPUwerkovom cijenom od 0,79 USD na sat kao izračunanim primjerom i popisom za provjeru proračuna.

Ukupan trošak vlasništva: najam GPU-a naspram AI API-ja u oblaku

AI API u oblaku s naplatom po tokenu, unajmljeni namjenski DGX Spark za 0,79 USD/sat i kupnja vlastitog hardvera, usporedba samo s podacima objavljenima na ovoj stranici.

DGX Spark 64GB vs 128GB: brzina, cijena, što stane

DGX Spark 64GB naspram 128GB, studeni 2026.: isti GB10 i 273 GB/s, 4.999 USD naspram 6.950 USD, oko 54 GiB iskoristivo. Tablica pristajanja za 8 modela s kontekstom i tko ga prodaje.

Postavljanje DGX Sparka bez monitora

Postavljanje DGX Sparka bez monitora: postupak s Wi-Fi hotspotom, pronalaženje spark-xxxx.local, Wi-Fi Assistant iz listopada 2026., 512 MB rezervirano za prikaz i cloud-init za više jedinica.

Pohrana DGX Sparka: 1 TB naspram 4 TB i gdje držati modele

Pohrana DGX Sparka, 1 TB naspram 4 TB: koliko od 14 aktualnih modela stane (gpt-oss-120b ima 65,3 GB), jedna zajednička Hugging Face predmemorija, brzina hf_xeta te opcije USB-C i NFS.

Vodič za oporavak DGX Sparka i ponovnu instalaciju DGX OS-a

Oporavak DGX Sparka: popravak neuspjelog ažuriranja bez brisanja, sigurnosna kopija s live USB-a, ponovna instalacija slikom za oporavak 1.155.49 (5,9 GB), OEM slike i kada poslati uređaj na RMA.

Softverska ažuriranja DGX Sparka: popis izdanja do listopada 2026.

Softverska ažuriranja DGX Sparka od lansiranja do izdanja iz listopada 2026.: DGX OS 7.6.0, Linux 7.0, upravljački program 580.178.04, poznati problemi i kako sigurno ažurirati.

Vodič za NVIDIA Sync i udaljeni pristup DGX Sparku

Udaljeni pristup DGX Sparku s NVIDIA Syncom 0.148.0-153: što instalira, DGX Dashboard na portu 11000, Tailscale, jednostavna SSH konfiguracija i sigurno izlaganje API-ja.

Modeli i pogoni za inferenciju

Koje modele pokretati, kojim ih pogonom posluživati i kako izmjeriti rezultat.

Najbolji modeli za DGX Spark, izdanje za listopad 2026.

Najbolji modeli za DGX Spark, listopad 2026.: Qwen3.6-35B-A3B NVFP4 s prijavljenih 86,3 tok/s na jednom Sparku, DeepSeek-V4-Flash s oko 44 tok/s na dva. Tablice s ocjenama i izvorima.

llama.cpp, vLLM i SGLang na DGX Sparku: tok/s i zastavice

vLLM 60,7 naspram Ollame 42,1 tok/s za gpt-oss-120b na jednom DGX Sparku te 116 do 153 naspram 42,5 pri 8 korisnika. Koji pogon za jednog korisnika, tim ili dva Sparka, uz točne zastavice.

Kako pokrenuti tek objavljeni model na DGX Sparku (GB10)

Pokrenite novi model s otvorenim težinama na DGX Sparku u tjednu objave: stane li u memoriju, arm64 slike, NVFP4 ili GGUF, vLLM, SGLang ili llama.cpp i kada su potrebna dva Sparka.

Poslužite Qwen3 s vLLM-om na DGX Sparku

Instalirajte vLLM, poslužite Qwen3-32B-AWQ preko API-ja kompatibilnog s OpenAI-jem, povežite Open WebUI i održavajte ga u radu sa systemd-om: vodič za kopiranje i lijepljenje za DGX Spark.

Kvantizirani modeli naspram modela pune preciznosti u produkciji

Kako odlučiti između kvantiziranog modela i modela pune preciznosti za produkcijsku samostalno hostiranu postavku: stane li u memoriju, rizik za kvalitetu po vrsti zadatka i kada testirati oboje.

Fino podesite model na podacima svoje tvrtke, a da ti podaci ne izađu iz nje

Fino podesite otvoreni LLM na podacima svoje tvrtke, a da oni iz nje ne izađu: memorijske tablice za LoRA i QLoRA, izračunan primjer na 32B i fino podešavanje naspram RAG-a.

Ugrađivanja i vektorsko pretraživanje na DGX Sparku

Pokrenite model za ugrađivanja i vektorsku bazu uz svoj generativni model na jednom DGX Sparku: raspodjela memorije, posluživanje ugrađivanja i odabir vektorske pohrane.

Pokretanje modela vida i multimodalnih modela na DGX Sparku

Što je realno na 128 GB objedinjene memorije DGX Sparka za jezično-vizualne modele i razumijevanje slika i zašto GPUwerk još nije objavio zasebna mjerenja za VLM-ove.

ComfyUI i Stable Diffusion na DGX Sparku

Pokrenite ComfyUI, FLUX i SDXL na DGX Sparku: postavljanje na ARM64, prijavljena vremena po slici za svaki model, natjecanje s LLM-ovima za objedinjenu memoriju i termičke zamke.

Strukturirani izlaz i pozivanje funkcija na samostalno hostiranom LLM-u

Postavljanje strukturiranog izlaza u JSON načinu i pozivanja alata odnosno funkcija na samostalno hostiranim modelima s vLLM-om i llama.cpp, uključujući koji ih modeli podržavaju i kako otkloniti neispravne pozive.

Predmemoriranje upita radi smanjenja troška inferencije

Kako ponovna upotreba prefiksa i KV predmemorije smanjuje ponovljeno računanje na samostalno hostiranoj postavci: što se računa kao pogodak u predmemoriju, kako zato oblikovati upite i gdje se ušteda zapravo vidi na Sparku unajmljenom na sat.

Skupna obrada velikih poslova inferencije na unajmljenom Sparku

Pokrenite skupnu obradu dokumenata i označavanje skupova podataka na unajmljenom DGX Sparku: postavke propusnosti u vLLM-u, dimenzioniranje poslova u odnosu na satnu cijenu i checkpointi.

Procjena kvalitete modela prije prelaska na drugi model

Izdvojeni testni skupovi, A/B pristupi i provjere regresije za usporedbu kandidata s vašim trenutačnim modelom prije prelaska u produkciju.

Kako GPUwerk mjeri performanse DGX Sparka

Što GPUwerk mjeri na DGX Sparku: jedan tok naspram istodobnosti, koji pogoni i postavke te zašto se objavljuju neobrađeni zapisi, a ne samo sažetak.

DGX Spark i dugi kontekst: tok/s od 4k do 100k, studeni 2026.

Performanse DGX Sparka pri dugom kontekstu, studeni 2026.: dekodiranje na 4k, 50k i 100k za šest modela, oko 76 s za pripremu 100k tokena i veličine KV predmemorije na 128k.

Docker i NGC spremnici na DGX Sparku: arm64, GPU, compose

Vodič za Docker na DGX Sparku, studeni 2026.: Docker 29.6.2 i Container Toolkit 1.20 unaprijed instalirani, koje NGC slike imaju arm64 izdanja i compose datoteka za vLLM.

LM Studio na DGX Sparku: Linux ARM64, llmster, brzina (2026.)

LM Studio na DGX Sparku, studeni 2026.: izdanje za Linux ARM64 s llama.cpp pogonom za CUDA 13 od listopada 2025., postavljanje llamstera bez monitora i brzina u odnosu na llama.cpp.

NVIDIA AI Workbench i JupyterLab na DGX Sparku

NVIDIA AI Workbench na DGX Sparku, studeni 2026.: izdanje 2026.06.5, arm64 osnovne slike s CUDA 13.1, JupyterLab u DGX Dashboardu i obični JupyterLab 4.6.6.

NIM na DGX Sparku: koji NIM-ovi rade na GB10, licenca, postavljanje

NVIDIA NIM na DGX Sparku, studeni 2026.: oko 20 NIM-ova navodi podršku za GB10, besplatno za razvoj na najviše 16 GPU-ova, a za produkciju je potrebna licenca AI Enterprise.

Ollama na DGX Sparku: postavljanje, postavke i tok/s

Ollama na DGX Sparku, studeni 2026.: instalacija za arm64, šest postavki koje su važne, 42 tok/s na gpt-oss-120b naspram 59 za llama.cpp i sigurno izlaganje API-ja.

PyTorch na DGX Sparku: CUDA 13 aarch64 wheelovi

PyTorch na DGX Sparku, studeni 2026.: torch 2.15.0 cu132 ili 2.14.1 cu130 aarch64 wheelovi, lažno upozorenje o sm_121, NGC 26.10 te stanje flash-attna i xformersa.

SGLang na DGX Sparku: instalacija, zastavice i tok/s

SGLang na DGX Sparku, studeni 2026.: arm64 slika v0.5.23 i pip wheelovi, --mem-fraction-static 0.80 na GB10 te 52 naspram 36 tok/s u odnosu na vLLM na gpt-oss-120b.

Whisper i Parakeet na DGX Sparku: govor u tekst, stud. 2026.

Pretvaranje govora u tekst na DGX Sparku, studeni 2026.: Parakeet TDT 0,6B v3 pri 283x stvarnog vremena na GB10, Whisper large-v3 pri 19 do 25x, uz WER s ljestvice Open ASR Leaderboard.

TensorRT-LLM na DGX Sparku: trtllm-serve, NVFP4, tok/s (2026.)

TensorRT-LLM na DGX Sparku, studeni 2026.: NVIDIA-in spremnik 1.3.0rc13, trtllm-serve s NVFP4, 38,65 tok/s na Llami 3.1 8B i kada se takva postavka isplati.

Generiranje videa na DGX Sparku: sekunde po isječku, studeni 2026.

Generiranje videa na DGX Sparku, studeni 2026.: petosekundni isječci LTX-2.5 za oko 70 s, Wan 2.2 5B 720p za 14 min i zašto je RTX 5090 2,4 do 5,5x brži.

Performanse i mjerenja

Izmjerena i prijavljena brzina: korisnika po Sparku, propusnost memorije, procesor, računanje, formati kvantizacije i kako se svaki GB10 stroj drži pod opterećenjem.

Klasteri i skaliranje

Dva Sparka, flota, više modela na jednom stroju i dijeljenje s timom.

DGX Spark klaster: dva Sparka, postavljanje, granice i tok/s

Dva DGX Sparka daju 256 GB i, uz tenzorski paralelizam, brže dekodiranje: izmjerenih 1,75× na Qwen3-32B, prijavljeno do otprilike 1,8×. Dijelovi kabela, nazivi priključaka, postavljanje i modeli kojima trebaju dva Sparka.

Prelazak s jednog DGX Sparka na flotu

Kada se isplati unajmiti više pojedinačnih Sparkova umjesto klastera od dva čvora, kako rasporediti opterećenje na neovisne čvorove i koji kompromisi u radu dolaze uz malu flotu.

Upravljanje GPU memorijom za više modela na jednom Sparku

Rasporedite 128 GB objedinjene memorije na nekoliko modela ili spremnika na jednom DGX Sparku i znajte kada umjesto toga prijeći na klaster od dva čvora ili drugi čvor.

Praćenje iskorištenosti GPU-a i ispravno dimenzioniranje postavke

Kako očitati stvarnu iskorištenost GPU-a i memorije na unajmljenom DGX Sparku i prema tome odlučiti hoćete li ostati na istome, prijeći na klaster s dva čvora ili se proširiti na flotu.

Pokretanje više spremnika i usluga na DGX Sparku

Obrasci Docker spremnika za jedan DGX Spark: kada je obična docker-compose datoteka dovoljna, a kada ga je radno opterećenje preraslo.

Ažuriranje ili zamjena modela bez prekida rada

DGX Spark je jedan stroj, pa za prava ažuriranja modela bez prekida treba drugi Spark na koji se prebacuje. Evo što takva konfiguracija uključuje te iskrena alternativa ako prihvatite kratko razdoblje ponovnog pokretanja.

Timski pristup i pristup više korisnika zajedničkom DGX Sparku

Obrasci za dijeljenje jednog unajmljenog DGX Sparka unutar tima: odvojeni Linux korisnici s vlastitim SSH ključevima ili posrednik ispred kako većini ljudi ljuska uopće ne bi trebala.

DGX Spark klaster s 4 ili 8 čvorova: preklopnik, postavljanje, tok/s

DGX Spark klasteri s 4 i 8 čvorova: NVIDIA ih podržava od 22. listopada 2026., preklopnik i kabeli, postavljanje NCCL-a, prijavljenih 52,6 tok/s pri 8 čvorova i trošak naspram 8x B200.

Kimi K3 i DeepSeek V4 na DGX Spark klasterima: 1 do 8 čvorova

Koliko DGX Sparkova trebaju Kimi K3, DeepSeek V4, GLM-5.3 i MiniMax M3? Memorijski izračun za 1 do 8 čvorova i prijavljene brzine do 132 tok/s na 4 Sparka.

Rad i održavanje

Nadzor, sigurnosne kopije, sigurnost i kontrola pristupa za samostalno hostiranu postavku.

Nadzor i uvid u rad samostalno hostiranog LLM-a

Što pratiti na jednom DGX Sparku koji pokreće LLM i koji alati otvorenog koda to rade, od nvidia-smi do stacka s Prometheusom i Grafanom. GPUwerk pruža pristup konzoli i API-ju, a ne proizvod za nadzor.

Sigurnosne kopije i oporavak od katastrofe za vaše radno opterećenje na DGX Sparku

GPUwerk ne čuva kopiju radnog prostora unajmljenog DGX Sparka. Što sigurnosno kopirati, kamo to poslati i koliko često sinkronizirati.

Testiranje plana oporavka od katastrofe za samostalno hostirani LLM

Sigurnosna kopija iz koje niste vratili podatke samo je hipoteza. Vježbe vraćanja, simulacije ispada i mjerenje RTO/RPO za samostalno hostiran LLM na unajmljenom GPU hardveru.

Pooštravanje sigurnosti unajmljene GPU instance

Praktično pooštravanje sigurnosti unutar instance na unajmljenom GPU-u: upravljanje SSH ključevima, izloženost mreži, pokretanje usluga bez roota, tajne te privremeno naspram trajnog stanja.

Najbolje prakse za rotaciju API ključeva u privatnoj implementaciji LLM-a

Rotacija API ključeva i vjerodajnica za samostalno hostiranu krajnju točku za inferenciju: određivanje opsega, rasporedi rotacije, opoziv te što automatizirati, a što raditi ručno.

Ograničavanje brzine i kvote za internu LLM postavku

Goli DGX Spark nema ograničenje broja zahtjeva po korisniku. Dodajte ga sami s LiteLLM-ovim ograničenjima rpm/tpm i budžetima po ključu ili s obrnutim proxyjem ispred.

Revizijsko bilježenje za samostalno hostiranu implementaciju LLM-a osjetljivu na usklađenost

Postavite zapise za reviziju zahtjeva i odgovora u vlastitom spremniku na unajmljenom DGX Sparku: što bilježiti, gdje to pohraniti i gdje prestaje GPUwerkov posao.

Postavljanje jedinstvene prijave i kontrole pristupa za timsku LLM postavku

Postavljanje sloja za autentifikaciju ispred samostalno hostirane krajnje točke za inferenciju kako bi se tim prijavljivao postojećim identitetima umjesto da dijeli SSH ključeve ili API tokene.

Strategija verzioniranja modela i vraćanja na prethodnu verziju za samostalno hostiranu postavku

Praćenje toga koje su težine i konfiguracije modela zapravo u radu i uredno vraćanje na prethodnu verziju kad nova zaostaje, na samostalno hostiranoj postavci na DGX Sparku.

Kako se Spark drži u odnosu na druge strojeve, pogledajte usporedbe. Za sam hardver pogledajte stranicu sa specifikacijama.

Prva nadoplata: platite 20 USD, dobijete 30 USD kredita

Isprobajte vodič na stvarnom Sparku za 0,79 USD na sat.

Unajmite namjenski DGX Spark u Europi, Sjevernoj Americi ili Istočnoj Aziji i pratite korake. Naplata po minuti iz unaprijed plaćenog kredita.

Izradite korisnički račun Pogledajte cijene