DGX Spark/Návody
Návody

Návody k DGX Sparku

Samuel Seidel · Aktualizované 7. novembra 2026

Šesťdesiatpäť návodov na kúpu, prevádzku a správu DGX Spark od GPUwerk, ktorý ich prenajíma. Sú zoskupené do piatich sekcií: kúpa a prevádzka Sparku, modely a inferenčné enginy, výkon a benchmarky, klastre a škálovanie a prevádzka. Každá karta zobrazuje vlastné zhrnutie návodu.

Kúpa a prevádzka Sparku

Pred kúpou, potom napájanie, hluk, nastavenie, aktualizácie, úložisko a prevádzkové náklady.

Čo vedieť pred kúpou DGX Sparku

Úprimný sprievodca kúpou DGX Spark od firmy, ktorá ich prenajíma: skutočné benchmarky, strop priepustnosti 273 GB/s, reálne ceny v EÚ a kúpa vs prenájom.

Spotreba energie a prevádzkové náklady DGX Spark

Nameraný príkon DGX Sparku: 22-45 W v nečinnosti, 60-90 W pri inferencii LLM, asi 160-200 W pri plnej záťaži, pri zdroji 240 W. Mesačné náklady pri cenách elektriny v EÚ.

Hluk DGX Sparku: 29 dB pri plnej záťaži, 13 dB v nečinnosti

NVIDIA uvádza pre DGX Spark 35 dB LWA a 29 dB LpA pri maximálnej záťaži, 19 a 13 dB v nečinnosti (ECMA-109). Merania recenzentov, chladenie a umiestnenie.

Nastavenie DGX Sparku: od prvého spustenia po spustený model za jeden večer

Rýchly štart s DGX Sparkom od človeka, ktorý ich denne montuje do rackov: prvé spustenie DGX OS, SSH len s kľúčom, výber inferenčného stacku a sprístupnenie prvého modelu vašim nástrojom za jeden večer.

Aktualizácie ovládačov a firmvéru DGX Spark: čo spravuje GPUwerk

Čo GPUwerk na prenajatom DGX Sparku udržiava aktuálne na úrovni hostiteľa a uzla a čo je vo vašom vlastnom root kontajneri a zostáva úplne vo vašej zodpovednosti.

Úložisko DGX Sparku: čo pretrvá a čo zálohovať

1 TB NVMe na prenajatom DGX Sparku, presne čo prežije zastavenie a čo ukončenie, a prečo je vlastná záloha dôležitá, keďže GPUwerk žiadnu neuchováva.

Studený štart vs nepretržitý chod: výber režimu dostupnosti inštancie

Zastavovanie DGX Sparku medzi použitiami vs nepretržitý chod: kompromisy v nákladoch, latencii a dátach a ako rozhodnúť, ktorý režim zodpovedá skutočnému využitiu.

Migrácia existujúceho vlastného nasadenia AI na DGX Sparku

Praktický postup migrácie z pracovnej stanice alebo iného cloudového GPU na prenajatý DGX Spark: nová kvantizácia pre zjednotenú pamäť, presun dát a plán prepnutia.

Prognóza nákladov a rozpočtovanie AI infraštruktúry

Ako odhadnúť mesačné výdavky na AI infraštruktúru pri vlastnom hostingu vs API s meraním, so sadzbou GPUwerk 0,79 $/hod. ako vypočítaným príkladom a kontrolným zoznamom pre rozpočet.

Celkové náklady na vlastníctvo: prenájom GPU vs cloudové AI API

Cloudové AI API účtované po tokenoch, prenajatý vyhradený DGX Spark za 0,79 $/hod. a kúpa vlastného hardvéru, porovnané len s údajmi zverejnenými na tomto webe.

DGX Spark 64GB vs 128GB: rýchlosť, cena, čo sa zmestí

DGX Spark 64GB vs 128GB, november 2026: rovnaký GB10 a 273 GB/s, 4 999 $ vs 6 950 $, asi 54 GiB využiteľných. Tabuľka pre 8 modelov s kontextom a kto ho predáva.

Nastavenie DGX Sparku bez monitora

Nastavenie DGX Sparku bez monitora: postup cez Wi-Fi hotspot, nájdenie spark-xxxx.local, Wi-Fi Assistant z októbra 2026, 512 MB rezerva pre displej a cloud-init pre viac kusov.

Úložisko DGX Sparku: 1 TB vs 4 TB a kde držať modely

Úložisko DGX Sparku 1 TB vs 4 TB: koľko zo 14 aktuálnych modelov sa zmestí (gpt-oss-120b má 65,3 GB), jedna zdieľaná cache Hugging Face, rýchlosť hf_xet, možnosti USB-C a NFS.

Obnova DGX Sparku a preinštalovanie DGX OS

Obnova DGX Sparku: oprava neúspešnej aktualizácie bez vymazania, záloha z live USB, preinštalovanie s obrazom obnovy 1.155.49 (5,9 GB), obrazy OEM a kedy ísť na RMA.

Softvérové aktualizácie DGX Spark: história vydaní do októbra 2026

Softvérové aktualizácie DGX Spark od uvedenia po vydanie z októbra 2026: DGX OS 7.6.0, Linux 7.0, ovládač 580.178.04, známe problémy a ako bezpečne aktualizovať.

DGX Spark: NVIDIA Sync a vzdialený prístup

Vzdialený prístup k DGX Sparku cez NVIDIA Sync 0.148.0-153: čo inštaluje, DGX Dashboard na porte 11000, Tailscale, obyčajná konfigurácia SSH a bezpečné sprístupnenie API.

Modely a inferenčné enginy

Ktoré modely spúšťať, ktorým enginom ich spúšťať a ako merať výsledok.

Najlepšie modely pre DGX Spark, vydanie október 2026

Najlepšie modely pre DGX Spark, október 2026: Qwen3.6-35B-A3B NVFP4 s 86,3 tok/s na jednom Sparku, DeepSeek-V4-Flash asi 44 tok/s na dvoch. Tabuľky so zdrojmi.

llama.cpp vs vLLM vs SGLang na DGX Sparku: tok/s a prepínače

vLLM 60,7 vs Ollama 42,1 tok/s pri gpt-oss-120b na jednom DGX Sparku a 116 až 153 vs 42,5 pri 8 používateľoch. Ktorý engine pre jedného používateľa, tím alebo dva Sparky, plus presné prepínače.

Ako spustiť novo vydaný model na DGX Sparku (GB10)

Spustite nový model s otvorenými váhami na DGX Sparku v týždni vydania: zmestenie do pamäte, obrazy pre arm64, NVFP4 alebo GGUF, vLLM, SGLang alebo llama.cpp a kedy potrebuje dva Sparky.

Spustenie Qwen3 cez vLLM na DGX Sparku

Nainštalujte vLLM, sprístupnite Qwen3-32B-AWQ cez API kompatibilné s OpenAI, pripojte Open WebUI a udržujte ho v chode pomocou systemd: návod krok za krokom pre DGX Spark.

Kvantizované modely vs modely v plnej presnosti v produkcii

Ako sa pri vlastnom produkčnom nasadení rozhodnúť medzi kvantizovaným modelom a modelom v plnej presnosti: zmestenie do pamäte, riziko pre kvalitu podľa úlohy a kedy otestovať oba.

Fine-tuning modelu na dátach vašej firmy bez toho, aby dáta opustili budovu

Fine-tuning otvoreného LLM na firemných dátach bez toho, aby opustili budovu: tabuľky pamäte pre LoRA a QLoRA, vypočítaný príklad 32B a fine-tuning vs RAG.

Embeddingy a vektorové vyhľadávanie na DGX Sparku

Spúšťajte embedding model a vektorovú databázu vedľa generatívneho modelu na jednom DGX Sparku: rozpočet pamäte, prevádzka embedding modelu a výber vektorového úložiska.

Vizuálne a multimodálne modely na DGX Sparku

Čo je realistické na 128 GB zjednotenej pamäte DGX Sparku pre vizuálno-jazykové modely a porozumenie obrázkom a prečo GPUwerk zatiaľ nezverejnil samostatné benchmarky VLM.

ComfyUI a Stable Diffusion na DGX Sparku

Spúšťajte ComfyUI, FLUX a SDXL na DGX Sparku: nastavenie na ARM64, uvádzané časy generovania podľa modelu, súperenie o zjednotenú pamäť s LLM a tepelné výhrady.

Štruktúrovaný výstup a volanie funkcií na vlastnom LLM

Nastavenie štruktúrovaného výstupu v režime JSON a volania nástrojov/funkcií na vlastných modeloch s vLLM a llama.cpp, vrátane toho, ktoré modely to podporujú a ako ladiť chybné volania.

Cache promptov na zníženie nákladov na inferenciu

Ako opätovné použitie prefixovej a KV cache znižuje opakované výpočty pri vlastnom nasadení: čo sa kvalifikuje na zásah cache, ako na to štruktúrovať prompty a kde sa úspory na Sparku prenajímanom po hodinách naozaj prejavia.

Dávkové spracovanie veľkých inferenčných úloh na prenajatom Sparku

Hromadné spracovanie dokumentov a označovanie datasetov na prenajatom DGX Sparku: nastavenia priepustnosti vLLM, dimenzovanie úloh podľa hodinovej sadzby a checkpointing.

Hodnotenie kvality modelu pred zmenou modelu

Odložené testovacie sady, A/B prístupy a regresné kontroly na porovnanie kandidátskeho modelu so súčasným pred zmenou v produkcii.

Ako GPUwerk testuje výkon DGX Sparku

Čo GPUwerk na DGX Sparku meria: jeden stream verzus súbežnosť, ktoré enginy a nastavenia a prečo sa zverejňujú surové logy, nielen súhrn.

DGX Spark s dlhým kontextom: tok/s pri 4k až 100k, november 2026

Výkon DGX Sparku s dlhým kontextom, november 2026: dekódovanie pri 4k, 50k a 100k pre šesť modelov, asi 76 s na prefill 100k tokenov a veľkosti KV cache pri 128k.

DGX Spark, Docker a kontajnery NGC: arm64, GPU, compose

Návod k Dockeru na DGX Sparku, november 2026: predinštalovaný Docker 29.6.2 a Container Toolkit 1.20, ktoré obrazy NGC majú zostavenia pre arm64 a súbor compose pre vLLM.

LM Studio na DGX Sparku: Linux ARM64, llmster, rýchlosť (2026)

LM Studio na DGX Sparku, november 2026: zostavenie pre Linux ARM64 s enginom llama.cpp pre CUDA 13 od októbra 2025, nastavenie llmster bez rozhrania a rýchlosť vs llama.cpp.

NVIDIA AI Workbench a JupyterLab na DGX Sparku

NVIDIA AI Workbench na DGX Sparku, november 2026: vydanie 2026.06.5, základné obrazy pre arm64 s CUDA 13.1, JupyterLab v DGX Dashboard a obyčajný JupyterLab 4.6.6.

NIM na DGX Sparku: ktoré NIM bežia na GB10, licencia, nastavenie

NVIDIA NIM na DGX Sparku, november 2026: asi 20 NIM uvádza podporu GB10, zadarmo na vývoj až na 16 GPU, produkcia vyžaduje licenciu AI Enterprise.

Ollama na DGX Sparku: nastavenie, parametre a tok/s

Ollama na DGX Sparku, november 2026: inštalácia pre arm64, šesť dôležitých nastavení, 42 tok/s pri gpt-oss-120b oproti 59 pri llama.cpp a bezpečné sprístupnenie API.

PyTorch na DGX Sparku: balíčky wheel CUDA 13 pre aarch64

PyTorch na DGX Sparku, november 2026: balíčky wheel torch 2.15.0 cu132 alebo 2.14.1 cu130 pre aarch64, falošné varovanie sm_121, NGC 26.10, stav flash-attn a xformers.

SGLang na DGX Sparku: inštalácia, prepínače a tok/s

SGLang na DGX Sparku, november 2026: obraz v0.5.23 pre arm64 a balíčky wheel z pip, --mem-fraction-static 0.80 na GB10 a 52 vs 36 tok/s oproti vLLM pri gpt-oss-120b.

Whisper a Parakeet na DGX Sparku: prevod reči na text, nov 2026

Prevod reči na text na DGX Sparku, november 2026: Parakeet TDT 0.6B v3 pri 283-násobku reálneho času na GB10, Whisper large-v3 pri 19- až 25-násobku, s WER z Open ASR Leaderboard.

TensorRT-LLM na DGX Sparku: trtllm-serve, NVFP4, tok/s (2026)

TensorRT-LLM na DGX Sparku, november 2026: kontajner NVIDIA 1.3.0rc13, trtllm-serve s NVFP4, 38,65 tok/s pri Llama 3.1 8B a kedy sa nastavenie oplatí.

Generovanie videa na DGX Sparku: sekundy na klip, november 2026

Generovanie videa na DGX Sparku, november 2026: 5-sekundové klipy LTX-2.5 asi za 70 s, Wan 2.2 5B 720p za 14 min a prečo je RTX 5090 2,4- až 5,5-krát rýchlejšia.

Výkon a benchmarky

Namerané a uvádzané rýchlosti: používatelia na jeden Spark, priepustnosť pamäte, CPU, výpočtový výkon, formáty kvantizácie a ako jednotlivé stroje GB10 obstoja pod záťažou.

Klastre a škálovanie

Dva Sparky, flotila, viac modelov na jednom stroji a zdieľanie s tímom.

Klaster DGX Spark: dva Sparky, nastavenie, limity a tok/s

Dva DGX Spark dávajú 256 GB a s tenzorovým paralelizmom rýchlejšie dekódovanie: 1,75× namerané na Qwen3-32B, uvádzané až asi 1,8×. Káble, názvy portov, nastavenie, modely, ktoré potrebujú dva Sparky.

Škálovanie z jedného DGX Sparku na flotilu

Kedy sa viac samostatných Sparkov oplatí viac ako dvojuzlový klaster, ako rozložiť záťaž medzi nezávislé uzly a prevádzkové kompromisy malej flotily.

Správa pamäte GPU pre viacero modelov na jednom Sparku

Rozvrhnite 128 GB zjednotenej pamäte medzi viacero modelov alebo kontajnerov na jednom DGX Sparku a vedzte, kedy prejsť na dvojuzlový klaster alebo druhý uzol.

Monitorovanie vyťaženia GPU a správne dimenzovanie nasadenia

Ako na prenajatom DGX Sparku zistiť skutočné vyťaženie GPU a pamäte a podľa toho sa rozhodnúť, či zostať, škálovať na dvojuzlový klaster, alebo do šírky na flotilu.

Viacero kontajnerov a služieb na DGX Sparku

Vzory kontajnerov Docker pre jeden DGX Spark: kedy stačí obyčajný súbor docker-compose a kedy už záťaž z neho vyrástla.

Aktualizácia alebo výmena modelov bez výpadku

DGX Spark je jeden stroj, takže skutočne bezvýpadkové aktualizácie modelu potrebujú druhý Spark, na ktorý sa dá prepnúť. Tu je, čo takéto nastavenie obnáša, a poctivá alternatíva, ak prijmete krátke okno na reštart.

Prístup pre tím a viacerých používateľov k zdieľanému DGX Sparku

Vzory na zdieľanie jedného prenajatého DGX Sparku v tíme: samostatní používatelia Linuxu s vlastnými SSH kľúčmi alebo brána pred ním, aby väčšina ľudí shell nikdy nepotrebovala.

Klaster DGX Spark so 4 alebo 8 uzlami: switch, nastavenie, tok/s

Klastre DGX Spark so 4 a 8 uzlami: podpora NVIDIA od 22. 10. 2026, switch a káble, nastavenie NCCL, 52,6 tok/s pri 8 uzloch a cena vs 8x B200.

Kimi K3 a DeepSeek V4 na klastroch DGX Sparkov: 1 až 8 uzlov

Koľko DGX Spark potrebujú Kimi K3, DeepSeek V4, GLM-5.3 a MiniMax M3? Výpočet pamäte pre 1 až 8 uzlov a uvádzané rýchlosti až 132 tok/s na 4 Sparkoch.

Prevádzka

Monitorovanie, zálohy, bezpečnosť a riadenie prístupu pre vlastné nasadenie.

Monitorovanie a pozorovateľnosť pre vlastný LLM

Čo sledovať na jednom DGX Sparku s LLM a ktoré open-source nástroje na to stačia, od nvidia-smi po stack Prometheus a Grafana. GPUwerk poskytuje prístup cez konzolu a API, nie monitorovací produkt.

Zálohovanie a obnova po havárii pre vašu záťaž na DGX Sparku

GPUwerk neuchováva kópiu pracovného priestoru prenajatého DGX Sparku. Čo zálohovať, kam to posielať a ako často synchronizovať.

Testovanie plánu obnovy po havárii pre vlastný LLM

Záloha, z ktorej ste nikdy neobnovovali, je len hypotéza. Cvičenia obnovy, game days a meranie RTO/RPO pre vlastný LLM na prenajatom GPU hardvéri.

Zabezpečenie prenajatej inštancie s GPU

Praktické zabezpečenie prenajatého GPU zvnútra inštancie: správa SSH kľúčov, vystavenie do siete, prevádzka služieb bez root, tajné údaje a dočasný vs trvalý stav.

Osvedčené postupy rotácie API kľúčov pre súkromné nasadenie LLM

Rotácia API kľúčov a prístupových údajov pre vlastný inferenčný endpoint: rozsah oprávnení, harmonogramy rotácie, odvolanie a čo automatizovať a čo robiť ručne.

Obmedzenie počtu požiadaviek a kvóty pre interné nasadenie LLM

Holý DGX Spark nemá obmedzenie počtu požiadaviek na používateľa. Pridajte si ho sami pomocou limitov rpm/tpm a rozpočtov na kľúč v LiteLLM, alebo reverzným proxy pred ním.

Auditné logovanie pre nasadenie LLM na vlastnej infraštruktúre citlivé na súlad s predpismi

Nastavte auditné logy požiadaviek a odpovedí vo vlastnom kontajneri na prenajatom DGX Sparku: čo zaznamenávať, kde to ukladať a kde končí úloha GPUwerk.

Nastavenie SSO a riadenia prístupu pre tímové nasadenie LLM

Vrstva autentifikácie pred vlastným inferenčným endpointom, aby sa tím prihlasoval existujúcimi identitami namiesto zdieľania SSH kľúčov alebo API tokenov.

Stratégia verzovania modelov a návratu k predošlej verzii pre vlastné nasadenie

Sledovanie toho, ktoré váhy modelov a konfigurácie skutočne bežia, a čistý návrat, keď nová verzia zaostáva, pri vlastnom nasadení na DGX Sparku.

Ako sa Spark porovnáva s inými strojmi, nájdete v porovnaniach. O samotnom hardvéri je stránka s parametrami.

Prvé dobitie: zaplatíte 20 $, dostanete 30 $ kreditu

Vyskúšajte návod na skutočnom Sparku za 0,79 $/hod.

Prenajmite si vyhradený DGX Spark v Európe, Severnej Amerike alebo východnej Ázii a postupujte spolu s návodom. Účtované po minútach z predplateného kreditu.

Vytvoriť účet Pozrieť ceny