Návody k DGX Sparku
Šesťdesiatpäť návodov na kúpu, prevádzku a správu DGX Spark od GPUwerk, ktorý ich prenajíma. Sú zoskupené do piatich sekcií: kúpa a prevádzka Sparku, modely a inferenčné enginy, výkon a benchmarky, klastre a škálovanie a prevádzka. Každá karta zobrazuje vlastné zhrnutie návodu.
Kúpa a prevádzka Sparku
Pred kúpou, potom napájanie, hluk, nastavenie, aktualizácie, úložisko a prevádzkové náklady.
Čo vedieť pred kúpou DGX Sparku
Úprimný sprievodca kúpou DGX Spark od firmy, ktorá ich prenajíma: skutočné benchmarky, strop priepustnosti 273 GB/s, reálne ceny v EÚ a kúpa vs prenájom.
Spotreba energie a prevádzkové náklady DGX Spark
Nameraný príkon DGX Sparku: 22-45 W v nečinnosti, 60-90 W pri inferencii LLM, asi 160-200 W pri plnej záťaži, pri zdroji 240 W. Mesačné náklady pri cenách elektriny v EÚ.
Hluk DGX Sparku: 29 dB pri plnej záťaži, 13 dB v nečinnosti
NVIDIA uvádza pre DGX Spark 35 dB LWA a 29 dB LpA pri maximálnej záťaži, 19 a 13 dB v nečinnosti (ECMA-109). Merania recenzentov, chladenie a umiestnenie.
Nastavenie DGX Sparku: od prvého spustenia po spustený model za jeden večer
Rýchly štart s DGX Sparkom od človeka, ktorý ich denne montuje do rackov: prvé spustenie DGX OS, SSH len s kľúčom, výber inferenčného stacku a sprístupnenie prvého modelu vašim nástrojom za jeden večer.
Aktualizácie ovládačov a firmvéru DGX Spark: čo spravuje GPUwerk
Čo GPUwerk na prenajatom DGX Sparku udržiava aktuálne na úrovni hostiteľa a uzla a čo je vo vašom vlastnom root kontajneri a zostáva úplne vo vašej zodpovednosti.
Úložisko DGX Sparku: čo pretrvá a čo zálohovať
1 TB NVMe na prenajatom DGX Sparku, presne čo prežije zastavenie a čo ukončenie, a prečo je vlastná záloha dôležitá, keďže GPUwerk žiadnu neuchováva.
Studený štart vs nepretržitý chod: výber režimu dostupnosti inštancie
Zastavovanie DGX Sparku medzi použitiami vs nepretržitý chod: kompromisy v nákladoch, latencii a dátach a ako rozhodnúť, ktorý režim zodpovedá skutočnému využitiu.
Migrácia existujúceho vlastného nasadenia AI na DGX Sparku
Praktický postup migrácie z pracovnej stanice alebo iného cloudového GPU na prenajatý DGX Spark: nová kvantizácia pre zjednotenú pamäť, presun dát a plán prepnutia.
Prognóza nákladov a rozpočtovanie AI infraštruktúry
Ako odhadnúť mesačné výdavky na AI infraštruktúru pri vlastnom hostingu vs API s meraním, so sadzbou GPUwerk 0,79 $/hod. ako vypočítaným príkladom a kontrolným zoznamom pre rozpočet.
Celkové náklady na vlastníctvo: prenájom GPU vs cloudové AI API
Cloudové AI API účtované po tokenoch, prenajatý vyhradený DGX Spark za 0,79 $/hod. a kúpa vlastného hardvéru, porovnané len s údajmi zverejnenými na tomto webe.
DGX Spark 64GB vs 128GB: rýchlosť, cena, čo sa zmestí
DGX Spark 64GB vs 128GB, november 2026: rovnaký GB10 a 273 GB/s, 4 999 $ vs 6 950 $, asi 54 GiB využiteľných. Tabuľka pre 8 modelov s kontextom a kto ho predáva.
Nastavenie DGX Sparku bez monitora
Nastavenie DGX Sparku bez monitora: postup cez Wi-Fi hotspot, nájdenie spark-xxxx.local, Wi-Fi Assistant z októbra 2026, 512 MB rezerva pre displej a cloud-init pre viac kusov.
Úložisko DGX Sparku: 1 TB vs 4 TB a kde držať modely
Úložisko DGX Sparku 1 TB vs 4 TB: koľko zo 14 aktuálnych modelov sa zmestí (gpt-oss-120b má 65,3 GB), jedna zdieľaná cache Hugging Face, rýchlosť hf_xet, možnosti USB-C a NFS.
Obnova DGX Sparku a preinštalovanie DGX OS
Obnova DGX Sparku: oprava neúspešnej aktualizácie bez vymazania, záloha z live USB, preinštalovanie s obrazom obnovy 1.155.49 (5,9 GB), obrazy OEM a kedy ísť na RMA.
Softvérové aktualizácie DGX Spark: história vydaní do októbra 2026
Softvérové aktualizácie DGX Spark od uvedenia po vydanie z októbra 2026: DGX OS 7.6.0, Linux 7.0, ovládač 580.178.04, známe problémy a ako bezpečne aktualizovať.
DGX Spark: NVIDIA Sync a vzdialený prístup
Vzdialený prístup k DGX Sparku cez NVIDIA Sync 0.148.0-153: čo inštaluje, DGX Dashboard na porte 11000, Tailscale, obyčajná konfigurácia SSH a bezpečné sprístupnenie API.
Modely a inferenčné enginy
Ktoré modely spúšťať, ktorým enginom ich spúšťať a ako merať výsledok.
Najlepšie modely pre DGX Spark, vydanie október 2026
Najlepšie modely pre DGX Spark, október 2026: Qwen3.6-35B-A3B NVFP4 s 86,3 tok/s na jednom Sparku, DeepSeek-V4-Flash asi 44 tok/s na dvoch. Tabuľky so zdrojmi.
llama.cpp vs vLLM vs SGLang na DGX Sparku: tok/s a prepínače
vLLM 60,7 vs Ollama 42,1 tok/s pri gpt-oss-120b na jednom DGX Sparku a 116 až 153 vs 42,5 pri 8 používateľoch. Ktorý engine pre jedného používateľa, tím alebo dva Sparky, plus presné prepínače.
Ako spustiť novo vydaný model na DGX Sparku (GB10)
Spustite nový model s otvorenými váhami na DGX Sparku v týždni vydania: zmestenie do pamäte, obrazy pre arm64, NVFP4 alebo GGUF, vLLM, SGLang alebo llama.cpp a kedy potrebuje dva Sparky.
Spustenie Qwen3 cez vLLM na DGX Sparku
Nainštalujte vLLM, sprístupnite Qwen3-32B-AWQ cez API kompatibilné s OpenAI, pripojte Open WebUI a udržujte ho v chode pomocou systemd: návod krok za krokom pre DGX Spark.
Kvantizované modely vs modely v plnej presnosti v produkcii
Ako sa pri vlastnom produkčnom nasadení rozhodnúť medzi kvantizovaným modelom a modelom v plnej presnosti: zmestenie do pamäte, riziko pre kvalitu podľa úlohy a kedy otestovať oba.
Fine-tuning modelu na dátach vašej firmy bez toho, aby dáta opustili budovu
Fine-tuning otvoreného LLM na firemných dátach bez toho, aby opustili budovu: tabuľky pamäte pre LoRA a QLoRA, vypočítaný príklad 32B a fine-tuning vs RAG.
Embeddingy a vektorové vyhľadávanie na DGX Sparku
Spúšťajte embedding model a vektorovú databázu vedľa generatívneho modelu na jednom DGX Sparku: rozpočet pamäte, prevádzka embedding modelu a výber vektorového úložiska.
Vizuálne a multimodálne modely na DGX Sparku
Čo je realistické na 128 GB zjednotenej pamäte DGX Sparku pre vizuálno-jazykové modely a porozumenie obrázkom a prečo GPUwerk zatiaľ nezverejnil samostatné benchmarky VLM.
ComfyUI a Stable Diffusion na DGX Sparku
Spúšťajte ComfyUI, FLUX a SDXL na DGX Sparku: nastavenie na ARM64, uvádzané časy generovania podľa modelu, súperenie o zjednotenú pamäť s LLM a tepelné výhrady.
Štruktúrovaný výstup a volanie funkcií na vlastnom LLM
Nastavenie štruktúrovaného výstupu v režime JSON a volania nástrojov/funkcií na vlastných modeloch s vLLM a llama.cpp, vrátane toho, ktoré modely to podporujú a ako ladiť chybné volania.
Cache promptov na zníženie nákladov na inferenciu
Ako opätovné použitie prefixovej a KV cache znižuje opakované výpočty pri vlastnom nasadení: čo sa kvalifikuje na zásah cache, ako na to štruktúrovať prompty a kde sa úspory na Sparku prenajímanom po hodinách naozaj prejavia.
Dávkové spracovanie veľkých inferenčných úloh na prenajatom Sparku
Hromadné spracovanie dokumentov a označovanie datasetov na prenajatom DGX Sparku: nastavenia priepustnosti vLLM, dimenzovanie úloh podľa hodinovej sadzby a checkpointing.
Hodnotenie kvality modelu pred zmenou modelu
Odložené testovacie sady, A/B prístupy a regresné kontroly na porovnanie kandidátskeho modelu so súčasným pred zmenou v produkcii.
Ako GPUwerk testuje výkon DGX Sparku
Čo GPUwerk na DGX Sparku meria: jeden stream verzus súbežnosť, ktoré enginy a nastavenia a prečo sa zverejňujú surové logy, nielen súhrn.
DGX Spark s dlhým kontextom: tok/s pri 4k až 100k, november 2026
Výkon DGX Sparku s dlhým kontextom, november 2026: dekódovanie pri 4k, 50k a 100k pre šesť modelov, asi 76 s na prefill 100k tokenov a veľkosti KV cache pri 128k.
DGX Spark, Docker a kontajnery NGC: arm64, GPU, compose
Návod k Dockeru na DGX Sparku, november 2026: predinštalovaný Docker 29.6.2 a Container Toolkit 1.20, ktoré obrazy NGC majú zostavenia pre arm64 a súbor compose pre vLLM.
LM Studio na DGX Sparku: Linux ARM64, llmster, rýchlosť (2026)
LM Studio na DGX Sparku, november 2026: zostavenie pre Linux ARM64 s enginom llama.cpp pre CUDA 13 od októbra 2025, nastavenie llmster bez rozhrania a rýchlosť vs llama.cpp.
NVIDIA AI Workbench a JupyterLab na DGX Sparku
NVIDIA AI Workbench na DGX Sparku, november 2026: vydanie 2026.06.5, základné obrazy pre arm64 s CUDA 13.1, JupyterLab v DGX Dashboard a obyčajný JupyterLab 4.6.6.
NIM na DGX Sparku: ktoré NIM bežia na GB10, licencia, nastavenie
NVIDIA NIM na DGX Sparku, november 2026: asi 20 NIM uvádza podporu GB10, zadarmo na vývoj až na 16 GPU, produkcia vyžaduje licenciu AI Enterprise.
Ollama na DGX Sparku: nastavenie, parametre a tok/s
Ollama na DGX Sparku, november 2026: inštalácia pre arm64, šesť dôležitých nastavení, 42 tok/s pri gpt-oss-120b oproti 59 pri llama.cpp a bezpečné sprístupnenie API.
PyTorch na DGX Sparku: balíčky wheel CUDA 13 pre aarch64
PyTorch na DGX Sparku, november 2026: balíčky wheel torch 2.15.0 cu132 alebo 2.14.1 cu130 pre aarch64, falošné varovanie sm_121, NGC 26.10, stav flash-attn a xformers.
SGLang na DGX Sparku: inštalácia, prepínače a tok/s
SGLang na DGX Sparku, november 2026: obraz v0.5.23 pre arm64 a balíčky wheel z pip, --mem-fraction-static 0.80 na GB10 a 52 vs 36 tok/s oproti vLLM pri gpt-oss-120b.
Whisper a Parakeet na DGX Sparku: prevod reči na text, nov 2026
Prevod reči na text na DGX Sparku, november 2026: Parakeet TDT 0.6B v3 pri 283-násobku reálneho času na GB10, Whisper large-v3 pri 19- až 25-násobku, s WER z Open ASR Leaderboard.
TensorRT-LLM na DGX Sparku: trtllm-serve, NVFP4, tok/s (2026)
TensorRT-LLM na DGX Sparku, november 2026: kontajner NVIDIA 1.3.0rc13, trtllm-serve s NVFP4, 38,65 tok/s pri Llama 3.1 8B a kedy sa nastavenie oplatí.
Generovanie videa na DGX Sparku: sekundy na klip, november 2026
Generovanie videa na DGX Sparku, november 2026: 5-sekundové klipy LTX-2.5 asi za 70 s, Wan 2.2 5B 720p za 14 min a prečo je RTX 5090 2,4- až 5,5-krát rýchlejšia.
Výkon a benchmarky
Namerané a uvádzané rýchlosti: používatelia na jeden Spark, priepustnosť pamäte, CPU, výpočtový výkon, formáty kvantizácie a ako jednotlivé stroje GB10 obstoja pod záťažou.
Koľko používateľov obslúži DGX Spark? Dáta o súbežnosti
Koľko používateľov obslúži jeden DGX Spark, november 2026: tok/s na používateľa pri 1 až 256 požiadavkách, asi 52 chatových streamov pri 15 tok/s na MoE s 3B aktívnymi a dimenzovanie pre tímy.
Výkon CPU DGX Spark: benchmarky GB10 vs x86 a M5
Výkon CPU DGX Spark, november 2026: GB10 dosahuje 3 123 single a 19 708 multi v Geekbench 6 a 675 GFLOPS v HPL, v porovnaní s Ryzen AI Max+ 395 a M5 Max.
Nameraná priepustnosť pamäte DGX Sparku: 273 GB/s vs realita
Nameraná priepustnosť pamäte DGX Sparku, november 2026: 234 až 247 GB/s v clpeak, 200 až 213 GB/s STREAM triad, 38 GB/s na jadro CPU a dekódovanie na 73 až 87 %.
Rýchlosť kvantizácií na DGX Sparku: NVFP4 vs FP8 vs AWQ vs GGUF
Najrýchlejšia kvantizácia na DGX Sparku, november 2026: jeden model pri 31 tok/s v BF16, 50 až 55 v FP8, 65 až 66 v NVFP4, 81 v AWQ a kedy NVFP4 zaostáva.
Namerané TFLOPS DGX Spark: 1 PFLOP FP4 vs skutočný matmul
Namerané TFLOPS DGX Spark, november 2026: 973 až 1 022 sparse FP4 v mikrobenchmarku, 356 v CUTLASS GEMM, 77 až 99 BF16 trvalo a čo využíva prefill.
Tepelné škrtenie GB10: trvalá rýchlosť podľa OEM (2026)
Tepelné škrtenie GB10 podľa výrobcu: päť OEM strojov zostalo pri prefille vLLM v rozmedzí 2,6 %, kým špičkové teploty CPU boli 74,7 až 90 °C. Skutočným rizikom je firmvér.
Klastre a škálovanie
Dva Sparky, flotila, viac modelov na jednom stroji a zdieľanie s tímom.
Klaster DGX Spark: dva Sparky, nastavenie, limity a tok/s
Dva DGX Spark dávajú 256 GB a s tenzorovým paralelizmom rýchlejšie dekódovanie: 1,75× namerané na Qwen3-32B, uvádzané až asi 1,8×. Káble, názvy portov, nastavenie, modely, ktoré potrebujú dva Sparky.
Škálovanie z jedného DGX Sparku na flotilu
Kedy sa viac samostatných Sparkov oplatí viac ako dvojuzlový klaster, ako rozložiť záťaž medzi nezávislé uzly a prevádzkové kompromisy malej flotily.
Správa pamäte GPU pre viacero modelov na jednom Sparku
Rozvrhnite 128 GB zjednotenej pamäte medzi viacero modelov alebo kontajnerov na jednom DGX Sparku a vedzte, kedy prejsť na dvojuzlový klaster alebo druhý uzol.
Monitorovanie vyťaženia GPU a správne dimenzovanie nasadenia
Ako na prenajatom DGX Sparku zistiť skutočné vyťaženie GPU a pamäte a podľa toho sa rozhodnúť, či zostať, škálovať na dvojuzlový klaster, alebo do šírky na flotilu.
Viacero kontajnerov a služieb na DGX Sparku
Vzory kontajnerov Docker pre jeden DGX Spark: kedy stačí obyčajný súbor docker-compose a kedy už záťaž z neho vyrástla.
Aktualizácia alebo výmena modelov bez výpadku
DGX Spark je jeden stroj, takže skutočne bezvýpadkové aktualizácie modelu potrebujú druhý Spark, na ktorý sa dá prepnúť. Tu je, čo takéto nastavenie obnáša, a poctivá alternatíva, ak prijmete krátke okno na reštart.
Prístup pre tím a viacerých používateľov k zdieľanému DGX Sparku
Vzory na zdieľanie jedného prenajatého DGX Sparku v tíme: samostatní používatelia Linuxu s vlastnými SSH kľúčmi alebo brána pred ním, aby väčšina ľudí shell nikdy nepotrebovala.
Klaster DGX Spark so 4 alebo 8 uzlami: switch, nastavenie, tok/s
Klastre DGX Spark so 4 a 8 uzlami: podpora NVIDIA od 22. 10. 2026, switch a káble, nastavenie NCCL, 52,6 tok/s pri 8 uzloch a cena vs 8x B200.
Kimi K3 a DeepSeek V4 na klastroch DGX Sparkov: 1 až 8 uzlov
Koľko DGX Spark potrebujú Kimi K3, DeepSeek V4, GLM-5.3 a MiniMax M3? Výpočet pamäte pre 1 až 8 uzlov a uvádzané rýchlosti až 132 tok/s na 4 Sparkoch.
Prevádzka
Monitorovanie, zálohy, bezpečnosť a riadenie prístupu pre vlastné nasadenie.
Monitorovanie a pozorovateľnosť pre vlastný LLM
Čo sledovať na jednom DGX Sparku s LLM a ktoré open-source nástroje na to stačia, od nvidia-smi po stack Prometheus a Grafana. GPUwerk poskytuje prístup cez konzolu a API, nie monitorovací produkt.
Zálohovanie a obnova po havárii pre vašu záťaž na DGX Sparku
GPUwerk neuchováva kópiu pracovného priestoru prenajatého DGX Sparku. Čo zálohovať, kam to posielať a ako často synchronizovať.
Testovanie plánu obnovy po havárii pre vlastný LLM
Záloha, z ktorej ste nikdy neobnovovali, je len hypotéza. Cvičenia obnovy, game days a meranie RTO/RPO pre vlastný LLM na prenajatom GPU hardvéri.
Zabezpečenie prenajatej inštancie s GPU
Praktické zabezpečenie prenajatého GPU zvnútra inštancie: správa SSH kľúčov, vystavenie do siete, prevádzka služieb bez root, tajné údaje a dočasný vs trvalý stav.
Osvedčené postupy rotácie API kľúčov pre súkromné nasadenie LLM
Rotácia API kľúčov a prístupových údajov pre vlastný inferenčný endpoint: rozsah oprávnení, harmonogramy rotácie, odvolanie a čo automatizovať a čo robiť ručne.
Obmedzenie počtu požiadaviek a kvóty pre interné nasadenie LLM
Holý DGX Spark nemá obmedzenie počtu požiadaviek na používateľa. Pridajte si ho sami pomocou limitov rpm/tpm a rozpočtov na kľúč v LiteLLM, alebo reverzným proxy pred ním.
Auditné logovanie pre nasadenie LLM na vlastnej infraštruktúre citlivé na súlad s predpismi
Nastavte auditné logy požiadaviek a odpovedí vo vlastnom kontajneri na prenajatom DGX Sparku: čo zaznamenávať, kde to ukladať a kde končí úloha GPUwerk.
Nastavenie SSO a riadenia prístupu pre tímové nasadenie LLM
Vrstva autentifikácie pred vlastným inferenčným endpointom, aby sa tím prihlasoval existujúcimi identitami namiesto zdieľania SSH kľúčov alebo API tokenov.
Stratégia verzovania modelov a návratu k predošlej verzii pre vlastné nasadenie
Sledovanie toho, ktoré váhy modelov a konfigurácie skutočne bežia, a čistý návrat, keď nová verzia zaostáva, pri vlastnom nasadení na DGX Sparku.
Ako sa Spark porovnáva s inými strojmi, nájdete v porovnaniach. O samotnom hardvéri je stránka s parametrami.