Návody k DGX Sparku
Šedesát pět návodů ke koupi, provozu a správě DGX Spark od GPUwerku, který je pronajímá. Jsou seskupeny do pěti sekcí: koupě a provoz Sparku, modely a inferenční enginy, výkon a benchmarky, clustery a škálování a provoz. Každá karta ukazuje vlastní shrnutí návodu.
Koupě a provoz Sparku
Před koupí, pak napájení, hluk, nastavení, aktualizace, úložiště a provozní náklady.
Co vědět před koupí DGX Sparku
Poctivý průvodce koupí DGX Sparku od firmy, která je pronajímá: skutečné benchmarky, strop propustnosti 273 GB/s, běžné ceny v EU a koupě vs pronájem.
Spotřeba energie a provozní náklady DGX Sparku
Naměřený příkon DGX Spark: 22–45 W naprázdno, 60–90 W při inferenci LLM, zhruba 160–200 W při plné zátěži, se zdrojem 240 W. Měsíční náklady při cenách elektřiny v EU.
Hlučnost DGX Spark: 29 dB při plné zátěži, 13 dB naprázdno
NVIDIA uvádí pro DGX Spark 35 dB LWA a 29 dB LpA při maximální zátěži, 19 a 13 dB naprázdno (ECMA-109). Měření recenzentů, chlazení a umístění.
Průvodce nastavením DGX Spark: od prvního spuštění ke zprovozněnému modelu za jeden večer
Rychlý start s DGX Sparkem od někoho, kdo je denně montuje do racků: první spuštění DGX OS, SSH jen s klíčem, volba stacku pro provoz modelů a zprovoznění prvního modelu pro vaše nástroje během jednoho večera.
Aktualizace ovladačů a firmwaru DGX Spark: co spravuje GPUwerk
Co GPUwerk na pronajatém DGX Sparku udržuje aktuální na úrovni hostitele a uzlu a co je uvnitř vašeho vlastního root kontejneru a zůstává zcela vaší odpovědností.
Úložiště DGX Sparku: co přetrvá a co zálohovat
1 TB NVMe na pronajatém DGX Sparku, přesně co přežije zastavení oproti ukončení a proč je vlastní záloha důležitá, když GPUwerk žádnou neuchovává.
Studený start vs nepřetržitý provoz: volba režimu běhu instance
Zastavování DGX Sparku mezi použitími vs nepřetržitý provoz: kompromisy v nákladech, latenci a datech a jak se rozhodnout, který režim odpovídá skutečnému využití.
Migrace existujícího self-hosted AI nasazení na DGX Spark
Praktický postup migrace z pracovní stanice nebo jiné cloudové GPU na pronajatý DGX Spark: nová kvantizace pro sjednocenou paměť, přesun dat a plán přepnutí.
Prognóza nákladů a rozpočtování AI infrastruktury
Jak odhadnout měsíční výdaje na AI infrastrukturu při vlastním hostování vs účtovaném API, s hodinovou sazbou GPUwerk 0,79 $ jako vypočteným příkladem a kontrolním seznamem pro rozpočet.
Celkové náklady na vlastnictví: pronájem GPU vs cloudové AI API
Cloudové AI API s platbou za tokeny, pronajatý dedikovaný DGX Spark za 0,79 $/hod a koupě vlastního hardwaru, porovnané jen na základě údajů zveřejněných na tomto webu.
DGX Spark 64GB vs 128GB: rychlost, cena, co se vejde
DGX Spark 64GB vs 128GB, listopad 2026: stejný GB10 a 273 GB/s, 4 999 $ vs 6 950 $, zhruba 54 GiB využitelné paměti. Tabulka vhodnosti pro 8 modelů s kontextem a kdo ho prodává.
Nastavení DGX Sparku bez monitoru
Nastavení DGX Sparku bez monitoru: postup přes Wi-Fi hotspot, nalezení spark-xxxx.local, Wi-Fi Assistant z října 2026, rezerva 512 MB pro displej a cloud-init pro mnoho kusů.
Úložiště DGX Sparku: 1 TB vs 4 TB a kde uchovávat modely
Úložiště DGX Sparku 1 TB vs 4 TB: kolik ze 14 aktuálních modelů se vejde (gpt-oss-120b má 65,3 GB), jedna sdílená mezipaměť Hugging Face, rychlost hf_xet, možnosti USB-C a NFS.
DGX Spark: průvodce obnovou a přeinstalací DGX OS
Obnova DGX Sparku: oprava neúspěšné aktualizace bez vymazání, záloha z live USB, přeinstalace s obrazem obnovy 1.155.49 (5,9 GB), OEM obrazy a kdy jít do RMA.
Aktualizace softwaru DGX Sparku: přehled vydání do října 2026
Aktualizace softwaru DGX Sparku od uvedení po vydání z října 2026: DGX OS 7.6.0, Linux 7.0, ovladač 580.178.04, známé problémy a jak aktualizovat bezpečně.
DGX Spark: průvodce NVIDIA Sync a vzdáleným přístupem
Vzdálený přístup k DGX Sparku s NVIDIA Sync 0.148.0-153: co instaluje, DGX Dashboard na portu 11000, Tailscale, prostá konfigurace SSH a bezpečné zpřístupnění API.
Modely a inferenční enginy
Které modely provozovat, jakým enginem je provozovat a jak výsledek změřit.
Nejlepší modely pro DGX Spark, vydání z října 2026
Nejlepší modely pro DGX Spark, říjen 2026: Qwen3.6-35B-A3B NVFP4 s uváděnými 86,3 tok/s na jednom Sparku, DeepSeek-V4-Flash se zhruba 44 tok/s na dvou. Tabulky verdiktů se zdroji.
llama.cpp vs vLLM vs SGLang na DGX Sparku: tok/s a přepínače
vLLM 60,7 vs Ollama 42,1 tok/s pro gpt-oss-120b na jednom DGX Sparku, 116 až 153 vs 42,5 při 8 uživatelích. Který engine pro jednoho, pro tým nebo dva Sparky, plus přepínače.
Jak spustit nově vydaný model na DGX Sparku (GB10)
Spusťte nový model s otevřenými vahami na DGX Sparku v týdnu vydání: vejde se do paměti, image pro arm64, NVFP4 nebo GGUF, vLLM, SGLang nebo llama.cpp a kdy potřebuje dva Sparky.
Provoz Qwen3 ve vLLM na DGX Sparku
Nainstalujte vLLM, zpřístupněte Qwen3-32B-AWQ přes API kompatibilní s OpenAI, připojte Open WebUI a udržujte vše v chodu pomocí systemd: návod ke zkopírování pro DGX Spark.
Kvantizované modely vs modely v plné přesnosti v produkci
Jak se rozhodnout mezi kvantizovaným modelem a modelem v plné přesnosti pro produkční self-hosted nasazení: vejde se do paměti, riziko pro kvalitu podle úlohy a kdy otestovat obojí.
Doladění modelu na firemních datech, aniž by data opustila firmu
Doladění otevřeného LLM na firemních datech, aniž by opustila firmu: tabulky paměti pro LoRA a QLoRA, vypočtený příklad s 32B a fine-tuning vs RAG.
Embeddingy a vektorové vyhledávání na DGX Sparku
Provozujte embeddingový model a vektorovou databázi vedle generativního modelu na jednom DGX Sparku: rozvržení paměti, zprovoznění embeddingů a volba vektorového úložiště.
Provoz vizuálních a multimodálních modelů na DGX Sparku
Co je reálné na 128 GB sjednocené paměti DGX Sparku u modelů pro obraz a text a u porozumění obrázkům a proč GPUwerk zatím nezveřejnil samostatné benchmarky VLM.
ComfyUI a Stable Diffusion na DGX Sparku
Provozujte ComfyUI, FLUX a SDXL na DGX Sparku: nastavení na ARM64, uváděné časy generování obrázků pro jednotlivé modely, souboj o sjednocenou paměť s LLM a tepelná omezení.
Strukturovaný výstup a volání funkcí u self-hosted LLM
Nastavení strukturovaného výstupu v režimu JSON a volání nástrojů/funkcí u self-hosted modelů s vLLM a llama.cpp, včetně toho, které modely to podporují a jak ladit chybná volání.
Cache promptů pro snížení nákladů na inferenci
Jak opakované využití prefixu a KV cache snižuje opakované výpočty v self-hosted nasazení: co se počítá jako zásah cache, jak kvůli tomu strukturovat prompty a kde se úspory na Sparku pronajímaném po hodinách skutečně projeví.
Dávkové zpracování velkých inferenčních úloh na pronajatém Sparku
Provádějte hromadné zpracování dokumentů a označování datových sad na pronajatém DGX Sparku: nastavení propustnosti vLLM, dimenzování úloh vůči hodinové sazbě a checkpointy.
Hodnocení kvality modelu před přechodem na jiný model
Odložené testovací sady, A/B přístupy a regresní kontroly pro porovnání kandidátního modelu se současným před přepnutím v produkci.
Jak GPUwerk měří výkon DGX Spark
Co GPUwerk na DGX Sparku měří: jeden proud oproti souběhu, které enginy a nastavení a proč se zveřejňují surové logy, ne jen souhrn.
DGX Spark s dlouhým kontextem: tok/s při 4k až 100k, listopad 2026
Výkon DGX Spark s dlouhým kontextem, listopad 2026: dekódování při 4k, 50k a 100k pro šest modelů, zhruba 76 s na prefill 100k tokenů a velikosti KV cache při 128k.
DGX Spark: Docker a kontejnery NGC: arm64, GPU, compose
Průvodce Dockerem na DGX Sparku, listopad 2026: předinstalovaný Docker 29.6.2 a Container Toolkit 1.20, které image NGC mají buildy pro arm64, a compose soubor pro vLLM.
LM Studio na DGX Sparku: Linux ARM64, llmster, rychlost (2026)
LM Studio na DGX Sparku, listopad 2026: build pro Linux ARM64 s enginem llama.cpp pro CUDA 13 od října 2025, nastavení llmster bez monitoru a rychlost vs llama.cpp.
NVIDIA AI Workbench a JupyterLab na DGX Sparku
NVIDIA AI Workbench na DGX Sparku, listopad 2026: vydání 2026.06.5, základní image pro arm64 s CUDA 13.1, JupyterLab v DGX Dashboard a samostatný JupyterLab 4.6.6.
NIM na DGX Sparku: které NIM běží na GB10, licence, nastavení
NVIDIA NIM na DGX Sparku, listopad 2026: zhruba 20 NIM uvádí podporu GB10, zdarma pro vývoj až na 16 GPU, produkce vyžaduje licenci AI Enterprise.
Ollama na DGX Sparku: nastavení, konfigurace a tok/s
Ollama na DGX Sparku, listopad 2026: instalace pro arm64, šest důležitých nastavení, 42 tok/s u gpt-oss-120b proti 59 u llama.cpp a bezpečné zpřístupnění API.
PyTorch na DGX Sparku: wheely pro CUDA 13 a aarch64
PyTorch na DGX Sparku, listopad 2026: wheely torch 2.15.0 cu132 nebo 2.14.1 cu130 pro aarch64, falešné varování sm_121, NGC 26.10, stav flash-attn a xformers.
SGLang na DGX Sparku: instalace, přepínače a tok/s
SGLang na DGX Sparku, listopad 2026: image v0.5.23 pro arm64 a wheely pro pip, --mem-fraction-static 0.80 na GB10 a 52 vs 36 tok/s proti vLLM u gpt-oss-120b.
Whisper a Parakeet na DGX Sparku: převod řeči na text, list. 2026
Převod řeči na text na DGX Sparku, listopad 2026: Parakeet TDT 0.6B v3 283× rychleji než reálný čas na GB10, Whisper large-v3 19 až 25×, s WER z Open ASR Leaderboard.
TensorRT-LLM na DGX Sparku: trtllm-serve, NVFP4, tok/s (2026)
TensorRT-LLM na DGX Sparku, listopad 2026: kontejner NVIDIA 1.3.0rc13, trtllm-serve s NVFP4, 38,65 tok/s u Llama 3.1 8B a kdy se nastavení vyplatí.
Generování videa na DGX Sparku: sekundy na klip, listopad 2026
Generování videa na DGX Sparku, listopad 2026: 5sekundové klipy LTX-2.5 zhruba za 70 s, Wan 2.2 5B v 720p za 14 min a proč je RTX 5090 2,4 až 5,5× rychlejší.
Výkon a benchmarky
Naměřená a uváděná rychlost: uživatelé na Spark, propustnost paměti, CPU, výpočetní výkon, formáty kvantizace a jak se jednotlivé stroje GB10 drží pod zátěží.
Kolik uživatelů obslouží DGX Spark? Data o souběhu
Kolik uživatelů obslouží jeden DGX Spark, listopad 2026: tok/s na uživatele při 1 až 256 požadavcích, zhruba 52 chatů s 15 tok/s na MoE se 3B aktivních a dimenzování týmu.
Výkon CPU DGX Sparku: benchmarky GB10 vs x86 a M5
Výkon CPU DGX Sparku, listopad 2026: GB10 dosahuje v Geekbench 6 skóre 3 123 v jednom jádru a 19 708 ve více jádrech a 675 GFLOPS v HPL, ve srovnání s Ryzen AI Max+ 395 a M5 Max.
Naměřená propustnost paměti DGX Sparku: 273 GB/s vs realita
Naměřená propustnost paměti DGX Sparku, listopad 2026: 234 až 247 GB/s v clpeak, 200 až 213 GB/s ve STREAM triad, 38 GB/s na jádro CPU a dekódování na 73 až 87 %.
Rychlost kvantizací na DGX Sparku: NVFP4 vs FP8 vs AWQ vs GGUF
Nejrychlejší kvantizace na DGX Sparku, listopad 2026: jeden model s 31 tok/s v BF16, 50 až 55 v FP8, 65 až 66 v NVFP4, 81 v AWQ a kdy NVFP4 zaostává.
Naměřené TFLOPS DGX Spark: 1 PFLOP FP4 vs skutečné násobení matic
Naměřené TFLOPS DGX Spark, listopad 2026: 973 až 1 022 sparse FP4 v mikrobenchmarku, 356 v CUTLASS GEMM, 77 až 99 BF16 trvale a co využívá prefill.
Tepelné škrcení GB10: trvalá rychlost podle OEM (2026)
Tepelné škrcení GB10 podle výrobce: pět OEM strojů se při prefillu ve vLLM drželo v rozmezí 2,6 %, zatímco špičkové teploty CPU byly 74,7 až 90 °C. Skutečným rizikem je firmware.
Clustery a škálování
Dva Sparky, flotila, několik modelů na jednom stroji a jeho sdílení s týmem.
Cluster DGX Sparků: dva Sparky, nastavení, limity a tok/s
Dva DGX Sparky dávají 256 GB a s tenzorovým paralelismem rychlejší dekódování: naměřeno 1,75× u Qwen3-32B, uváděno až zhruba 1,8×. Díly kabelů, názvy portů, nastavení, modely, které potřebují dva Sparky.
Škálování z jednoho DGX Sparku na flotilu
Kdy pronájem více samostatných Sparků porazí dvouuzlový cluster, jak rozkládat zátěž mezi nezávislé uzly a provozní kompromisy malé flotily.
Správa paměti GPU pro více modelů na jednom Sparku
Rozvrhněte 128 GB sjednocené paměti mezi několik modelů nebo kontejnerů na jednom DGX Sparku a poznejte, kdy přejít na dvouuzlový cluster nebo druhý uzel.
Monitorování využití GPU a správné dimenzování nasazení
Jak číst skutečné využití GPU a paměti na pronajatém DGX Sparku a podle něj se rozhodnout, zda zůstat, přejít na dvouuzlový cluster, nebo rozšířit na flotilu.
Provoz více kontejnerů a služeb na DGX Sparku
Vzory pro Docker kontejnery na jednom DGX Sparku: kdy stačí prostý soubor docker-compose a kdy z něj zátěž vyrostla.
Aktualizace nebo výměna modelů bez výpadku
DGX Spark je jediný stroj, takže skutečné aktualizace modelu bez výpadku vyžadují druhý Spark, na který se dá přepnout. Tady je, co takové nastavení obnáší, a poctivá alternativa, pokud přijmete krátké okno pro restart.
Týmový přístup a více uživatelů na sdíleném DGX Sparku
Vzory pro sdílení jednoho pronajatého DGX Sparku v týmu: samostatní uživatelé Linuxu s vlastními SSH klíči, nebo brána vpředu, takže většina lidí shell nikdy nepotřebuje.
Cluster DGX Sparků se 4 nebo 8 uzly: switch, nastavení, tok/s
Clustery DGX Spark se 4 a 8 uzly: podpora NVIDIA od 22. 10. 2026, switch a kabely, nastavení NCCL, uváděných 52,6 tok/s při 8 uzlech a náklady vs 8× B200.
Kimi K3 a DeepSeek V4 na clusterech DGX Spark: 1 až 8 uzlů
Kolik DGX Sparků potřebují Kimi K3, DeepSeek V4, GLM-5.3 a MiniMax M3? Výpočet paměti pro 1 až 8 uzlů a uváděné rychlosti až 132 tok/s na 4 Sparcích.
Provoz
Monitoring, zálohy, zabezpečení a řízení přístupu pro self-hosted nasazení.
Monitoring a observabilita pro self-hosted LLM
Co sledovat na jednom DGX Sparku s LLM a které open-source nástroje na to stačí, od nvidia-smi po stack Prometheus a Grafana. GPUwerk poskytuje přístup ke konzoli a API, ne monitorovací produkt.
Zálohování a obnova po havárii pro vaši zátěž na DGX Sparku
GPUwerk neuchovává žádnou kopii pracovního prostoru pronajatého DGX Sparku. Co zálohovat, kam to posílat a jak často synchronizovat.
Testování plánu obnovy po havárii pro self-hosted LLM
Záloha, ze které jste nikdy neobnovovali, je jen hypotéza. Cvičná obnova, game days a měření RTO/RPO pro self-hosted LLM na pronajatém hardwaru s GPU.
Zabezpečení pronajaté GPU instance
Praktické zabezpečení uvnitř instance pro pronajatou GPU: správa SSH klíčů, vystavení do sítě, provoz služeb bez roota, tajné údaje a dočasný vs trvalý stav.
Osvědčené postupy rotace API klíčů pro soukromé nasazení LLM
Rotace API klíčů a přihlašovacích údajů pro self-hosted inferenční endpoint: vymezení oprávnění, plány rotace, odvolání a co automatizovat a co dělat ručně.
Omezení rychlosti a kvóty pro interní nasazení LLM
Holý DGX Spark nemá omezení rychlosti pro jednotlivé uživatele. Doplňte ho sami pomocí limitů rpm/tpm a rozpočtů pro jednotlivé klíče v LiteLLM nebo reverzní proxy před ním.
Auditní logování pro self-hosted nasazení LLM citlivé na compliance
Nastavte auditní logy požadavků a odpovědí ve vlastním kontejneru na pronajatém DGX Sparku: co zaznamenávat, kde to ukládat a kde končí práce GPUwerk.
Nastavení SSO a řízení přístupu pro týmové nasazení LLM
Přidání vrstvy ověřování před self-hosted inferenční endpoint, aby se tým přihlašoval existujícími identitami místo sdílení SSH klíčů nebo API tokenů.
Strategie verzování modelů a návratu zpět pro self-hosted nasazení
Sledování, které váhy modelu a konfigurace skutečně běží, a čistý návrat zpět, když nová verze zaostává, v self-hosted nasazení na DGX Sparku.
Jak si Spark stojí proti jiným strojům, ukazují srovnání. Samotný hardware popisuje stránka se specifikacemi.