DGX Spark/Návody
Návody

Návody k DGX Sparku

Autor: Samuel Seidel · Aktualizováno 7. listopadu 2026

Šedesát pět návodů ke koupi, provozu a správě DGX Spark od GPUwerku, který je pronajímá. Jsou seskupeny do pěti sekcí: koupě a provoz Sparku, modely a inferenční enginy, výkon a benchmarky, clustery a škálování a provoz. Každá karta ukazuje vlastní shrnutí návodu.

Koupě a provoz Sparku

Před koupí, pak napájení, hluk, nastavení, aktualizace, úložiště a provozní náklady.

Co vědět před koupí DGX Sparku

Poctivý průvodce koupí DGX Sparku od firmy, která je pronajímá: skutečné benchmarky, strop propustnosti 273 GB/s, běžné ceny v EU a koupě vs pronájem.

Spotřeba energie a provozní náklady DGX Sparku

Naměřený příkon DGX Spark: 22–45 W naprázdno, 60–90 W při inferenci LLM, zhruba 160–200 W při plné zátěži, se zdrojem 240 W. Měsíční náklady při cenách elektřiny v EU.

Hlučnost DGX Spark: 29 dB při plné zátěži, 13 dB naprázdno

NVIDIA uvádí pro DGX Spark 35 dB LWA a 29 dB LpA při maximální zátěži, 19 a 13 dB naprázdno (ECMA-109). Měření recenzentů, chlazení a umístění.

Průvodce nastavením DGX Spark: od prvního spuštění ke zprovozněnému modelu za jeden večer

Rychlý start s DGX Sparkem od někoho, kdo je denně montuje do racků: první spuštění DGX OS, SSH jen s klíčem, volba stacku pro provoz modelů a zprovoznění prvního modelu pro vaše nástroje během jednoho večera.

Aktualizace ovladačů a firmwaru DGX Spark: co spravuje GPUwerk

Co GPUwerk na pronajatém DGX Sparku udržuje aktuální na úrovni hostitele a uzlu a co je uvnitř vašeho vlastního root kontejneru a zůstává zcela vaší odpovědností.

Úložiště DGX Sparku: co přetrvá a co zálohovat

1 TB NVMe na pronajatém DGX Sparku, přesně co přežije zastavení oproti ukončení a proč je vlastní záloha důležitá, když GPUwerk žádnou neuchovává.

Studený start vs nepřetržitý provoz: volba režimu běhu instance

Zastavování DGX Sparku mezi použitími vs nepřetržitý provoz: kompromisy v nákladech, latenci a datech a jak se rozhodnout, který režim odpovídá skutečnému využití.

Migrace existujícího self-hosted AI nasazení na DGX Spark

Praktický postup migrace z pracovní stanice nebo jiné cloudové GPU na pronajatý DGX Spark: nová kvantizace pro sjednocenou paměť, přesun dat a plán přepnutí.

Prognóza nákladů a rozpočtování AI infrastruktury

Jak odhadnout měsíční výdaje na AI infrastrukturu při vlastním hostování vs účtovaném API, s hodinovou sazbou GPUwerk 0,79 $ jako vypočteným příkladem a kontrolním seznamem pro rozpočet.

Celkové náklady na vlastnictví: pronájem GPU vs cloudové AI API

Cloudové AI API s platbou za tokeny, pronajatý dedikovaný DGX Spark za 0,79 $/hod a koupě vlastního hardwaru, porovnané jen na základě údajů zveřejněných na tomto webu.

DGX Spark 64GB vs 128GB: rychlost, cena, co se vejde

DGX Spark 64GB vs 128GB, listopad 2026: stejný GB10 a 273 GB/s, 4 999 $ vs 6 950 $, zhruba 54 GiB využitelné paměti. Tabulka vhodnosti pro 8 modelů s kontextem a kdo ho prodává.

Nastavení DGX Sparku bez monitoru

Nastavení DGX Sparku bez monitoru: postup přes Wi-Fi hotspot, nalezení spark-xxxx.local, Wi-Fi Assistant z října 2026, rezerva 512 MB pro displej a cloud-init pro mnoho kusů.

Úložiště DGX Sparku: 1 TB vs 4 TB a kde uchovávat modely

Úložiště DGX Sparku 1 TB vs 4 TB: kolik ze 14 aktuálních modelů se vejde (gpt-oss-120b má 65,3 GB), jedna sdílená mezipaměť Hugging Face, rychlost hf_xet, možnosti USB-C a NFS.

DGX Spark: průvodce obnovou a přeinstalací DGX OS

Obnova DGX Sparku: oprava neúspěšné aktualizace bez vymazání, záloha z live USB, přeinstalace s obrazem obnovy 1.155.49 (5,9 GB), OEM obrazy a kdy jít do RMA.

Aktualizace softwaru DGX Sparku: přehled vydání do října 2026

Aktualizace softwaru DGX Sparku od uvedení po vydání z října 2026: DGX OS 7.6.0, Linux 7.0, ovladač 580.178.04, známé problémy a jak aktualizovat bezpečně.

DGX Spark: průvodce NVIDIA Sync a vzdáleným přístupem

Vzdálený přístup k DGX Sparku s NVIDIA Sync 0.148.0-153: co instaluje, DGX Dashboard na portu 11000, Tailscale, prostá konfigurace SSH a bezpečné zpřístupnění API.

Modely a inferenční enginy

Které modely provozovat, jakým enginem je provozovat a jak výsledek změřit.

Nejlepší modely pro DGX Spark, vydání z října 2026

Nejlepší modely pro DGX Spark, říjen 2026: Qwen3.6-35B-A3B NVFP4 s uváděnými 86,3 tok/s na jednom Sparku, DeepSeek-V4-Flash se zhruba 44 tok/s na dvou. Tabulky verdiktů se zdroji.

llama.cpp vs vLLM vs SGLang na DGX Sparku: tok/s a přepínače

vLLM 60,7 vs Ollama 42,1 tok/s pro gpt-oss-120b na jednom DGX Sparku, 116 až 153 vs 42,5 při 8 uživatelích. Který engine pro jednoho, pro tým nebo dva Sparky, plus přepínače.

Jak spustit nově vydaný model na DGX Sparku (GB10)

Spusťte nový model s otevřenými vahami na DGX Sparku v týdnu vydání: vejde se do paměti, image pro arm64, NVFP4 nebo GGUF, vLLM, SGLang nebo llama.cpp a kdy potřebuje dva Sparky.

Provoz Qwen3 ve vLLM na DGX Sparku

Nainstalujte vLLM, zpřístupněte Qwen3-32B-AWQ přes API kompatibilní s OpenAI, připojte Open WebUI a udržujte vše v chodu pomocí systemd: návod ke zkopírování pro DGX Spark.

Kvantizované modely vs modely v plné přesnosti v produkci

Jak se rozhodnout mezi kvantizovaným modelem a modelem v plné přesnosti pro produkční self-hosted nasazení: vejde se do paměti, riziko pro kvalitu podle úlohy a kdy otestovat obojí.

Doladění modelu na firemních datech, aniž by data opustila firmu

Doladění otevřeného LLM na firemních datech, aniž by opustila firmu: tabulky paměti pro LoRA a QLoRA, vypočtený příklad s 32B a fine-tuning vs RAG.

Embeddingy a vektorové vyhledávání na DGX Sparku

Provozujte embeddingový model a vektorovou databázi vedle generativního modelu na jednom DGX Sparku: rozvržení paměti, zprovoznění embeddingů a volba vektorového úložiště.

Provoz vizuálních a multimodálních modelů na DGX Sparku

Co je reálné na 128 GB sjednocené paměti DGX Sparku u modelů pro obraz a text a u porozumění obrázkům a proč GPUwerk zatím nezveřejnil samostatné benchmarky VLM.

ComfyUI a Stable Diffusion na DGX Sparku

Provozujte ComfyUI, FLUX a SDXL na DGX Sparku: nastavení na ARM64, uváděné časy generování obrázků pro jednotlivé modely, souboj o sjednocenou paměť s LLM a tepelná omezení.

Strukturovaný výstup a volání funkcí u self-hosted LLM

Nastavení strukturovaného výstupu v režimu JSON a volání nástrojů/funkcí u self-hosted modelů s vLLM a llama.cpp, včetně toho, které modely to podporují a jak ladit chybná volání.

Cache promptů pro snížení nákladů na inferenci

Jak opakované využití prefixu a KV cache snižuje opakované výpočty v self-hosted nasazení: co se počítá jako zásah cache, jak kvůli tomu strukturovat prompty a kde se úspory na Sparku pronajímaném po hodinách skutečně projeví.

Dávkové zpracování velkých inferenčních úloh na pronajatém Sparku

Provádějte hromadné zpracování dokumentů a označování datových sad na pronajatém DGX Sparku: nastavení propustnosti vLLM, dimenzování úloh vůči hodinové sazbě a checkpointy.

Hodnocení kvality modelu před přechodem na jiný model

Odložené testovací sady, A/B přístupy a regresní kontroly pro porovnání kandidátního modelu se současným před přepnutím v produkci.

Jak GPUwerk měří výkon DGX Spark

Co GPUwerk na DGX Sparku měří: jeden proud oproti souběhu, které enginy a nastavení a proč se zveřejňují surové logy, ne jen souhrn.

DGX Spark s dlouhým kontextem: tok/s při 4k až 100k, listopad 2026

Výkon DGX Spark s dlouhým kontextem, listopad 2026: dekódování při 4k, 50k a 100k pro šest modelů, zhruba 76 s na prefill 100k tokenů a velikosti KV cache při 128k.

DGX Spark: Docker a kontejnery NGC: arm64, GPU, compose

Průvodce Dockerem na DGX Sparku, listopad 2026: předinstalovaný Docker 29.6.2 a Container Toolkit 1.20, které image NGC mají buildy pro arm64, a compose soubor pro vLLM.

LM Studio na DGX Sparku: Linux ARM64, llmster, rychlost (2026)

LM Studio na DGX Sparku, listopad 2026: build pro Linux ARM64 s enginem llama.cpp pro CUDA 13 od října 2025, nastavení llmster bez monitoru a rychlost vs llama.cpp.

NVIDIA AI Workbench a JupyterLab na DGX Sparku

NVIDIA AI Workbench na DGX Sparku, listopad 2026: vydání 2026.06.5, základní image pro arm64 s CUDA 13.1, JupyterLab v DGX Dashboard a samostatný JupyterLab 4.6.6.

NIM na DGX Sparku: které NIM běží na GB10, licence, nastavení

NVIDIA NIM na DGX Sparku, listopad 2026: zhruba 20 NIM uvádí podporu GB10, zdarma pro vývoj až na 16 GPU, produkce vyžaduje licenci AI Enterprise.

Ollama na DGX Sparku: nastavení, konfigurace a tok/s

Ollama na DGX Sparku, listopad 2026: instalace pro arm64, šest důležitých nastavení, 42 tok/s u gpt-oss-120b proti 59 u llama.cpp a bezpečné zpřístupnění API.

PyTorch na DGX Sparku: wheely pro CUDA 13 a aarch64

PyTorch na DGX Sparku, listopad 2026: wheely torch 2.15.0 cu132 nebo 2.14.1 cu130 pro aarch64, falešné varování sm_121, NGC 26.10, stav flash-attn a xformers.

SGLang na DGX Sparku: instalace, přepínače a tok/s

SGLang na DGX Sparku, listopad 2026: image v0.5.23 pro arm64 a wheely pro pip, --mem-fraction-static 0.80 na GB10 a 52 vs 36 tok/s proti vLLM u gpt-oss-120b.

Whisper a Parakeet na DGX Sparku: převod řeči na text, list. 2026

Převod řeči na text na DGX Sparku, listopad 2026: Parakeet TDT 0.6B v3 283× rychleji než reálný čas na GB10, Whisper large-v3 19 až 25×, s WER z Open ASR Leaderboard.

TensorRT-LLM na DGX Sparku: trtllm-serve, NVFP4, tok/s (2026)

TensorRT-LLM na DGX Sparku, listopad 2026: kontejner NVIDIA 1.3.0rc13, trtllm-serve s NVFP4, 38,65 tok/s u Llama 3.1 8B a kdy se nastavení vyplatí.

Generování videa na DGX Sparku: sekundy na klip, listopad 2026

Generování videa na DGX Sparku, listopad 2026: 5sekundové klipy LTX-2.5 zhruba za 70 s, Wan 2.2 5B v 720p za 14 min a proč je RTX 5090 2,4 až 5,5× rychlejší.

Výkon a benchmarky

Naměřená a uváděná rychlost: uživatelé na Spark, propustnost paměti, CPU, výpočetní výkon, formáty kvantizace a jak se jednotlivé stroje GB10 drží pod zátěží.

Clustery a škálování

Dva Sparky, flotila, několik modelů na jednom stroji a jeho sdílení s týmem.

Cluster DGX Sparků: dva Sparky, nastavení, limity a tok/s

Dva DGX Sparky dávají 256 GB a s tenzorovým paralelismem rychlejší dekódování: naměřeno 1,75× u Qwen3-32B, uváděno až zhruba 1,8×. Díly kabelů, názvy portů, nastavení, modely, které potřebují dva Sparky.

Škálování z jednoho DGX Sparku na flotilu

Kdy pronájem více samostatných Sparků porazí dvouuzlový cluster, jak rozkládat zátěž mezi nezávislé uzly a provozní kompromisy malé flotily.

Správa paměti GPU pro více modelů na jednom Sparku

Rozvrhněte 128 GB sjednocené paměti mezi několik modelů nebo kontejnerů na jednom DGX Sparku a poznejte, kdy přejít na dvouuzlový cluster nebo druhý uzel.

Monitorování využití GPU a správné dimenzování nasazení

Jak číst skutečné využití GPU a paměti na pronajatém DGX Sparku a podle něj se rozhodnout, zda zůstat, přejít na dvouuzlový cluster, nebo rozšířit na flotilu.

Provoz více kontejnerů a služeb na DGX Sparku

Vzory pro Docker kontejnery na jednom DGX Sparku: kdy stačí prostý soubor docker-compose a kdy z něj zátěž vyrostla.

Aktualizace nebo výměna modelů bez výpadku

DGX Spark je jediný stroj, takže skutečné aktualizace modelu bez výpadku vyžadují druhý Spark, na který se dá přepnout. Tady je, co takové nastavení obnáší, a poctivá alternativa, pokud přijmete krátké okno pro restart.

Týmový přístup a více uživatelů na sdíleném DGX Sparku

Vzory pro sdílení jednoho pronajatého DGX Sparku v týmu: samostatní uživatelé Linuxu s vlastními SSH klíči, nebo brána vpředu, takže většina lidí shell nikdy nepotřebuje.

Cluster DGX Sparků se 4 nebo 8 uzly: switch, nastavení, tok/s

Clustery DGX Spark se 4 a 8 uzly: podpora NVIDIA od 22. 10. 2026, switch a kabely, nastavení NCCL, uváděných 52,6 tok/s při 8 uzlech a náklady vs 8× B200.

Kimi K3 a DeepSeek V4 na clusterech DGX Spark: 1 až 8 uzlů

Kolik DGX Sparků potřebují Kimi K3, DeepSeek V4, GLM-5.3 a MiniMax M3? Výpočet paměti pro 1 až 8 uzlů a uváděné rychlosti až 132 tok/s na 4 Sparcích.

Provoz

Monitoring, zálohy, zabezpečení a řízení přístupu pro self-hosted nasazení.

Monitoring a observabilita pro self-hosted LLM

Co sledovat na jednom DGX Sparku s LLM a které open-source nástroje na to stačí, od nvidia-smi po stack Prometheus a Grafana. GPUwerk poskytuje přístup ke konzoli a API, ne monitorovací produkt.

Zálohování a obnova po havárii pro vaši zátěž na DGX Sparku

GPUwerk neuchovává žádnou kopii pracovního prostoru pronajatého DGX Sparku. Co zálohovat, kam to posílat a jak často synchronizovat.

Testování plánu obnovy po havárii pro self-hosted LLM

Záloha, ze které jste nikdy neobnovovali, je jen hypotéza. Cvičná obnova, game days a měření RTO/RPO pro self-hosted LLM na pronajatém hardwaru s GPU.

Zabezpečení pronajaté GPU instance

Praktické zabezpečení uvnitř instance pro pronajatou GPU: správa SSH klíčů, vystavení do sítě, provoz služeb bez roota, tajné údaje a dočasný vs trvalý stav.

Osvědčené postupy rotace API klíčů pro soukromé nasazení LLM

Rotace API klíčů a přihlašovacích údajů pro self-hosted inferenční endpoint: vymezení oprávnění, plány rotace, odvolání a co automatizovat a co dělat ručně.

Omezení rychlosti a kvóty pro interní nasazení LLM

Holý DGX Spark nemá omezení rychlosti pro jednotlivé uživatele. Doplňte ho sami pomocí limitů rpm/tpm a rozpočtů pro jednotlivé klíče v LiteLLM nebo reverzní proxy před ním.

Auditní logování pro self-hosted nasazení LLM citlivé na compliance

Nastavte auditní logy požadavků a odpovědí ve vlastním kontejneru na pronajatém DGX Sparku: co zaznamenávat, kde to ukládat a kde končí práce GPUwerk.

Nastavení SSO a řízení přístupu pro týmové nasazení LLM

Přidání vrstvy ověřování před self-hosted inferenční endpoint, aby se tým přihlašoval existujícími identitami místo sdílení SSH klíčů nebo API tokenů.

Strategie verzování modelů a návratu zpět pro self-hosted nasazení

Sledování, které váhy modelu a konfigurace skutečně běží, a čistý návrat zpět, když nová verze zaostává, v self-hosted nasazení na DGX Sparku.

Jak si Spark stojí proti jiným strojům, ukazují srovnání. Samotný hardware popisuje stránka se specifikacemi.

První dobití: zaplaťte 20 $, získejte 30 $ kreditu

Vyzkoušejte návod na skutečném Sparku za 0,79 $/hod.

Pronajměte si dedikovaný DGX Spark v Evropě, Severní Americe nebo Východní Asii a postupujte podle návodu. Účtováno po minutách z předplaceného kreditu.

Založit účet Zobrazit ceník