DGX Spark-útmutatók
Hatvanöt útmutató a DGX Spark vásárlásáról, futtatásáról és üzemeltetéséről a GPUwerktől, amely bérbe adja őket. Öt részben csoportosítva: Spark vásárlása és üzemeltetése, modellek és inferenciamotorok, teljesítmény és benchmarkok, klaszterek és skálázás, valamint üzemeltetés. Minden kártya az útmutató saját összefoglalóját mutatja.
Spark vásárlása és üzemeltetése
Vásárlás előtt, aztán áram, zaj, beállítás, frissítések, tárhely és üzemeltetési költségek.
Amit egy DGX Spark vásárlása előtt tudni kell
Őszinte DGX Spark vásárlási útmutató egy cégtől, amely bérbe adja őket: valódi benchmarkok, a 273 GB/s-os sávszélesség-plafon, uniós bolti árak, valamint vásárlás vagy bérlés.
DGX Spark áramfogyasztás és üzemeltetési költség
DGX Spark áramfelvétele mérve: 22–45 W üresjáratban, 60–90 W LLM-inferencia közben, körülbelül 160–200 W teljes terhelésen, 240 W-os tápegység mellett. Havi költség uniós áramárakon.
DGX Spark zajszint: 29 dB teljes terhelésen, 13 dB üresjáratban
Az NVIDIA a DGX Spark zajszintjét maximális terhelésen 35 dB LWA és 29 dB LpA, üresjáratban 19 és 13 dB értékben adja meg (ECMA-109). Tesztelői mérések, hűtés és elhelyezés.
DGX Spark beállítási útmutató: az első indítástól a kiszolgált modellig egy este alatt
DGX Spark gyorsindítás valakitől, aki naponta szereli be őket rackbe: a DGX OS első indítása, csak kulccsal működő SSH, kiszolgálási stack kiválasztása, és az első modell kiszolgálása az eszközei felé egyetlen este alatt.
DGX Spark illesztőprogram- és firmware-frissítések: mit kezel a GPUwerk
Mit tart naprakészen a GPUwerk hoszt- és csomópontszinten egy bérelt DGX Sparkon, és mi van a saját root-konténerében, ami teljes egészében az Ön felelőssége.
DGX Spark tárhely: mi marad meg, és mit mentsen
Az 1 TB-os NVMe egy bérelt DGX Sparkon, pontosan mi éli túl a leállítást és a megszüntetést, és miért fontos a saját mentés, hiszen a GPUwerk nem készít ilyet.
Hidegindítás vs. folyamatos üzem: a példány üzemidő-mintájának kiválasztása
DGX Spark leállítása a használatok között vs. éjjel-nappali futtatása: a költség, a késleltetés és az adatokkal kapcsolatos kompromisszumok, és hogyan döntse el, melyik felel meg a tényleges használatnak.
Meglévő saját üzemeltetésű AI-környezet átköltöztetése DGX Sparkra
Gyakorlati átállási útvonal munkaállomásról vagy más felhőalapú GPU-ról bérelt DGX Sparkra: újrakvantálás az egységes memóriához, adatmozgatás és átállási terv.
Költségelőrejelzés és költségvetés AI-infrastruktúrához
Hogyan becsülje meg a havi AI-infrastruktúra-költséget saját üzemeltetés és mért API esetén, a GPUwerk 0,79 USD/órás díjával mint kidolgozott példával és egy költségvetési ellenőrzőlistával.
Teljes birtoklási költség: GPU-bérlés vs. felhőalapú AI API
Felhőben futó, tokenalapú AI API, bérelt dedikált DGX Spark 0,79 USD/óráért, és hardver megvásárlása, kizárólag az ezen az oldalon közzétett adatok alapján összehasonlítva.
DGX Spark 64GB vs. 128GB: sebesség, ár, mi fér el
DGX Spark 64GB vs. 128GB, 2026. november: ugyanaz a GB10 és 273 GB/s, 4999 USD vs. 6950 USD, körülbelül 54 GiB használható. Elférési táblázat 8 modellre kontextussal, és ki árulja.
DGX Spark beállítása monitor nélkül
DGX Spark beállítása monitor nélkül: a Wi-Fi hotspotos folyamat, a spark-xxxx.local megtalálása, a 2026. októberi Wi-Fi Assistant, 512 MB kijelzőtartalék és cloud-init sok egységhez.
DGX Spark tárhely: 1 TB vs. 4 TB, és hol tartsa a modelleket
DGX Spark tárhely, 1 TB vs. 4 TB: 14 aktuális modellből hány fér el (a gpt-oss-120b 65,3 GB), egy közös Hugging Face-gyorsítótár, hf_xet-sebesség, USB-C és NFS lehetőségek.
DGX Spark helyreállítás és DGX OS újratelepítési útmutató
DGX Spark helyreállítás: sikertelen frissítés javítása törlés nélkül, mentés live USB-ről, újratelepítés az 1.155.49-es helyreállító lemezképpel (5,9 GB), OEM-lemezképek, és mikor kérjen RMA-t.
DGX Spark szoftverfrissítések: kiadási napló 2026 októberéig
DGX Spark szoftverfrissítések a megjelenéstől a 2026. októberi kiadásig: DGX OS 7.6.0, Linux 7.0, 580.178.04-es illesztőprogram, az ismert problémák, és hogyan frissítsen biztonságosan.
DGX Spark NVIDIA Sync és távoli hozzáférés útmutató
DGX Spark távoli elérése NVIDIA Sync 0.148.0-153-mal: mit telepít, a DGX Dashboard a 11000-es porton, Tailscale, egyszerű SSH-konfiguráció és biztonságos API-közzététel.
Modellek és inferenciamotorok
Mely modelleket futtassa, melyik motorral szolgálja ki őket, és hogyan mérje az eredményt.
A legjobb modellek DGX Sparkra, 2026. októberi kiadás
A legjobb modellek DGX Sparkra, 2026. október: a Qwen3.6-35B-A3B NVFP4 egy Sparkon jelentett 86,3 tok/s, a DeepSeek-V4-Flash kettőn körülbelül 44 tok/s. Értékelő táblázatok forrásokkal.
llama.cpp vs. vLLM vs. SGLang DGX Sparkon: tok/s és kapcsolók
vLLM 60,7 vs. Ollama 42,1 tok/s a gpt-oss-120b-n egy DGX Sparkon, és 116–153 vs. 42,5 8 felhasználónál. Melyik motor egy felhasználónak, egy csapatnak vagy két Sparknak, pontos kapcsolókkal.
Hogyan futtasson egy újonnan kiadott modellt DGX Sparkon (GB10)
Futtasson egy új nyílt súlyú modellt DGX Sparkon a megjelenés hetében: memóriába férés, arm64-es lemezképek, NVFP4 vagy GGUF, vLLM, SGLang vagy llama.cpp, és mikor kell hozzá két Spark.
Qwen3 kiszolgálása vLLM-mel DGX Sparkon
Telepítse a vLLM-et, szolgálja ki a Qwen3-32B-AWQ-t OpenAI-kompatibilis API-val, csatlakoztassa az Open WebUI-t, és tartsa életben systemd-vel: bemásolható útmutató DGX Sparkhoz.
Kvantált vs. teljes pontosságú modellek éles környezetben
Hogyan döntsön kvantált és teljes pontosságú modell között egy éles, saját üzemeltetésű környezetben: memóriába férés, minőségi kockázat feladatonként, és mikor tesztelje mindkettőt.
Modell finomhangolása a cége adatain, anélkül hogy az adatok elhagynák az épületet
Nyílt LLM finomhangolása céges adatokon anélkül, hogy azok elhagynák az épületet: LoRA- és QLoRA-memóriatáblázatok, egy kidolgozott 32B-s példa, valamint finomhangolás vs. RAG.
Beágyazások és vektoros keresés futtatása DGX Sparkon
Futtasson beágyazási modellt és vektoradatbázist a generáló modellje mellett egyetlen DGX Sparkon: memóriakeret, beágyazások kiszolgálása és vektortár kiválasztása.
Látás- és multimodális modellek futtatása DGX Sparkon
Mi reális egy DGX Spark 128 GB egységes memóriáján látás-nyelvi modellekkel és képértelmezéssel, és miért nem tett még közzé a GPUwerk dedikált VLM-benchmarkokat.
ComfyUI és Stable Diffusion DGX Sparkon
ComfyUI, FLUX és SDXL futtatása DGX Sparkon: beállítás ARM64-en, modellenként jelentett képgenerálási idők, egységes memória-versengés LLM-ekkel és hőmérsékleti megfontolások.
Strukturált kimenet és függvényhívás saját üzemeltetésű LLM-en
JSON-módú strukturált kimenet és eszköz-/függvényhívás beállítása saját üzemeltetésű modelleken vLLM-mel és llama.cpp-vel, beleértve, mely modellek támogatják, és hogyan hibakeresse a hibás hívásokat.
Prompt-gyorsítótárazás az inferenciaköltség csökkentésére
Hogyan csökkenti a prefix- és KV-gyorsítótár újrahasznosítása az ismételt számítást egy saját üzemeltetésű környezetben: mi számít gyorsítótár-találatnak, hogyan építse fel hozzá a promptokat, és hol jelentkezik valójában a megtakarítás egy óradíjasan bérelt Sparkon.
Nagy inferenciafeladatok kötegelt feldolgozása bérelt Sparkon
Tömeges dokumentumfeldolgozás és adathalmaz-címkézés bérelt DGX Sparkon: vLLM átviteli beállítások, feladatméretezés az óradíjhoz képest és checkpointolás.
Modellminőség értékelése modellváltás előtt
Visszatartott tesztkészletek, A/B megközelítések és regressziós ellenőrzések egy jelölt modell és a jelenlegi összehasonlítására, mielőtt éles környezetben váltana.
Hogyan méri a GPUwerk a DGX Spark teljesítményét
Mit mér a GPUwerk egy DGX Sparkon: egyfolyamos vs. párhuzamos, mely motorokkal és beállításokkal, és miért tesszük közzé a nyers naplókat, nem csak egy összefoglalót.
DGX Spark hosszú kontextus: tok/s 4k-tól 100k-ig, 2026. november
DGX Spark hosszú kontextusú teljesítménye, 2026. november: dekódolás 4k, 50k és 100k mellett hat modellre, körülbelül 76 s a 100k token prefilljéhez, és KV-gyorsítótár-méretek 128k-nál.
DGX Spark Docker- és NGC-konténerek: arm64, GPU, compose
DGX Spark Docker-útmutató, 2026. november: előtelepített Docker 29.6.2 és Container Toolkit 1.20, mely NGC-lemezképeknek van arm64-es buildje, és egy vLLM compose-fájl.
LM Studio DGX Sparkon: Linux ARM64, llmster, sebesség (2026)
LM Studio DGX Sparkon, 2026. november: Linux ARM64-es build CUDA 13-as llama.cpp motorral 2025 októbere óta, llmster fej nélküli beállítás, és sebesség a llama.cpp-hez képest.
NVIDIA AI Workbench és JupyterLab DGX Sparkon
NVIDIA AI Workbench DGX Sparkon, 2026. november: 2026.06.5-ös kiadás, arm64-es alaplemezképek CUDA 13.1-gyel, a DGX Dashboard JupyterLabja és az egyszerű JupyterLab 4.6.6.
NIM DGX Sparkon: mely NIM-ek futnak GB10-en, licenc, beállítás
NVIDIA NIM DGX Sparkon, 2026. november: körülbelül 20 NIM jelez GB10-támogatást, fejlesztésre legfeljebb 16 GPU-n ingyenes, éles használathoz AI Enterprise licenc kell.
Ollama DGX Sparkon: beállítás, paraméterek és tok/s
Ollama DGX Sparkon, 2026. november: arm64-es telepítés, a hat számító beállítás, 42 tok/s a gpt-oss-120b-n a llama.cpp 59-ével szemben, és biztonságos API-közzététel.
PyTorch DGX Sparkon: CUDA 13 aarch64-es wheel-ek
PyTorch DGX Sparkon, 2026. november: torch 2.15.0 cu132 vagy 2.14.1 cu130 aarch64-es wheel-ek, a téves sm_121-figyelmeztetés, NGC 26.10, a flash-attn és az xformers állapota.
SGLang DGX Sparkon: telepítés, kapcsolók és tok/s
SGLang DGX Sparkon, 2026. november: v0.5.23 arm64-es lemezkép és pip wheel-ek, --mem-fraction-static 0.80 GB10-en, és 52 vs. 36 tok/s a vLLM-mel szemben a gpt-oss-120b-n.
Whisper és Parakeet DGX Sparkon: beszédfelismerés, 2026. nov.
Beszédfelismerés DGX Sparkon, 2026. november: Parakeet TDT 0.6B v3 a valós idő 283-szorosával GB10-en, Whisper large-v3 19–25-szörössel, az Open ASR Leaderboard WER-értékeivel.
TensorRT-LLM DGX Sparkon: trtllm-serve, NVFP4, tok/s (2026)
TensorRT-LLM DGX Sparkon, 2026. november: az NVIDIA 1.3.0rc13-as konténere, trtllm-serve NVFP4-gyel, 38,65 tok/s a Llama 3.1 8B-n, és mikor éri meg a beállítás.
DGX Spark videógenerálás: másodperc klipenként, 2026. november
DGX Spark videógenerálás, 2026. november: LTX-2.5 5 másodperces klipek körülbelül 70 s alatt, Wan 2.2 5B 720p 14 perc alatt, és miért fut egy RTX 5090 2,4–5,5-ször gyorsabban.
Teljesítmény és benchmarkok
Mért és jelentett sebesség: felhasználók Sparkonként, memória-sávszélesség, CPU, számítási teljesítmény, kvantálási formátumok, és hogyan bírja az egyes GB10-es gépek a terhelést.
Hány felhasználót szolgálhat ki egy DGX Spark? Párhuzamossági adatok
Hány felhasználót szolgál ki egy DGX Spark, 2026. november: felhasználónkénti tok/s 1–256 kérésnél, körülbelül 52 párhuzamos beszélgetés 15 tok/s sebességgel egy 3B aktív paraméteres MoE-n, és csapatméretezés.
DGX Spark CPU-teljesítmény: GB10 benchmarkok vs. x86 és M5
DGX Spark CPU-teljesítmény, 2026. november: a GB10 Geekbench 6-ban 3123 egymagos és 19 708 többmagos pontot ér el, HPL-ben 675 GFLOPS-ot, a Ryzen AI Max+ 395-tel és az M5 Maxszal szemben.
DGX Spark memória-sávszélesség mérve: 273 GB/s vs. valóság
DGX Spark memória-sávszélesség mérve, 2026. november: 234–247 GB/s clpeakben, 200–213 GB/s STREAM triadban, 38 GB/s CPU-magonként, és dekódolás 73–87%-on.
DGX Spark kvantálási sebesség: NVFP4 vs. FP8 vs. AWQ vs. GGUF
A leggyorsabb kvantálás DGX Sparkon, 2026. november: egy modell 31 tok/s BF16-ban, 50–55 FP8-ban, 65–66 NVFP4-ben, 81 AWQ-ban, és mikor marad le az NVFP4.
DGX Spark TFLOPS mérve: 1 PFLOP FP4 vs. valódi mátrixszorzás
DGX Spark TFLOPS mérve, 2026. november: 973–1022 ritkított FP4 mikrobenchmarkban, 356 egy CUTLASS GEMM-ben, 77–99 BF16 tartósan, és mit használ a prefill.
GB10 hőfojtás: tartós sebesség OEM-enként (2026)
GB10 hőmérséklet miatti fojtás gyártónként: öt OEM-gép 2,6%-on belül maradt a vLLM prefillben, miközben a CPU csúcshőmérséklete 74,7–90 °C volt. A valódi kockázat a firmware.
Klaszterek és skálázás
Két Spark, egy flotta, több modell egy gépen, és megosztás egy csapattal.
DGX Spark-klaszter: két Spark, beállítás, korlátok és tok/s
Két DGX Spark 256 GB-ot ad, tenzorpárhuzamossággal pedig gyorsabb dekódolást: a Qwen3-32B-n mért 1,75×, jelentések szerint akár körülbelül 1,8×. Kábelalkatrészek, portnevek, beállítás, két Sparkot igénylő modellek.
Skálázás egy DGX Sparkról flottára
Mikor jobb több önálló Sparkot bérelni egy kétcsomópontos klaszter helyett, hogyan osszuk el a terhelést független csomópontok között, és milyen üzemeltetési kompromisszumokkal jár egy kis flotta.
GPU-memória kezelése több modellhez egy Sparkon
Ossza be a 128 GB egységes memóriát több modell vagy konténer között egyetlen DGX Sparkon, és tudja, mikor érdemes inkább kétcsomópontos klaszterre vagy egy második csomópontra váltani.
GPU-kihasználtság monitorozása és a környezet helyes méretezése
Hogyan olvassa le a tényleges GPU- és memória-kihasználtságot egy bérelt DGX Sparkon, és hogyan döntsön ennek alapján a maradás, a kétcsomópontos klaszterre való felskálázás vagy a flottára való kiterjesztés között.
Több konténer és szolgáltatás futtatása DGX Sparkon
Docker-konténerminták egyetlen DGX Sparkhoz: mikor elég egy egyszerű docker-compose fájl, és mikor nőtt túl rajta a munkaterhelés.
Modellek frissítése vagy cseréje leállás nélkül
A DGX Spark egyetlen gép, így a valóban leállás nélküli modellfrissítésekhez egy második Sparkra van szükség, amelyre át lehet váltani. Íme, mivel jár ez a beállítás, és mi a becsületes alternatíva, ha egy rövid újraindítási ablakot is elfogad.
Csapat- és többfelhasználós hozzáférés egy megosztott DGX Sparkhoz
Minták egy bérelt DGX Spark csapaton belüli megosztására: külön Linux-felhasználók saját SSH-kulcsokkal, vagy egy elé helyezett átjáró, hogy a legtöbbeknek soha ne is kelljen shellhez nyúlniuk.
DGX Spark-klaszter 4 vagy 8 csomóponttal: switch, beállítás, tok/s
4 és 8 csomópontos DGX Spark-klaszterek: NVIDIA-támogatás 2026. október 22. óta, a switch és a kábelek, NCCL-beállítás, 8 csomóponton jelentett 52,6 tok/s, és költség a 8x B200-hoz képest.
Kimi K3 és DeepSeek V4 DGX Spark-klasztereken: 1–8 csomópont
Hány DGX Spark kell a Kimi K3-hoz, a DeepSeek V4-hez, a GLM-5.3-hoz és a MiniMax M3-hoz? Memóriaszámítás 1–8 csomópontra, és jelentett sebességek akár 132 tok/s-ig 4 Sparkon.
Üzemeltetés
Monitorozás, biztonsági mentés, biztonság és hozzáférés-kezelés saját üzemeltetésű környezethez.
Monitorozás és megfigyelhetőség saját üzemeltetésű LLM-hez
Mit figyeljen egy LLM-et futtató DGX Sparkon, és mely nyílt forráskódú eszközök végzik el, az nvidia-smi-től egy Prometheus- és Grafana-stackig. A GPUwerk konzol- és API-hozzáférést biztosít, nem monitorozó terméket.
Biztonsági mentés és katasztrófa-helyreállítás a DGX Spark-munkaterheléséhez
A GPUwerk nem tart másolatot egy bérelt DGX Spark munkaterületéről. Mit mentsen, hová küldje, és milyen gyakran szinkronizálja.
Katasztrófa-helyreállítási terv tesztelése saját üzemeltetésű LLM-hez
Az a biztonsági mentés, amelyből még nem állított vissza, csak hipotézis. Visszaállítási gyakorlatok, game day-ek és RTO/RPO-mérés egy bérelt GPU-hardveren saját maga által üzemeltetett LLM-hez.
Bérelt GPU-példány biztonsági megerősítése
Gyakorlati, példányon belüli megerősítés bérelt GPU-hoz: SSH-kulcskezelés, hálózati kitettség, szolgáltatások futtatása root nélkül, titkok, valamint ideiglenes és tartós állapot.
API-kulcsok rotálásának bevált gyakorlatai privát LLM-környezethez
API-kulcsok és hitelesítő adatok rotálása egy saját üzemeltetésű inferenciavégponthoz: jogosultsági kör, rotációs ütemezés, visszavonás, és mit érdemes automatizálni, illetve kézzel végezni.
Sebességkorlátozás és kvóták belső LLM-környezethez
Egy alap DGX Sparkon nincs felhasználónkénti sebességkorlátozás. Adja hozzá saját maga a LiteLLM kulcsonkénti rpm/tpm-korlátaival és költségkereteivel, vagy egy elé helyezett reverse proxyval.
Auditnaplózás megfelelőségi szempontból érzékeny, saját üzemeltetésű LLM-környezethez
Állítson be kérés- és válasz-auditnaplókat a saját konténerében egy bérelt DGX Sparkon: mit rögzítsen, hol tárolja, és hol ér véget a GPUwerk feladata.
SSO és hozzáférés-kezelés beállítása csapatszintű LLM-környezethez
Hitelesítési réteg egy saját üzemeltetésű inferenciavégpont elé, hogy a csapat meglévő azonosítókkal jelentkezzen be, ne közös SSH-kulcsokkal vagy API-tokenekkel.
Modellverziózási és visszaállítási stratégia saját üzemeltetésű környezethez
Annak követése, mely modellsúlyok és konfigurációk futnak valójában, és tiszta visszaállítás, ha egy új verzió alulteljesít, egy saját üzemeltetésű DGX Spark-környezetben.
Hogy a Spark hogyan viszonyul más gépekhez, lásd az összehasonlításokat. Magáról a hardverről lásd a specifikációs oldalt.