DGX Spark/Gwidi
Gwidi

Gwidi għad-DGX Spark

Minn Samuel Seidel · Aġġornat 7 ta' Novembru 2026

Ħamsa u sittin gwida dwar ix-xiri, it-tħaddim u l-operat ta' DGX Spark, minn GPUwerk, li tagħtihom bil-kera. Huma miġbura f'ħames taqsimiet: ix-xiri u t-tħaddim ta' Spark, mudelli u engines tal-inferenza, prestazzjoni u benchmarks, clusters u skalar, u operazzjonijiet. Kull karta turi s-sommarju tal-gwida nnifisha.

Ix-xiri u t-tħaddim ta' Spark

Qabel ma tixtri, imbagħad l-enerġija, il-ħsejjes, is-setup, l-aġġornamenti, l-istorage u l-ispejjeż tat-tħaddim.

X'għandek tkun taf qabel ma tixtri DGX Spark

Gwida onesta għax-xiri tad-DGX Spark minn kumpanija li tagħtihom bil-kera: benchmarks reali, il-limitu ta' 273 GB/s tal-bandwidth, prezzijiet fis-suq tal-UE, u xiri vs kera.

Konsum tal-enerġija u spiża tat-tħaddim tad-DGX Spark

Konsum tal-enerġija tad-DGX Spark, imkejjel: 22-45 W fil-mistrieħ, 60-90 W waqt inferenza ta' LLM, madwar 160-200 W b'tagħbija sħiħa, kontra provvista ta' 240 W. Spiża fix-xahar bil-prezzijiet tal-elettriku fl-UE.

Ħsejjes tad-DGX Spark: 29 dB b'tagħbija sħiħa, 13 dB fil-mistrieħ

NVIDIA tiddikjara d-DGX Spark b'35 dB LWA u 29 dB LpA b'tagħbija massima, 19 u 13 dB fil-mistrieħ (ECMA-109). Qari tar-reviżuri, tkessiħ u pożizzjoni.

Gwida għas-setup tad-DGX Spark: mill-ewwel boot sa mudell servut f'lejla waħda

Bidu mgħaġġel mad-DGX Spark minn xi ħadd li jinstallahom fir-racks kuljum: l-ewwel boot tad-DGX OS, SSH biċ-ċavetta biss, l-għażla ta' serving stack, u li sservi l-ewwel mudell tiegħek lill-għodod tiegħek f'lejla waħda.

Aġġornamenti tad-drivers u tal-firmware tad-DGX Spark: x'timmaniġġja GPUwerk

X'iżżomm aġġornat GPUwerk fil-livell tal-host u tan-nodu fuq DGX Spark mikri, u x'jinsab ġol-container root tiegħek stess u jibqa' għalkollox ir-responsabbiltà tiegħek.

Storage tad-DGX Spark: x'jibqa' u x'għandek tagħmillu backup

L-NVMe ta' 1 TB fuq DGX Spark mikri, eżattament x'jibqa' wara twaqqif kontra terminazzjoni, u għaliex huwa importanti li żżomm backup tiegħek billi GPUwerk ma żżomm ebda waħda.

Cold start vs dejjem mixgħul: l-għażla ta' mudell ta' uptime tal-istanzi

Li twaqqaf DGX Spark bejn użu u ieħor kontra li żżommu jaħdem il-ħin kollu: l-ispiża, il-latenza, u l-kompromessi dwar id-data, u kif tiddeċiedi liema mudell jaqbel mal-użu reali.

Kif tittrasferixxi deployment eżistenti ta' AI self-hosted għal DGX Spark

Rotta prattika ta' migrazzjoni minn workstation jew cloud GPU ieħor għal DGX Spark mikri: ir-ri-kwantizzazzjoni għall-memorja unifikata, iċ-ċaqliq tad-data, u pjan ta' qlib.

Tbassir tal-ispejjeż u bbaġitjar għall-infrastruttura tal-AI

Kif tistma l-infiq ta' kull xahar fuq l-infrastruttura tal-AI għall-ospitar minnek stess kontra API bil-kejl, bir-rata ta' $0.79/siegħa ta' GPUwerk bħala eżempju maħdum u lista ta' kontroll għall-ibbaġitjar.

Spiża totali tas-sjieda: kera ta' GPU kontra API tal-AI fil-cloud

API tal-AI fil-cloud bit-token, DGX Spark dedikat mikri għal $0.79/siegħa, u x-xiri tal-hardware kollu kemm hu, imqabbla biss biċ-ċifri ppubblikati fuq dan is-sit.

DGX Spark 64GB vs 128GB: veloċità, prezz, x'joqgħod

DGX Spark 64GB vs 128GB, Novembru 2026: l-istess GB10 u 273 GB/s, $4,999 vs $6,950, madwar 54 GiB użabbli. Tabella ta' x'joqgħod għal 8 mudelli bil-kuntest, u min ibigħu.

Setup tad-DGX Spark mingħajr monitor

Setup tad-DGX Spark mingħajr skrin: il-fluss tal-hotspot Wi-Fi, kif issib spark-xxxx.local, il-Wi-Fi Assistant ta' Ottubru 2026, riżerva ta' 512 MB għad-display, u cloud-init għal ħafna unitajiet.

Storage tad-DGX Spark: 1 TB vs 4 TB u fejn iżżomm il-mudelli

Storage tad-DGX Spark 1 TB vs 4 TB: kemm minn 14-il mudell attwali joqogħdu (gpt-oss-120b huwa 65.3 GB), cache wieħed maqsum ta' Hugging Face, veloċità ta' hf_xet, għażliet USB-C u NFS.

Gwida għall-irkupru tad-DGX Spark u għar-reinstallazzjoni tad-DGX OS

Irkupru tad-DGX Spark: issewwi aġġornament li falla mingħajr ma tħassar kollox, backup minn USB live, reinstallazzjoni bl-image tal-irkupru 1.155.49 (5.9 GB), images tal-OEM, u meta tagħmel RMA.

Aġġornamenti tas-software tad-DGX Spark: reġistru tar-releases sa Ottubru 2026

Aġġornamenti tas-software tad-DGX Spark mill-varar sar-release ta' Ottubru 2026: DGX OS 7.6.0, Linux 7.0, driver 580.178.04, il-problemi magħrufa, u kif taġġorna b'mod sikur.

Gwida għan-NVIDIA Sync u l-aċċess mill-bogħod tad-DGX Spark

Aċċess mill-bogħod għad-DGX Spark b'NVIDIA Sync 0.148.0-153: x'jinstalla, id-DGX Dashboard fuq il-port 11000, Tailscale, konfigurazzjoni SSH sempliċi, u kif tesponi l-API b'mod sikur.

Mudelli u engines tal-inferenza

Liema mudelli tħaddem, b'liema engine taqdihom, u kif tkejjel ir-riżultat.

L-aħjar mudelli għad-DGX Spark, edizzjoni ta' Ottubru 2026

L-aħjar mudelli għad-DGX Spark, Ottubru 2026: Qwen3.6-35B-A3B NVFP4 irrappurtat b'86.3 tok/s fuq Spark wieħed, DeepSeek-V4-Flash b'madwar 44 tok/s fuq tnejn. Tabelli tal-verdetti bis-sorsi.

llama.cpp vs vLLM vs SGLang fuq DGX Spark: tok/s u flags

vLLM 60.7 kontra Ollama 42.1 tok/s għal gpt-oss-120b fuq DGX Spark wieħed, u 116 sa 153 kontra 42.5 b'8 utenti. Liema engine għal utent wieħed, għal tim jew għal żewġ Sparks, flimkien mal-flags eżatti.

Kif tħaddem mudell għadu kemm ħareġ fuq DGX Spark (GB10)

Ħaddem mudell ġdid b'piżijiet miftuħa fuq DGX Spark fil-ġimgħa tal-ħruġ tiegħu: jekk joqgħodx fil-memorja, images arm64, NVFP4 jew GGUF, vLLM, SGLang jew llama.cpp, u meta jkollu bżonn żewġ Sparks.

Aqdi Qwen3 b'vLLM fuq DGX Spark

Installa vLLM, aqdi lil Qwen3-32B-AWQ b'API kompatibbli ma' OpenAI, qabbad Open WebUI, u żommu ħaj b'systemd: gwida ta' kopja u paste għad-DGX Spark.

Mudelli kkwantizzati vs bi preċiżjoni sħiħa fil-produzzjoni

Kif tiddeċiedi bejn mudell ikkwantizzat u wieħed bi preċiżjoni sħiħa għal deployment self-hosted fil-produzzjoni: jekk joqgħodx fil-memorja, ir-riskju għall-kwalità skont ix-xogħol, u meta tittestja t-tnejn.

Agħmel fine-tune ta' mudell fuq id-data tal-kumpanija tiegħek, mingħajr ma d-data toħroġ mill-bini

Agħmel fine-tune ta' LLM miftuħ fuq id-data tal-kumpanija mingħajr ma toħroġ mill-bini: tabelli tal-memorja għal LoRA u QLoRA, eżempju maħdum b'32B, u fine-tune vs RAG.

Kif tħaddem embeddings u tfittxija vettorjali fuq DGX Spark

Ħaddem mudell ta' embedding u database vettorjali ħdejn il-mudell tal-ġenerazzjoni tiegħek fuq DGX Spark wieħed: kif tqassam il-memorja, kif taqdi l-embeddings, u kif tagħżel vector store.

Kif tħaddem mudelli tal-viżjoni u multimodali fuq DGX Spark

X'inhu plawżibbli fuq it-128 GB ta' memorja unifikata ta' DGX Spark għal mudelli tal-viżjoni u tal-lingwa u għall-fehim tal-immaġni, u għaliex GPUwerk għadha ma ppubblikatx benchmarks apposta għall-VLMs.

ComfyUI u Stable Diffusion fuq DGX Spark

Ħaddem ComfyUI, FLUX u SDXL fuq DGX Spark: setup fuq ARM64, ħinijiet irrappurtati għall-immaġni skont il-mudell, il-ġlieda għall-memorja unifikata mal-LLMs, u twissijiet dwar is-sħana.

Output strutturat u sejħiet għal funzjonijiet fuq LLM self-hosted

Kif tissettja output strutturat f'JSON mode u sejħiet għal tools/funzjonijiet fuq mudelli self-hosted b'vLLM u llama.cpp, inkluż liema mudelli jappoġġjawhom u kif issib il-problemi f'sejħiet ħżiena.

Caching tal-prompts biex tnaqqas l-ispiża tal-inferenza

Kif l-użu mill-ġdid tal-prefix u tal-KV cache inaqqas il-compute ripetut f'deployment self-hosted: x'jikkwalifika bħala cache hit, kif tibni l-prompts għalih, u fejn verament jidhru l-iffrankar fuq Spark mikri bis-siegħa.

Ipproċessar f'batch ta' xogħlijiet kbar ta' inferenza fuq Spark mikri

Ħaddem l-ipproċessar ta' dokumenti bil-massa u t-tikkettar tad-datasets fuq DGX Spark mikri: settings tat-throughput ta' vLLM, kif tkejjel ix-xogħol kontra r-rata kull siegħa, u l-checkpointing.

Kif tevalwa l-kwalità ta' mudell qabel ma tibdel il-mudelli

Settijiet ta' test imwarrba, approċċi A/B, u verifiki ta' rigressjoni biex tagħmel benchmark ta' mudell kandidat kontra dak attwali tiegħek qabel ma taqleb fil-produzzjoni.

Kif tagħmel GPUwerk il-benchmarks tad-DGX Spark

X'tkejjel GPUwerk fuq DGX Spark: stream waħda kontra talbiet simultanji, liema engines u settings, u għaliex jiġu ppubblikati r-reġistri mhux ipproċessati, mhux biss sommarju.

Kuntest twil fuq id-DGX Spark: tok/s minn 4k sa 100k, Novembru 2026

Prestazzjoni b'kuntest twil fuq id-DGX Spark, Novembru 2026: decode b'4k, 50k u 100k għal sitt mudelli, madwar 76 s biex jagħmel prefill ta' 100k token, u d-daqsijiet tal-KV cache b'128k.

Docker u containers NGC fuq id-DGX Spark: arm64, GPU, compose

Gwida għal Docker fuq id-DGX Spark, Novembru 2026: Docker 29.6.2 u Container Toolkit 1.20 preinstallati, liema images NGC għandhom builds arm64, u fajl compose għal vLLM.

LM Studio fuq DGX Spark: Linux ARM64, llmster, veloċità (2026)

LM Studio fuq DGX Spark, Novembru 2026: build Linux ARM64 b'engine llama.cpp b'CUDA 13 minn Ottubru 2025, setup headless bl-llmster, u l-veloċità mqabbla ma' llama.cpp.

NVIDIA AI Workbench u JupyterLab fuq DGX Spark

NVIDIA AI Workbench fuq DGX Spark, Novembru 2026: release 2026.06.5, images bażi arm64 b'CUDA 13.1, il-JupyterLab tad-DGX Dashboard u l-JupyterLab 4.6.6 sempliċi.

NIM fuq DGX Spark: liema NIMs jaħdmu fuq GB10, liċenzja, setup

NVIDIA NIM fuq DGX Spark, Novembru 2026: madwar 20 NIM jelenkaw appoġġ għall-GB10, b'xejn għall-iżvilupp fuq sa 16-il GPU, u l-produzzjoni teħtieġ liċenzja AI Enterprise.

Ollama fuq DGX Spark: setup, settings u tok/s

Ollama fuq DGX Spark, Novembru 2026: installazzjoni arm64, is-sitt settings li jgħoddu, 42 tok/s fuq gpt-oss-120b kontra 59 għal llama.cpp, u esponiment sikur tal-API.

PyTorch fuq DGX Spark: wheels aarch64 b'CUDA 13

PyTorch fuq DGX Spark, Novembru 2026: wheels aarch64 torch 2.15.0 cu132 jew 2.14.1 cu130, it-twissija falza dwar sm_121, NGC 26.10, u l-istat ta' flash-attn u xformers.

SGLang fuq DGX Spark: installazzjoni, flags u tok/s

SGLang fuq DGX Spark, Novembru 2026: image arm64 v0.5.23 u wheels pip, --mem-fraction-static 0.80 fuq GB10, u 52 vs 36 tok/s kontra vLLM fuq gpt-oss-120b.

Whisper u Parakeet fuq DGX Spark: taħdit għal test, Nov. 2026

Taħdit għal test fuq DGX Spark, Novembru 2026: Parakeet TDT 0.6B v3 b'283x il-ħin reali fuq GB10, Whisper large-v3 b'19 sa 25x, bil-WER tal-Open ASR Leaderboard.

TensorRT-LLM fuq DGX Spark: trtllm-serve, NVFP4, tok/s (2026)

TensorRT-LLM fuq DGX Spark, Novembru 2026: il-container 1.3.0rc13 ta' NVIDIA, trtllm-serve b'NVFP4, 38.65 tok/s fuq Llama 3.1 8B, u meta s-setup jaqbel.

Ġenerazzjoni ta' vidjows fuq id-DGX Spark: sekondi għal kull klipp, Novembru 2026

Ġenerazzjoni ta' vidjows fuq id-DGX Spark, Novembru 2026: klipps ta' 5 sekondi b'LTX-2.5 f'madwar 70 s, Wan 2.2 5B 720p fi 14-il minuta, u għaliex RTX 5090 taħdem 2.4 sa 5.5x aktar malajr.

Prestazzjoni u benchmarks

Veloċità mkejla u rrappurtata: utenti għal kull Spark, bandwidth tal-memorja, CPU, compute, formati ta' kwantizzazzjoni u kif iżżomm kull magna GB10 taħt tagħbija.

Clusters u skalar

Żewġ Sparks, flotta, diversi mudelli fuq magna waħda, u kif taqsamha ma' tim.

Cluster ta' DGX Spark: żewġ Sparks, setup, limiti u tok/s

Żewġ DGX Sparks jagħtu 256 GB u, bit-tensor parallelism, decode aktar mgħaġġel: 1.75× imkejjel fuq Qwen3-32B, sa madwar 1.8× irrappurtat. Partijiet tal-cables, ismijiet tal-portijiet, setup, mudelli li jeħtieġu żewġ Sparks.

Kif tikber minn DGX Spark wieħed għal flotta

Meta l-kera ta' aktar Sparks singoli tkun aħjar minn cluster b'żewġ nodi, kif tqassam it-tagħbija bejn nodi indipendenti, u l-kompromessi operattivi ta' tħaddim ta' flotta żgħira.

Immaniġġjar tal-memorja tal-GPU għal diversi mudelli fuq Spark wieħed

Qassam 128 GB ta' memorja unifikata bejn diversi mudelli jew containers fuq DGX Spark wieħed, u kun af meta minflok taqleb għal cluster b'żewġ nodi jew għat-tieni nodu.

Monitoraġġ tal-utilizzazzjoni tal-GPU u kif tagħżel id-daqs it-tajjeb għad-deployment tiegħek

Kif taqra l-utilizzazzjoni reali tal-GPU u tal-memorja fuq DGX Spark mikri u tużaha biex tiddeċiedi jekk tibqax fejn int, titlax għal cluster b'żewġ nodi, jew tifrixx fuq flotta.

Kif tħaddem diversi containers u servizzi fuq DGX Spark

Mudelli ta' containers Docker għal DGX Spark wieħed: meta fajl docker-compose sempliċi huwa biżżejjed, u meta l-workload tkun kibret iżżejjed għalih.

Kif taġġorna jew tibdel il-mudelli mingħajr downtime

DGX Spark huwa magna waħda, għalhekk aġġornamenti tal-mudell verament mingħajr downtime jeħtieġu t-tieni Spark biex taqleb għalih. Hawn x'jinvolvi dak is-setup, u l-alternattiva onesta jekk minflok taċċetta waqfa qasira.

Aċċess għat-tim u għal diversi utenti fuq DGX Spark maqsum

Mudelli biex taqsam DGX Spark mikri wieħed mat-tim: utenti Linux separati biċ-ċwievet SSH tagħhom, jew gateway quddiem biex ħafna n-nies qatt ma jkollhom bżonn shell.

Cluster ta' DGX Spark b'4 jew 8 nodi: switch, setup, tok/s

Clusters ta' DGX Spark b'4 u 8 nodi: appoġġ ta' NVIDIA mit-22 ta' Ott. 2026, is-switch u l-cables, is-setup tal-NCCL, 52.6 tok/s irrappurtati b'8 nodi, u l-ispiża mqabbla ma' 8x B200.

Kimi K3 u DeepSeek V4 fuq clusters ta' DGX Spark: 1 sa 8 nodi

Kemm-il DGX Spark jeħtieġu Kimi K3, DeepSeek V4, GLM-5.3 u MiniMax M3? Kalkoli tal-memorja għal 1 sa 8 nodi u veloċitajiet irrappurtati sa 132 tok/s fuq 4 Sparks.

Operazzjonijiet

Monitoraġġ, backups, sigurtà u kontroll tal-aċċess għal deployment self-hosted.

Monitoraġġ u osservabbiltà għal LLM self-hosted

X'tgħasses fuq DGX Spark wieħed li jħaddem LLM, u liema għodod open-source jagħmlu x-xogħol, minn nvidia-smi sa stack ta' Prometheus u Grafana. GPUwerk tagħti aċċess għall-console u għall-API, mhux prodott ta' monitoraġġ.

Backup u rkupru minn diżastru għall-workload tad-DGX Spark tiegħek

GPUwerk ma żżomm ebda kopja tal-ispazju tax-xogħol ta' DGX Spark mikri. X'tagħmillu backup, fejn tibagħtu, u kemm-il darba tissinkronizzah.

Kif tittestja l-pjan ta' rkupru minn diżastru għal LLM self-hosted

Backup li qatt ma rkuprajt minnu huwa ipoteżi. Eżerċizzji ta' rkupru, game days u kejl tal-RTO/RPO għal LLM self-hosted fuq hardware GPU mikri.

Tisħiħ tas-sigurtà ta' istanza GPU mikrija

Tisħiħ prattiku ġol-istanza għal GPU mikri: immaniġġjar taċ-ċwievet SSH, espożizzjoni tan-netwerk, tħaddim ta' servizzi mingħajr root, sigrieti, u stat temporanju vs permanenti.

L-aqwa prattiki għar-rotazzjoni taċ-ċwievet tal-API għal deployment ta' LLM privat

Kif iddawwar iċ-ċwievet tal-API u l-kredenzjali għal endpoint tal-inferenza self-hosted: l-ambitu, l-iskedi tar-rotazzjoni, ir-revoka, u x'tawtomatizza kontra x'tagħmel bl-idejn.

Limitazzjoni tar-rata u kwoti għal deployment intern ta' LLM

DGX Spark fih innifsu ma għandu ebda limitazzjoni tar-rata għal kull utent. Żidha inti bil-limiti rpm/tpm u l-baġits għal kull key ta' LiteLLM, jew b'reverse proxy quddiemu.

Logging tal-awditjar għal deployment ta' LLM self-hosted sensittiv għall-konformità

Issettja reġistri tal-awditjar tat-talbiet u tat-tweġibiet fil-container tiegħek stess fuq DGX Spark mikri: x'taqbad, fejn taħżnu, u fejn jintemm ix-xogħol ta' GPUwerk.

Kif tissettja SSO u kontroll tal-aċċess għal deployment ta' LLM għat-tim

Kif tqiegħed saff ta' awtentikazzjoni quddiem endpoint tal-inferenza self-hosted biex tim jidħol bl-identitajiet eżistenti minflok ma jaqsam ċwievet SSH jew tokens tal-API.

Strateġija ta' verżjonar tal-mudelli u rollback għal deployment self-hosted

Kif issegwi liema piżijiet u konfigurazzjonijiet ta' mudelli fil-fatt qed jaħdmu, u kif tagħmel rollback nadif meta verżjoni ġdida tmur agħar, f'deployment self-hosted fuq DGX Spark.

Għal kif l-Spark iqabbel ma' magni oħra, ara t-tqabbil. Għall-hardware innifsu, ara l-paġna tal-ispeċifikazzjonijiet.

L-ewwel top-up: ħallas $20, ikseb $30 kreditu

Ipprova gwida fuq Spark reali għal $0.79/siegħa.

Ikri DGX Spark dedikat fl-Ewropa, fl-Amerika ta' Fuq jew fl-Asja tal-Lvant u segwi. Iffatturat bil-minuta minn kreditu mħallas minn qabel.

Oħloq kont Ara l-prezzijiet