Gwidi għad-DGX Spark
Ħamsa u sittin gwida dwar ix-xiri, it-tħaddim u l-operat ta' DGX Spark, minn GPUwerk, li tagħtihom bil-kera. Huma miġbura f'ħames taqsimiet: ix-xiri u t-tħaddim ta' Spark, mudelli u engines tal-inferenza, prestazzjoni u benchmarks, clusters u skalar, u operazzjonijiet. Kull karta turi s-sommarju tal-gwida nnifisha.
Ix-xiri u t-tħaddim ta' Spark
Qabel ma tixtri, imbagħad l-enerġija, il-ħsejjes, is-setup, l-aġġornamenti, l-istorage u l-ispejjeż tat-tħaddim.
X'għandek tkun taf qabel ma tixtri DGX Spark
Gwida onesta għax-xiri tad-DGX Spark minn kumpanija li tagħtihom bil-kera: benchmarks reali, il-limitu ta' 273 GB/s tal-bandwidth, prezzijiet fis-suq tal-UE, u xiri vs kera.
Konsum tal-enerġija u spiża tat-tħaddim tad-DGX Spark
Konsum tal-enerġija tad-DGX Spark, imkejjel: 22-45 W fil-mistrieħ, 60-90 W waqt inferenza ta' LLM, madwar 160-200 W b'tagħbija sħiħa, kontra provvista ta' 240 W. Spiża fix-xahar bil-prezzijiet tal-elettriku fl-UE.
Ħsejjes tad-DGX Spark: 29 dB b'tagħbija sħiħa, 13 dB fil-mistrieħ
NVIDIA tiddikjara d-DGX Spark b'35 dB LWA u 29 dB LpA b'tagħbija massima, 19 u 13 dB fil-mistrieħ (ECMA-109). Qari tar-reviżuri, tkessiħ u pożizzjoni.
Gwida għas-setup tad-DGX Spark: mill-ewwel boot sa mudell servut f'lejla waħda
Bidu mgħaġġel mad-DGX Spark minn xi ħadd li jinstallahom fir-racks kuljum: l-ewwel boot tad-DGX OS, SSH biċ-ċavetta biss, l-għażla ta' serving stack, u li sservi l-ewwel mudell tiegħek lill-għodod tiegħek f'lejla waħda.
Aġġornamenti tad-drivers u tal-firmware tad-DGX Spark: x'timmaniġġja GPUwerk
X'iżżomm aġġornat GPUwerk fil-livell tal-host u tan-nodu fuq DGX Spark mikri, u x'jinsab ġol-container root tiegħek stess u jibqa' għalkollox ir-responsabbiltà tiegħek.
Storage tad-DGX Spark: x'jibqa' u x'għandek tagħmillu backup
L-NVMe ta' 1 TB fuq DGX Spark mikri, eżattament x'jibqa' wara twaqqif kontra terminazzjoni, u għaliex huwa importanti li żżomm backup tiegħek billi GPUwerk ma żżomm ebda waħda.
Cold start vs dejjem mixgħul: l-għażla ta' mudell ta' uptime tal-istanzi
Li twaqqaf DGX Spark bejn użu u ieħor kontra li żżommu jaħdem il-ħin kollu: l-ispiża, il-latenza, u l-kompromessi dwar id-data, u kif tiddeċiedi liema mudell jaqbel mal-użu reali.
Kif tittrasferixxi deployment eżistenti ta' AI self-hosted għal DGX Spark
Rotta prattika ta' migrazzjoni minn workstation jew cloud GPU ieħor għal DGX Spark mikri: ir-ri-kwantizzazzjoni għall-memorja unifikata, iċ-ċaqliq tad-data, u pjan ta' qlib.
Tbassir tal-ispejjeż u bbaġitjar għall-infrastruttura tal-AI
Kif tistma l-infiq ta' kull xahar fuq l-infrastruttura tal-AI għall-ospitar minnek stess kontra API bil-kejl, bir-rata ta' $0.79/siegħa ta' GPUwerk bħala eżempju maħdum u lista ta' kontroll għall-ibbaġitjar.
Spiża totali tas-sjieda: kera ta' GPU kontra API tal-AI fil-cloud
API tal-AI fil-cloud bit-token, DGX Spark dedikat mikri għal $0.79/siegħa, u x-xiri tal-hardware kollu kemm hu, imqabbla biss biċ-ċifri ppubblikati fuq dan is-sit.
DGX Spark 64GB vs 128GB: veloċità, prezz, x'joqgħod
DGX Spark 64GB vs 128GB, Novembru 2026: l-istess GB10 u 273 GB/s, $4,999 vs $6,950, madwar 54 GiB użabbli. Tabella ta' x'joqgħod għal 8 mudelli bil-kuntest, u min ibigħu.
Setup tad-DGX Spark mingħajr monitor
Setup tad-DGX Spark mingħajr skrin: il-fluss tal-hotspot Wi-Fi, kif issib spark-xxxx.local, il-Wi-Fi Assistant ta' Ottubru 2026, riżerva ta' 512 MB għad-display, u cloud-init għal ħafna unitajiet.
Storage tad-DGX Spark: 1 TB vs 4 TB u fejn iżżomm il-mudelli
Storage tad-DGX Spark 1 TB vs 4 TB: kemm minn 14-il mudell attwali joqogħdu (gpt-oss-120b huwa 65.3 GB), cache wieħed maqsum ta' Hugging Face, veloċità ta' hf_xet, għażliet USB-C u NFS.
Gwida għall-irkupru tad-DGX Spark u għar-reinstallazzjoni tad-DGX OS
Irkupru tad-DGX Spark: issewwi aġġornament li falla mingħajr ma tħassar kollox, backup minn USB live, reinstallazzjoni bl-image tal-irkupru 1.155.49 (5.9 GB), images tal-OEM, u meta tagħmel RMA.
Aġġornamenti tas-software tad-DGX Spark: reġistru tar-releases sa Ottubru 2026
Aġġornamenti tas-software tad-DGX Spark mill-varar sar-release ta' Ottubru 2026: DGX OS 7.6.0, Linux 7.0, driver 580.178.04, il-problemi magħrufa, u kif taġġorna b'mod sikur.
Gwida għan-NVIDIA Sync u l-aċċess mill-bogħod tad-DGX Spark
Aċċess mill-bogħod għad-DGX Spark b'NVIDIA Sync 0.148.0-153: x'jinstalla, id-DGX Dashboard fuq il-port 11000, Tailscale, konfigurazzjoni SSH sempliċi, u kif tesponi l-API b'mod sikur.
Mudelli u engines tal-inferenza
Liema mudelli tħaddem, b'liema engine taqdihom, u kif tkejjel ir-riżultat.
L-aħjar mudelli għad-DGX Spark, edizzjoni ta' Ottubru 2026
L-aħjar mudelli għad-DGX Spark, Ottubru 2026: Qwen3.6-35B-A3B NVFP4 irrappurtat b'86.3 tok/s fuq Spark wieħed, DeepSeek-V4-Flash b'madwar 44 tok/s fuq tnejn. Tabelli tal-verdetti bis-sorsi.
llama.cpp vs vLLM vs SGLang fuq DGX Spark: tok/s u flags
vLLM 60.7 kontra Ollama 42.1 tok/s għal gpt-oss-120b fuq DGX Spark wieħed, u 116 sa 153 kontra 42.5 b'8 utenti. Liema engine għal utent wieħed, għal tim jew għal żewġ Sparks, flimkien mal-flags eżatti.
Kif tħaddem mudell għadu kemm ħareġ fuq DGX Spark (GB10)
Ħaddem mudell ġdid b'piżijiet miftuħa fuq DGX Spark fil-ġimgħa tal-ħruġ tiegħu: jekk joqgħodx fil-memorja, images arm64, NVFP4 jew GGUF, vLLM, SGLang jew llama.cpp, u meta jkollu bżonn żewġ Sparks.
Aqdi Qwen3 b'vLLM fuq DGX Spark
Installa vLLM, aqdi lil Qwen3-32B-AWQ b'API kompatibbli ma' OpenAI, qabbad Open WebUI, u żommu ħaj b'systemd: gwida ta' kopja u paste għad-DGX Spark.
Mudelli kkwantizzati vs bi preċiżjoni sħiħa fil-produzzjoni
Kif tiddeċiedi bejn mudell ikkwantizzat u wieħed bi preċiżjoni sħiħa għal deployment self-hosted fil-produzzjoni: jekk joqgħodx fil-memorja, ir-riskju għall-kwalità skont ix-xogħol, u meta tittestja t-tnejn.
Agħmel fine-tune ta' mudell fuq id-data tal-kumpanija tiegħek, mingħajr ma d-data toħroġ mill-bini
Agħmel fine-tune ta' LLM miftuħ fuq id-data tal-kumpanija mingħajr ma toħroġ mill-bini: tabelli tal-memorja għal LoRA u QLoRA, eżempju maħdum b'32B, u fine-tune vs RAG.
Kif tħaddem embeddings u tfittxija vettorjali fuq DGX Spark
Ħaddem mudell ta' embedding u database vettorjali ħdejn il-mudell tal-ġenerazzjoni tiegħek fuq DGX Spark wieħed: kif tqassam il-memorja, kif taqdi l-embeddings, u kif tagħżel vector store.
Kif tħaddem mudelli tal-viżjoni u multimodali fuq DGX Spark
X'inhu plawżibbli fuq it-128 GB ta' memorja unifikata ta' DGX Spark għal mudelli tal-viżjoni u tal-lingwa u għall-fehim tal-immaġni, u għaliex GPUwerk għadha ma ppubblikatx benchmarks apposta għall-VLMs.
ComfyUI u Stable Diffusion fuq DGX Spark
Ħaddem ComfyUI, FLUX u SDXL fuq DGX Spark: setup fuq ARM64, ħinijiet irrappurtati għall-immaġni skont il-mudell, il-ġlieda għall-memorja unifikata mal-LLMs, u twissijiet dwar is-sħana.
Output strutturat u sejħiet għal funzjonijiet fuq LLM self-hosted
Kif tissettja output strutturat f'JSON mode u sejħiet għal tools/funzjonijiet fuq mudelli self-hosted b'vLLM u llama.cpp, inkluż liema mudelli jappoġġjawhom u kif issib il-problemi f'sejħiet ħżiena.
Caching tal-prompts biex tnaqqas l-ispiża tal-inferenza
Kif l-użu mill-ġdid tal-prefix u tal-KV cache inaqqas il-compute ripetut f'deployment self-hosted: x'jikkwalifika bħala cache hit, kif tibni l-prompts għalih, u fejn verament jidhru l-iffrankar fuq Spark mikri bis-siegħa.
Ipproċessar f'batch ta' xogħlijiet kbar ta' inferenza fuq Spark mikri
Ħaddem l-ipproċessar ta' dokumenti bil-massa u t-tikkettar tad-datasets fuq DGX Spark mikri: settings tat-throughput ta' vLLM, kif tkejjel ix-xogħol kontra r-rata kull siegħa, u l-checkpointing.
Kif tevalwa l-kwalità ta' mudell qabel ma tibdel il-mudelli
Settijiet ta' test imwarrba, approċċi A/B, u verifiki ta' rigressjoni biex tagħmel benchmark ta' mudell kandidat kontra dak attwali tiegħek qabel ma taqleb fil-produzzjoni.
Kif tagħmel GPUwerk il-benchmarks tad-DGX Spark
X'tkejjel GPUwerk fuq DGX Spark: stream waħda kontra talbiet simultanji, liema engines u settings, u għaliex jiġu ppubblikati r-reġistri mhux ipproċessati, mhux biss sommarju.
Kuntest twil fuq id-DGX Spark: tok/s minn 4k sa 100k, Novembru 2026
Prestazzjoni b'kuntest twil fuq id-DGX Spark, Novembru 2026: decode b'4k, 50k u 100k għal sitt mudelli, madwar 76 s biex jagħmel prefill ta' 100k token, u d-daqsijiet tal-KV cache b'128k.
Docker u containers NGC fuq id-DGX Spark: arm64, GPU, compose
Gwida għal Docker fuq id-DGX Spark, Novembru 2026: Docker 29.6.2 u Container Toolkit 1.20 preinstallati, liema images NGC għandhom builds arm64, u fajl compose għal vLLM.
LM Studio fuq DGX Spark: Linux ARM64, llmster, veloċità (2026)
LM Studio fuq DGX Spark, Novembru 2026: build Linux ARM64 b'engine llama.cpp b'CUDA 13 minn Ottubru 2025, setup headless bl-llmster, u l-veloċità mqabbla ma' llama.cpp.
NVIDIA AI Workbench u JupyterLab fuq DGX Spark
NVIDIA AI Workbench fuq DGX Spark, Novembru 2026: release 2026.06.5, images bażi arm64 b'CUDA 13.1, il-JupyterLab tad-DGX Dashboard u l-JupyterLab 4.6.6 sempliċi.
NIM fuq DGX Spark: liema NIMs jaħdmu fuq GB10, liċenzja, setup
NVIDIA NIM fuq DGX Spark, Novembru 2026: madwar 20 NIM jelenkaw appoġġ għall-GB10, b'xejn għall-iżvilupp fuq sa 16-il GPU, u l-produzzjoni teħtieġ liċenzja AI Enterprise.
Ollama fuq DGX Spark: setup, settings u tok/s
Ollama fuq DGX Spark, Novembru 2026: installazzjoni arm64, is-sitt settings li jgħoddu, 42 tok/s fuq gpt-oss-120b kontra 59 għal llama.cpp, u esponiment sikur tal-API.
PyTorch fuq DGX Spark: wheels aarch64 b'CUDA 13
PyTorch fuq DGX Spark, Novembru 2026: wheels aarch64 torch 2.15.0 cu132 jew 2.14.1 cu130, it-twissija falza dwar sm_121, NGC 26.10, u l-istat ta' flash-attn u xformers.
SGLang fuq DGX Spark: installazzjoni, flags u tok/s
SGLang fuq DGX Spark, Novembru 2026: image arm64 v0.5.23 u wheels pip, --mem-fraction-static 0.80 fuq GB10, u 52 vs 36 tok/s kontra vLLM fuq gpt-oss-120b.
Whisper u Parakeet fuq DGX Spark: taħdit għal test, Nov. 2026
Taħdit għal test fuq DGX Spark, Novembru 2026: Parakeet TDT 0.6B v3 b'283x il-ħin reali fuq GB10, Whisper large-v3 b'19 sa 25x, bil-WER tal-Open ASR Leaderboard.
TensorRT-LLM fuq DGX Spark: trtllm-serve, NVFP4, tok/s (2026)
TensorRT-LLM fuq DGX Spark, Novembru 2026: il-container 1.3.0rc13 ta' NVIDIA, trtllm-serve b'NVFP4, 38.65 tok/s fuq Llama 3.1 8B, u meta s-setup jaqbel.
Ġenerazzjoni ta' vidjows fuq id-DGX Spark: sekondi għal kull klipp, Novembru 2026
Ġenerazzjoni ta' vidjows fuq id-DGX Spark, Novembru 2026: klipps ta' 5 sekondi b'LTX-2.5 f'madwar 70 s, Wan 2.2 5B 720p fi 14-il minuta, u għaliex RTX 5090 taħdem 2.4 sa 5.5x aktar malajr.
Prestazzjoni u benchmarks
Veloċità mkejla u rrappurtata: utenti għal kull Spark, bandwidth tal-memorja, CPU, compute, formati ta' kwantizzazzjoni u kif iżżomm kull magna GB10 taħt tagħbija.
Kemm-il utent jista' jaqdi DGX Spark? Data dwar il-konkorrenza
Kemm-il utent jaqdi DGX Spark wieħed, Novembru 2026: tok/s għal kull utent b'1 sa 256 talba, madwar 52 stream ta' chat b'15-il tok/s fuq MoE b'3B attivi, u kif tkejjel id-daqs tat-tim.
Prestazzjoni tas-CPU tad-DGX Spark: benchmarks tal-GB10 vs x86 u M5
Prestazzjoni tas-CPU tad-DGX Spark, Novembru 2026: il-GB10 jikseb 3,123 single u 19,708 multi f'Geekbench 6 u 675 GFLOPS f'HPL, kontra Ryzen AI Max+ 395 u M5 Max.
Il-bandwidth tal-memorja tad-DGX Spark imkejjel: 273 GB/s vs ir-realtà
Il-bandwidth tal-memorja tad-DGX Spark imkejjel, Novembru 2026: 234 sa 247 GB/s f'clpeak, 200 sa 213 GB/s STREAM triad, 38 GB/s għal kull core tas-CPU, u decode bejn 73 u 87%.
Veloċità tal-kwantizzazzjoni fuq id-DGX Spark: NVFP4 vs FP8 vs AWQ vs GGUF
L-iktar kwantizzazzjoni mgħaġġla fuq DGX Spark, Novembru 2026: mudell wieħed b'31 tok/s f'BF16, 50 sa 55 f'FP8, 65 sa 66 f'NVFP4, 81 f'AWQ, u meta NVFP4 jibqa' lura.
TFLOPS tad-DGX Spark imkejla: 1 PFLOP FP4 vs matmul reali
TFLOPS tad-DGX Spark imkejla, Novembru 2026: 973 sa 1,022 FP4 sparse f'microbenchmark, 356 f'GEMM CUTLASS, 77 sa 99 BF16 sostnuti, u x'juża l-prefill.
Throttling termali tal-GB10: veloċità sostnuta skont l-OEM (2026)
Throttling termali tal-GB10 skont il-manifattur: ħames kaxxi OEM baqgħu f'firxa ta' 2.6% fuq il-prefill ta' vLLM waqt li l-ogħla temperaturi tas-CPU laħqu bejn 74.7 u 90 °C. Il-firmware huwa r-riskju veru.
Clusters u skalar
Żewġ Sparks, flotta, diversi mudelli fuq magna waħda, u kif taqsamha ma' tim.
Cluster ta' DGX Spark: żewġ Sparks, setup, limiti u tok/s
Żewġ DGX Sparks jagħtu 256 GB u, bit-tensor parallelism, decode aktar mgħaġġel: 1.75× imkejjel fuq Qwen3-32B, sa madwar 1.8× irrappurtat. Partijiet tal-cables, ismijiet tal-portijiet, setup, mudelli li jeħtieġu żewġ Sparks.
Kif tikber minn DGX Spark wieħed għal flotta
Meta l-kera ta' aktar Sparks singoli tkun aħjar minn cluster b'żewġ nodi, kif tqassam it-tagħbija bejn nodi indipendenti, u l-kompromessi operattivi ta' tħaddim ta' flotta żgħira.
Immaniġġjar tal-memorja tal-GPU għal diversi mudelli fuq Spark wieħed
Qassam 128 GB ta' memorja unifikata bejn diversi mudelli jew containers fuq DGX Spark wieħed, u kun af meta minflok taqleb għal cluster b'żewġ nodi jew għat-tieni nodu.
Monitoraġġ tal-utilizzazzjoni tal-GPU u kif tagħżel id-daqs it-tajjeb għad-deployment tiegħek
Kif taqra l-utilizzazzjoni reali tal-GPU u tal-memorja fuq DGX Spark mikri u tużaha biex tiddeċiedi jekk tibqax fejn int, titlax għal cluster b'żewġ nodi, jew tifrixx fuq flotta.
Kif tħaddem diversi containers u servizzi fuq DGX Spark
Mudelli ta' containers Docker għal DGX Spark wieħed: meta fajl docker-compose sempliċi huwa biżżejjed, u meta l-workload tkun kibret iżżejjed għalih.
Kif taġġorna jew tibdel il-mudelli mingħajr downtime
DGX Spark huwa magna waħda, għalhekk aġġornamenti tal-mudell verament mingħajr downtime jeħtieġu t-tieni Spark biex taqleb għalih. Hawn x'jinvolvi dak is-setup, u l-alternattiva onesta jekk minflok taċċetta waqfa qasira.
Aċċess għat-tim u għal diversi utenti fuq DGX Spark maqsum
Mudelli biex taqsam DGX Spark mikri wieħed mat-tim: utenti Linux separati biċ-ċwievet SSH tagħhom, jew gateway quddiem biex ħafna n-nies qatt ma jkollhom bżonn shell.
Cluster ta' DGX Spark b'4 jew 8 nodi: switch, setup, tok/s
Clusters ta' DGX Spark b'4 u 8 nodi: appoġġ ta' NVIDIA mit-22 ta' Ott. 2026, is-switch u l-cables, is-setup tal-NCCL, 52.6 tok/s irrappurtati b'8 nodi, u l-ispiża mqabbla ma' 8x B200.
Kimi K3 u DeepSeek V4 fuq clusters ta' DGX Spark: 1 sa 8 nodi
Kemm-il DGX Spark jeħtieġu Kimi K3, DeepSeek V4, GLM-5.3 u MiniMax M3? Kalkoli tal-memorja għal 1 sa 8 nodi u veloċitajiet irrappurtati sa 132 tok/s fuq 4 Sparks.
Operazzjonijiet
Monitoraġġ, backups, sigurtà u kontroll tal-aċċess għal deployment self-hosted.
Monitoraġġ u osservabbiltà għal LLM self-hosted
X'tgħasses fuq DGX Spark wieħed li jħaddem LLM, u liema għodod open-source jagħmlu x-xogħol, minn nvidia-smi sa stack ta' Prometheus u Grafana. GPUwerk tagħti aċċess għall-console u għall-API, mhux prodott ta' monitoraġġ.
Backup u rkupru minn diżastru għall-workload tad-DGX Spark tiegħek
GPUwerk ma żżomm ebda kopja tal-ispazju tax-xogħol ta' DGX Spark mikri. X'tagħmillu backup, fejn tibagħtu, u kemm-il darba tissinkronizzah.
Kif tittestja l-pjan ta' rkupru minn diżastru għal LLM self-hosted
Backup li qatt ma rkuprajt minnu huwa ipoteżi. Eżerċizzji ta' rkupru, game days u kejl tal-RTO/RPO għal LLM self-hosted fuq hardware GPU mikri.
Tisħiħ tas-sigurtà ta' istanza GPU mikrija
Tisħiħ prattiku ġol-istanza għal GPU mikri: immaniġġjar taċ-ċwievet SSH, espożizzjoni tan-netwerk, tħaddim ta' servizzi mingħajr root, sigrieti, u stat temporanju vs permanenti.
L-aqwa prattiki għar-rotazzjoni taċ-ċwievet tal-API għal deployment ta' LLM privat
Kif iddawwar iċ-ċwievet tal-API u l-kredenzjali għal endpoint tal-inferenza self-hosted: l-ambitu, l-iskedi tar-rotazzjoni, ir-revoka, u x'tawtomatizza kontra x'tagħmel bl-idejn.
Limitazzjoni tar-rata u kwoti għal deployment intern ta' LLM
DGX Spark fih innifsu ma għandu ebda limitazzjoni tar-rata għal kull utent. Żidha inti bil-limiti rpm/tpm u l-baġits għal kull key ta' LiteLLM, jew b'reverse proxy quddiemu.
Logging tal-awditjar għal deployment ta' LLM self-hosted sensittiv għall-konformità
Issettja reġistri tal-awditjar tat-talbiet u tat-tweġibiet fil-container tiegħek stess fuq DGX Spark mikri: x'taqbad, fejn taħżnu, u fejn jintemm ix-xogħol ta' GPUwerk.
Kif tissettja SSO u kontroll tal-aċċess għal deployment ta' LLM għat-tim
Kif tqiegħed saff ta' awtentikazzjoni quddiem endpoint tal-inferenza self-hosted biex tim jidħol bl-identitajiet eżistenti minflok ma jaqsam ċwievet SSH jew tokens tal-API.
Strateġija ta' verżjonar tal-mudelli u rollback għal deployment self-hosted
Kif issegwi liema piżijiet u konfigurazzjonijiet ta' mudelli fil-fatt qed jaħdmu, u kif tagħmel rollback nadif meta verżjoni ġdida tmur agħar, f'deployment self-hosted fuq DGX Spark.
Għal kif l-Spark iqabbel ma' magni oħra, ara t-tqabbil. Għall-hardware innifsu, ara l-paġna tal-ispeċifikazzjonijiet.