Alternativer til DGX Spark: hvilken maskin passer modellene dine?
En DGX Spark har 128 GB enhetlig minne på 273 GB/s. De fleste alternativene bytter det ene mot det andre: mer båndbredde og mindre minne, eller tilsvarende minne for mindre penger. Tabellen nedenfor oppsummerer tretten sammenligningssider, én rad per maskin. Hvert tall i en rad kommer fra den lenkede siden, der kildene og datoene står.
Tretten maskiner mot Spark-maskinen
| Maskin | Minne | Båndbredde | Hvor den vinner | Hvor Spark-maskinen vinner |
|---|---|---|---|---|
| DGX Station (GB300) | 748 GB koherent: 252 GB HBM3e pluss 496 GB LPDDR5X | 7,1 TB/s (HBM3e) | Én boks ved skrivebordet for modeller på flere hundre GB, med omtrent 26 ganger GPU-båndbredden | Pris (6 $ 950 mot 104 $ 830 og oppover slik det var oppført 7. november 2026); 240 W i stedet for 1 600 W; kan leies per minutt |
| NVIDIA H100 SXM | 80 GB HBM3 | 3,35 TB/s | Gjennomstrømning per forespørsel, og batch-inferens av tette 70B-modeller til mange brukere | Minne per dollar; modeller over omtrent 70 GB for én bruker; rimelig evaluering per minutt |
| NVIDIA H200 SXM | 141 GB HBM3e | Omtrent 4,8 TB/s | Et delt produksjonsendepunkt med reell samtidig trafikk; nær 18 ganger båndbredden | Modeller under omtrent 100 GB for én person eller et lite team; utvikling og evaluering |
| RTX PRO 6000 Blackwell | 96 GB GDDR7 ECC | 1 792 GB/s | Hastighet på modeller som får plass i 96 GB; rapportert 215,2 mot 60,9 tok/s på gpt-oss-20b | Modeller på 100 GB eller mer; en komplett boks i stedet for et kort som trenger en verts-PC |
| GeForce RTX 5090 | 32 GB GDDR7 | 1 792 GB/s | Alt under omtrent 30 GB; rapportert 575 tok/s mot 25 til 32 tok/s på en 27B i Qwen3-klassen ved 8 samtidige; spilling | Modeller som ikke kan lastes på 32 GB, som 70B og gpt-oss-120b; et komplett system på 240 W |
| Mac Studio (M5 Ultra) | 96 til 512 GB enhetlig | 1,2 TB/s | Tokengenerering på modeller som får plass; mer enn 128 GB i én boks | Prefill og lange prompter (3,8 ganger raskere enn en M3 Ultra i EXO Labs' test); CUDA; klynge med to enheter |
| AMD Strix Halo (HP Z2 Mini G1a) | 128 GB LPDDR5x | 256 GB/s | Pris (2 $ 949 slik den ble testet); nesten uavgjort på tokengenerering for én bruker i llama.cpp | 2 til 3 ganger raskere tid til første token; omtrent 2 ganger raskere finjustering; omtrent 2,5 ganger på FLUX.1; CUDA |
| ASUS Ascent GX10 | 128 GB LPDDR5x | 273 GB/s (samme brikke) | Samme GB10-brikke; sammenlign pris og lagerstatus for lagringsnivået du trenger den dagen du bestiller | Founders Edition får DGX OS-utgivelser direkte fra NVIDIA |
| Jetson AGX Thor | 128 GB LPDDR5X (utviklersett; T4000-modulen har 64 GB) | 273 GB/s (samme som Spark) | I/O for robotikk, 40 til 130 W på modulen, og en lavere listepris (5 $ 499 mot 6 $ 950, amerikanske priser per oktober 2026) | Hastighet med samme minne: 52,87 mot 41,82 tok/s dekoding og omtrent 1,8 ganger prefill på gpt-oss-120b i JetsonHacks' llama.cpp-test; ConnectX-7 på 200 Gb/s for en klynge med to enheter |
| NVIDIA A100 80 GB | 80 GB HBM2e | 1 935 til 2 039 GB/s | Dekoding og batch-inferens: 200,90 mot 56,74 tok/s på llama.cpp's Llama 2 7B-test | 48 GB mer minne, FP8- og FP4-tensorberegning, 0 $,79/h mot 1 $,19 til 2 $,32/h on-demand |
| Bærbar RTX Spark N1X | Opptil 128 GB LPDDR5X, delt mellom CPU og GPU | 300 GB/s (NVIDIA) | Bærbar Windows-maskin; 67,64 mot 63,77 tok/s på Qwen3.6-35B-A3B i The Registers test | Linux med DGX OS, vLLM og klynger med to noder; første token på 1 240 mot 1 928 ms i en agentkjøring |
| Rigg med 2x eller 4x RTX 3090 | 48 eller 96 GB GDDR6X (24 GB per kort) | 936 GB/s per kort | Tett 70B: 31,3 mot 6,0 tok/s for én bruker på to kort med vLLM AWQ | 128 GB i én boks på 240 W mot 700 til 1 400 W med kort; gpt-oss-120b på 58,7 tok/s uten oppdeling |
| NVIDIA GeForce RTX 4090 | 24 GB GDDR6X | 1 008 GB/s | Modeller under omtrent 22 GB: 221,95 mot 83,43 tok/s dekoding på gpt-oss-20b i llama.cpp | Modeller på 25 til 110 GB: gpt-oss-120b på 58,7 tok/s mot omtrent 22 med RAM-avlastning på en 4090 |
Hver rad er hentet fra den lenkede sammenligningssiden. Hastighetstallene for konkurrentene er tredjepartsrapporter som siteres der, ikke målinger fra GPUwerk. Spark-maskinens egne tall står på spesifikasjonssiden.
Slik står vi oss
Jeg driver GPUwerk, som leier ut DGX Spark-maskiner og ingen av de andre maskinene her, så les hver side med det i tankene. Spesifikasjonstallene kommer fra hver leverandørs egne sider. Spark-hastighetene er GPUwerks egne, målt med vLLM 0.27.1 på én node i flåten 2. september 2026, med rålogger på benchmarksiden. GPUwerk har ikke kjørt noen av konkurrentene, så hastighetene deres er tredjepartsrapporter, navngitt på hver side, eller båndbreddeberegninger merket som det. Prisene har datoen de ble lest. Kjøpsprisene har endret seg mye i år: Spark-maskinen med 128 GB har hatt listepris 6 $ 950 i USA siden 2. oktober 2026, og prissiden har kilde, dato og historikk.
Velg etter jobben, ikke etter spesifikasjonene
- Flere hundre GB i én boks, med datasenterbåndbredde: DGX Station, hvis budsjettet er sekssifret.
- Et delt endepunkt med mange samtidige brukere: en datasenter-GPU som H100 eller H200.
- En modell som får plass i 32 GB eller 96 GB, brukt daglig: et raskt kort, RTX 5090 eller RTX PRO 6000.
- Modeller på 100 GB eller mer, CUDA, lange prompter: Spark-maskinen. Sammenligningen av GB10-maskiner dekker de andre produsentenes versjoner.
- Ikke sikker ennå: lei en Spark per minutt og mål din egen modell før du kjøper noe.