DGX Sparki alternatiivid: milline masin sobib sinu mudelitele?
DGX Sparkil on 128 GB ühismälu kiirusega 273 GB/s. Enamik alternatiive vahetab ühe teise vastu: rohkem ribalaiust ja vähem mälu või sarnane mälu väiksema raha eest. Allolev tabel võtab kokku kolmteist võrdluslehte, üks rida masina kohta. Iga rea näitaja pärineb lingitud lehelt, kus on allikad ja kuupäevad.
Kolmteist masinat Sparkiga võrreldes
| Masin | Mälu | Ribalaius | Kus see võidab | Kus Spark võidab |
|---|---|---|---|---|
| DGX Station (GB300) | 748 GB koherentset mälu: 252 GB HBM3e pluss 496 GB LPDDR5X | 7,1 TB/s (HBM3e) | Üks lauaäärne masin mitmesaja GB suuruste mudelite jaoks, umbes 26 korda suurema GPU ribalaiusega | Hind (6950 $ vs 7. novembril 2026 kirjas olnud 104 830 $ ja rohkem); 240 W 1600 W asemel; renditav minutipõhiselt |
| NVIDIA H100 SXM | 80 GB HBM3 | 3,35 TB/s | Läbilaskevõime päringu kohta ja tihedate 70B mudelite pakettserveerimine paljudele kasutajatele | Mälu dollari kohta; umbes 70 GB-st suuremad mudelid ühele kasutajale; odav hindamine minutipõhiselt |
| NVIDIA H200 SXM | 141 GB HBM3e | Umbes 4,8 TB/s | Jagatud tootmise lõpp-punkt tõelise samaaegse liiklusega; peaaegu 18 korda suurem ribalaius | Umbes 100 GB-st väiksemad mudelid ühele inimesele või väikesele meeskonnale; arendus ja hindamine |
| RTX PRO 6000 Blackwell | 96 GB GDDR7 ECC | 1792 GB/s | Kiirus mudelitel, mis mahuvad 96 GB-sse; teatatud 215,2 vs 60,9 tok/s gpt-oss-20b-l | 100 GB või suuremad mudelid; terviklik masin kaardi asemel, mis vajab hostarvutit |
| GeForce RTX 5090 | 32 GB GDDR7 | 1792 GB/s | Kõik alla umbes 30 GB; teatatud 575 tok/s vs 25 kuni 32 tok/s Qwen3-klassi 27B mudelil samaaegsusega 8; mängimine | Mudelid, mis 32 GB-le ei laadi, näiteks 70B ja gpt-oss-120b; terviklik 240 W süsteem |
| Mac Studio (M5 Ultra) | 96 kuni 512 GB ühismälu | 1,2 TB/s | Tokenite genereerimine mahtuvatel mudelitel; üle 128 GB ühes masinas | Eeltäitmine ja pikad päringud (EXO Labsi testis 3,8 korda kiirem kui M3 Ultra); CUDA; kahe seadme klasterdamine |
| AMD Strix Halo (HP Z2 Mini G1a) | 128 GB LPDDR5x | 256 GB/s | Hind (testitud 2949 $); ühe kasutaja tokenite genereerimisel llama.cpp-s peaaegu viik | 2 kuni 3 korda kiirem aeg esimese tokenini; umbes 2 korda kiirem peenhäälestus; umbes 2,5 korda FLUX.1 puhul; CUDA |
| ASUS Ascent GX10 | 128 GB LPDDR5x | 273 GB/s (sama kiip) | Sama GB10 kiip; võrdle tellimise päeval hinda ja laoseisu vajaliku salvestusmahu jaoks | Founders Edition saab DGX OS-i väljalaskeid otse NVIDIA-lt |
| Jetson AGX Thor | 128 GB LPDDR5X (arenduskomplekt; T4000 moodulil on 64 GB) | 273 GB/s (sama mis Sparkil) | Robootika sisend/väljund, 40 kuni 130 W moodulil ja madalam hinnakirja hind (5499 $ vs 6950 $, USA hinnad oktoobri 2026 seisuga) | Kiirus sama mälu juures: dekodeerimine 52,87 vs 41,82 tok/s ja umbes 1,8 korda eeltäitmine gpt-oss-120b-l JetsonHacksi llama.cpp testis; ConnectX-7 200 Gb/s kahe seadme klastri jaoks |
| NVIDIA A100 80 GB | 80 GB HBM2e | 1935 kuni 2039 GB/s | Dekodeerimine ja pakettserveerimine: 200,90 vs 56,74 tok/s llama.cpp Llama 2 7B testis | 48 GB rohkem mälu, FP8 ja FP4 tensorarvutus, 0,79 $/h vs 1,19 $ kuni 2,32 $/h nõudmisel |
| RTX Spark N1X sülearvuti | Kuni 128 GB LPDDR5X, jagatud protsessori ja GPU vahel | 300 GB/s (NVIDIA) | Kaasaskantav Windowsi masin; 67,64 vs 63,77 tok/s Qwen3.6-35B-A3B-l The Registeri testis | Linux koos DGX OS-i, vLLM-i ja kahe sõlmega klastritega; esimene token 1240 ms vs 1928 ms agendikäituses |
| 2x või 4x RTX 3090 arvuti | 48 või 96 GB GDDR6X (24 GB kaardi kohta) | 936 GB/s kaardi kohta | Tihe 70B: 31,3 vs 6,0 tok/s ühe kasutaja jaoks kahel kaardil vLLM AWQ-ga | 128 GB ühes 240 W karbis 700 kuni 1400 W kaartide vastu; gpt-oss-120b 58,7 tok/s ilma jagamiseta |
| NVIDIA GeForce RTX 4090 | 24 GB GDDR6X | 1008 GB/s | Umbes 22 GB-st väiksemad mudelid: dekodeerimine 221,95 vs 83,43 tok/s gpt-oss-20b-l llama.cpp-s | 25 kuni 110 GB mudelid: gpt-oss-120b kiirusega 58,7 tok/s vs umbes 22 RAM-i üleviimisega 4090-l |
Iga rida on võetud lingitud võrdluslehelt. Konkurentide kiirusnäitajad on seal viidatud kolmandate osapoolte aruanded, mitte GPUwerki mõõtmised. Sparki enda näitajad on spetsifikatsioonide lehel.
Kuidas me teiste kõrval välja näeme
Mina juhin GPUwerki, mis rendib DGX Sparke ja mitte ühtegi teist siin nimetatud masinat, seega loe iga lehte seda silmas pidades. Spetsifikatsioonide näitajad pärinevad iga müüja enda lehtedelt. Sparki kiirused on GPUwerki enda omad, mõõdetud vLLM 0.27.1-ga ühel pargi sõlmel 2. septembril 2026, toorlogid on võrdlustestide lehel. GPUwerk pole ühtegi konkurenti käitanud, seega on nende kiirused kolmandate osapoolte aruanded, mis on igal lehel nimetatud, või sellisena märgistatud ribalaiuse aritmeetika. Hindadel on nende lugemise kuupäev. Ostuhinnad on sel aastal palju muutunud: 128 GB Spark on USA-s olnud hinnakirjas 6950 $ alates 2. oktoobrist 2026 ning hinnalehel on allikas, kuupäev ja ajalugu.
Vali ülesande, mitte spetsifikatsiooni järgi
- Mitusada GB ühes masinas andmekeskuse ribalaiusega: DGX Station, kui eelarve on kuuekohaline.
- Jagatud lõpp-punkt paljude samaaegsete kasutajatega: andmekeskuse GPU, näiteks H100 või H200.
- Mudel, mis mahub 32 GB või 96 GB sisse ja mida kasutatakse iga päev: kiire kaart, RTX 5090 või RTX PRO 6000.
- 100 GB või suuremad mudelid, CUDA, pikad päringud: Spark. GB10 masinate võrdlus käsitleb teiste tootjate versioone.
- Pole veel kindel: rendi Spark minutipõhiselt ja mõõda oma mudelit enne, kui midagi ostad.