DGX Spark alternatyvos: kuris įrenginys tinka jūsų modeliams?
DGX Spark turi 128 GB bendros atminties, 273 GB/s. Dauguma alternatyvų iškeičia vieną iš jų į kitą: daugiau pralaidumo ir mažiau atminties arba panašiai atminties už mažesnę kainą. Žemiau esanti lentelė apibendrina trylika palyginimo puslapių, po vieną eilutę kiekvienam įrenginiui. Kiekvienas eilutės skaičius paimtas iš susieto puslapio, kuriame nurodyti šaltiniai ir datos.
Trylika įrenginių vs. Spark
| Įrenginys | Atmintis | Pralaidumas | Kur laimi | Kur Spark laimi |
|---|---|---|---|---|
| DGX Station (GB300) | 748 GB koherentinės: 252 GB HBM3e ir 496 GB LPDDR5X | 7,1 TB/s (HBM3e) | Vienas pastatomas įrenginys kelių šimtų GB modeliams, su maždaug 26 kartus didesniu GPU pralaidumu | Kaina (6 950 USD vs. 104 830 USD ir daugiau, kaip nurodyta 2026 m. lapkričio 7 d.); 240 W vietoj 1 600 W; galima išsinuomoti minutėmis |
| NVIDIA H100 SXM | 80 GB HBM3 | 3,35 TB/s | Pralaidumas vienai užklausai ir tankių 70B modelių paketinis apdorojimas daugeliui naudotojų | Atmintis už dolerį; modeliai virš maždaug 70 GB vienam naudotojui; pigus bandymas minutėmis |
| NVIDIA H200 SXM | 141 GB HBM3e | Apie 4,8 TB/s | Bendras gamybinis galinis taškas su tikru lygiagrečiu srautu; beveik 18 kartų didesnis pralaidumas | Modeliai iki maždaug 100 GB vienam žmogui ar nedidelei komandai; kūrimas ir bandymai |
| RTX PRO 6000 Blackwell | 96 GB GDDR7 ECC | 1 792 GB/s | Greitis su modeliais, kurie telpa į 96 GB; pranešama 215,2 vs. 60,9 tok/s su gpt-oss-20b | 100 GB ir didesni modeliai; visavertis įrenginys vietoj plokštės, kuriai reikia pagrindinio kompiuterio |
| GeForce RTX 5090 | 32 GB GDDR7 | 1 792 GB/s | Viskas, kas mažiau nei apie 30 GB; pranešama apie 575 tok/s, palyginti su 25–32 tok/s Qwen3 klasės 27B modeliui esant 8 lygiagrečioms užklausoms; žaidimai | Modeliai, kurie neįsikelia į 32 GB, pavyzdžiui, 70B ir gpt-oss-120b; visavertė 240 W sistema |
| Mac Studio (M5 Ultra) | Nuo 96 iki 512 GB bendros atminties | 1,2 TB/s | Žetonų generavimas modeliams, kurie telpa; daugiau nei 128 GB viename įrenginyje | Užpildymas ir ilgos užklausos (3,8 karto greičiau nei M3 Ultra EXO Labs teste); CUDA; dviejų įrenginių klasteriai |
| AMD Strix Halo (HP Z2 Mini G1a) | 128 GB LPDDR5x | 256 GB/s | Kaina (testuota 2 949 USD); beveik lygiosios vieno naudotojo tokenų generavime llama.cpp | Nuo 2 iki 3 kartų greitesnis pirmojo tokeno laikas; apie 2 kartus greitesnis pritaikymas (fine-tuning); apie 2,5 karto su FLUX.1; CUDA |
| ASUS Ascent GX10 | 128 GB LPDDR5x | 273 GB/s (tas pats lustas) | Tas pats GB10 lustas; užsakymo dieną palyginkite kainą ir atsargas jums reikalingam disko dydžiui | Founders Edition DGX OS leidimus gauna tiesiai iš NVIDIA |
| Jetson AGX Thor | 128 GB LPDDR5X (kūrėjo rinkinys; T4000 modulis turi 64 GB) | 273 GB/s (tiek pat, kiek Spark) | Robotikos įvestis/išvestis, 40–130 W modulyje ir mažesnė katalogo kaina (5 499 USD vs. 6 950 USD, JAV kainos 2026 m. spalio duomenimis) | Greitis su ta pačia atmintimi: 52,87 vs. 41,82 tok/s dekodavimas ir apie 1,8 karto greitesnis užpildymas su gpt-oss-120b JetsonHacks llama.cpp teste; ConnectX-7 200 Gb/s dviejų įrenginių klasteriui |
| NVIDIA A100 80 GB | 80 GB HBM2e | 1 935–2 039 GB/s | Dekodavimas ir paketinis apdorojimas: 200,90 vs. 56,74 tok/s llama.cpp Llama 2 7B teste | 48 GB daugiau atminties, FP8 ir FP4 tenzoriniai skaičiavimai, 0,79 USD/val., palyginti su 1,19 USD–2,32 USD/val. pagal poreikį |
| RTX Spark N1X nešiojamasis kompiuteris | Iki 128 GB LPDDR5X, padalyta tarp CPU ir GPU | 300 GB/s (NVIDIA) | Nešiojamas Windows įrenginys; 67,64 vs. 63,77 tok/s su Qwen3.6-35B-A3B The Register teste | Linux su DGX OS, vLLM ir dviejų mazgų klasteriais; pirmasis tokenas per 1 240 vs. 1 928 ms agento paleidime |
| 2x arba 4x RTX 3090 sistema | 48 arba 96 GB GDDR6X (24 GB kiekvienoje plokštėje) | 936 GB/s vienai plokštei | Tankus 70B: 31,3 vs. 6,0 tok/s vienam naudotojui dviejose plokštėse su vLLM AWQ | 128 GB viename 240 W įrenginyje, palyginti su 700–1 400 W vaizdo plokščių; gpt-oss-120b – 58,7 tok/s be skaidymo |
| NVIDIA GeForce RTX 4090 | 24 GB GDDR6X | 1 008 GB/s | Modeliai iki maždaug 22 GB: 221,95 vs. 83,43 tok/s dekodavimas su gpt-oss-20b llama.cpp | 25–110 GB modeliai: gpt-oss-120b – 58,7 tok/s, palyginti su maždaug 22 su RAM iškėlimu 4090 |
Kiekviena eilutė paimta iš susieto palyginimo puslapio. Konkurentų greičio skaičiai – ten cituojami trečiųjų šalių duomenys, o ne GPUwerk matavimai. Paties Spark skaičiai pateikti specifikacijų puslapyje.
Kaip mes atrodome palyginus
Aš vadovauju GPUwerk, kuri nuomoja DGX Spark ir jokių kitų čia minimų įrenginių, todėl kiekvieną puslapį skaitykite tai turėdami omenyje. Specifikacijų skaičiai paimti iš kiekvieno gamintojo puslapių. Spark greičiai yra pačios GPUwerk, išmatuoti su vLLM 0.27.1 viename parko mazge 2026 m. rugsėjo 2 d., o neapdoroti žurnalai pateikti lyginamųjų testų puslapyje. GPUwerk nė vieno konkurento nebandė, todėl jų greičiai yra trečiųjų šalių duomenys, nurodyti kiekviename puslapyje, arba pralaidumo skaičiavimai, taip ir pažymėti. Prie kainų nurodyta jų nuskaitymo data. Pirkimo kainos šiais metais labai keitėsi: 128 GB Spark JAV katalogo kaina nuo 2026 m. spalio 2 d. yra 6 950 USD, o kainos puslapyje pateiktas šaltinis, data ir istorija.
Rinkitės pagal užduotį, o ne pagal specifikacijas
- Keli šimtai GB viename įrenginyje, duomenų centro pralaidumu: DGX Station, jei biudžetas šešiaženklis.
- Bendras galinis taškas su daug lygiagrečių naudotojų: duomenų centrų GPU, pavyzdžiui, H100 arba H200.
- Modelis, telpantis į 32 GB ar 96 GB, naudojamas kasdien: greita plokštė, RTX 5090 arba RTX PRO 6000.
- 100 GB ir didesni modeliai, CUDA, ilgos užklausos: Spark. GB10 įrenginių palyginime aptariamos kitų gamintojų versijos.
- Dar nesate tikri: išsinuomokite Spark minutėmis ir išmatuokite savo modelį, prieš ką nors pirkdami.