Testujte a portujte svoj softvér na skutočnom GB10: aarch64, CUDA, sm_121
V nahlásenej chybe sa píše, že vaša knižnica na DGX Sparku zlyháva, a vy žiadny nemáte. Alebo sa vaše balíčky wheel zostavujú na x86 a nikto ich neskúšal na CPU Arm s GPU Blackwell. Prenajmite si celý Spark na tých pár minút, kým to zistíte: root shell na NVIDIA GB10 (aarch64, CUDA compute capability 12.1) s nainštalovaným toolkitom CUDA 13.0. Pri 0,79 $ za hodinu s účtovaním po minútach stojí 20-minútová kontrola asi 0,26 $.
Prvé dobitie: zaplatíte 20 $, dostanete 30 $ kreditu. Účtované po minútach z predplateného kreditu. Keď skončíte, inštanciu ukončite a účtovanie sa skončí. Väčšina ľudí, ktorí si odo mňa prenajmú Spark, spustí čistý obraz DGX OS a prinesie si vlastný stack, o čom je táto stránka.
Čo dostanete
| CPU | 20-jadrový Arm (10 Cortex-X925 a 10 Cortex-A725), uname -m vypíše aarch64 |
|---|---|
| GPU | NVIDIA GB10, generácia Blackwell, compute capability 12.1 (sm_121) |
| Pamäť | 128 GB zjednotenej LPDDR5x, ktorú zdieľajú CPU a GPU, 273 GB/s |
| Obrazy | DGX OS 7: Ubuntu 24.04 s toolkitom CUDA 13.0 (nvcc), NCCL a NVIDIA DCGM. Ubuntu 24.04: to isté bez DCGM. Oba majú git, tmux, vim, curl a Python 3 s pip a venv. |
| Prístup | Root terminál v prehliadači bez SSH kľúča, alebo SSH ako root na porte 22 s vlastným kľúčom. Každá inštancia má vlastnú verejnú IPv4 adresu a názov hostiteľa <name>.gpuwerk.com. |
| Ako to beží | Kontajner s GPU odovzdaným priamo: na mnohých Sparkoch systémový kontajner so systemd a Dockerom, na ostatných obyčajný kontajner bez nich. Vnútri máte práva root; ovládač NVIDIA pochádza z hostiteľského systému. |
| Úložisko | 1 TB NVMe, zdieľaný s hostiteľským systémom. /workspace prežije reštarty aj opätovné zostavenia a vymaže sa pri ukončení. |
Obraz nazvaný v konzole DGX OS 7 je moje zostavenie: Ubuntu 24.04 plus balíky uvedené vyššie, v kontajneri. Nie je to inštalačný obraz DGX OS od NVIDIA a /etc/dgx-release to aj uvádza. Čo v kontajneri beží a čo nie, nájdete v poznámkach k prostrediu nájomcu.
Prvá kontrola za päť minút
Nasaďte DGX Spark 1× s obrazom DGX OS, počkajte na stav running a na stránke inštancie kliknite na Otvoriť terminál v prehliadači. Potom si overte, na čom ste:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Posledný riadok vypíše GB10 a (12, 1). Niektoré zostavenia PyTorch vypíšu varovanie, že sm_121 nie je kompatibilné; zvyčajne je nesprávne a návod PyTorch na DGX Sparku vysvetľuje prečo a ktorý balíček wheel zvoliť.
Zostavte a otestujte svoj projekt
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Na tomto čipe ľudí zaskočia tri veci:
- Uveďte architektúru. Vlastný kód CUDA kompilujte s
-gencode=arch=compute_121a,code=sm_121a, alebo v CMake s-DCMAKE_CUDA_ARCHITECTURES=121a-real. Skratka-arch=sm_121amôže vynechať „a“ a s ním aj inštrukcie FP4, ako zistilo jedno vlákno na fóre NVIDIA (podrobnosti v návode k TFLOPS). Zostavenie pre inú architektúru sa môže skompilovať bez chýb a potom bežať zle. - Počítajte so zostavovaním zo zdrojových kódov. Mnohé balíky pre aarch64 a sm_121 nemajú hotový balíček wheel, takže ich pip kompiluje. Obmedzte paralelné úlohy (
MAX_JOBS=4), aby veľké zostavenie nevyčerpalo 128 GB pamäte. - Jadrá pre iné čipy Blackwell sa neprenášajú vždy. sm_121 spúšťa kód zostavený pre sm_120, ale jadrá napísané pre Blackwell v dátových centrách (sm_100) nie, a niektoré cesty FP4 bežali bez chýb a dávali nesprávny výstup. Kontrolujte výsledky, nielen to, že to dobehlo.
Ak si chcete zostavené artefakty vziať so sebou, skopírujte ich pomocou vlastného SSH kľúča a potom ukončite:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Skriptované behy z vlastného CI
Hotová integrácia s CI neexistuje. K dispozícii je API, ktoré nasadzuje a ukončuje po minútach, takže úloha na vašom vlastnom runneri si môže požičať Spark, spustiť na ňom testy cez SSH a vrátiť ho. Použite API kľúč s oprávnením na inštancie.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Nasadenie vyžaduje kredit aspoň na jednu hodinu (inak 402) a vráti 409, keď nie je voľný žiadny stroj, takže to vaša úloha musí ošetriť. Nasadenia cez API idú na stroj v EHP, pokiaľ nenastavíte location_country alebo partner_region. Všetky polia nájdete v referencii API.
Koľko stojí kontrola
| Relácia | Cena pri 0,79 $/hod. |
|---|---|
| Reprodukcia jedného hlásenia chyby, 20 minút | asi 0,26 $ |
| Zostavenie a test vydania, 1 hodina | 0,79 $ |
| Deň portovania, 8 hodín | 6,32 $ |
Účtuje sa po minútach z predplateného kreditu a začína sa, keď inštancia prejde kontrolou pripravenosti. Na nasadenie potrebuje účet kredit na jednu hodinu. Prvé dobitie: zaplatíte 20 $, dostanete 30 $ kreditu, asi 37 hodín na jednom Sparku. Zastavená inštancia si ponechá pracovný priestor a účtuje sa za 75 % hodinovej sadzby; keď skončíte, ukončite ju a účtovanie sa skončí, čím sa pracovný priestor vymaže. Ceny sú bez DPH, ak sa uplatňuje.
Čo vám prenajatý GB10 nepovie
- Je to kontajner, nie bare metal. Nemôžete načítať moduly jadra ani zmeniť ovládač a verzia ovládača je tá, ktorú používa hostiteľský systém. Regresie ovládača tu nevyriešite.
- Docker závisí od stroja. Mnohé Sparky spúšťajú vašu inštanciu ako systémový kontajner s vlastným démonom Docker, takže
docker buildadocker runfungujú; iné spúšťajú obyčajný kontajner bez neho a vybrať si nemôžete. Pozrite si stránku o prostredí nájomcu. - Jeden čip. Úspech na GB10 nič nehovorí o Grace Hopper (sm_90), Blackwell v dátových centrách (sm_100) ani o Jetson. Stroje GB10 od iných výrobcov majú rovnaký čip, môžu sa však líšiť firmvérom.
- systemd závisí od stroja. Mnohé Sparky spúšťajú systemd vo vašej inštancii; ostatné spúšťajú obyčajný kontajner bez neho a bez
NET_ADMIN, kde služby spúšťate zo shellu, tmux alebo cez štartovací hook. Zariadenie TUN nie je k dispozícii v žiadnom prípade, takže VPN klienti v režime jadra nebežia. - Bez SLA a bez záloh. Pred ukončením si zo stroja skopírujte všetko, čo potrebujete.
Kde sú Sparky
Funguje to na každom umiestnení, pretože partnerské Sparky ponúkajú rovnaké obrazy DGX OS a Ubuntu. Moje vlastné Sparky sú v dátovom centre v Hradci Králové v Českej republike. Partnerské Sparky vlastnia a vo svojich priestoroch hostujú partneri v USA, Švédsku, Holandsku, na Slovensku a v Hongkongu a partner má k svojmu stroju fyzický prístup. Konzola pred nasadením zobrazí krajinu a či je v EHP.
Kto za tým stojí
GPUwerk je nová platforma a stojím za ňou ja: Samuel Seidel, zakladateľ, pôsobiaci ako PRINT IT! SE so sídlom v Prahe. Od septembra 2026 na nej 94 vývojárov spustilo 374 inštancií (stav k 9. novembru 2026). Dostupnosť a incidenty nájdete na status.gpuwerk.com. Ak si nie ste istí, či váš stack pobeží, napíšte mi cez kontaktnú stránku skôr, než zaplatíte; odpovedám osobne.
FAQ
Aká verzia CUDA je na stroji?
Oba obrazy, DGX OS 7 aj Ubuntu 24.04, obsahujú toolkit CUDA 13.0 s nvcc a NCCL. Ovládač NVIDIA pochádza z hostiteľského systému a z vnútra inštancie sa nedá zmeniť.
Je obraz DGX OS skutočný DGX OS od NVIDIA?
Nie. Je to moje zostavenie v kontajneri: Ubuntu 24.04 s toolkitom CUDA 13.0, NCCL a NVIDIA DCGM. /etc/dgx-release ho identifikuje ako obraz GPUwerk.
Môžem na ňom zostavovať obrazy Docker?
Na niektorých strojoch áno: mnohé prenajaté Sparky spúšťajú vašu inštanciu ako systémový kontajner s vlastným démonom Docker, takže docker build a docker run --gpus all bežia natívne na arm64. Iné spúšťajú obyčajný kontajner bez Dockeru. Vybrať si nemôžete; docker info vám povie, ktorý máte.
Koľko stojí krátky test?
Asi 0,26 $ za 20 minút pri 0,79 $ za hodinu, účtované po minútach z predplateného kreditu. Na nasadenie potrebuje účet kredit na jednu hodinu. Keď skončíte, inštanciu ukončite a účtovanie sa skončí; tým sa pracovný priestor vymaže.