Testujte a portujte svůj software na skutečném GB10: aarch64, CUDA, sm_121
V issue někdo hlásí, že vaše knihovna na DGX Sparku selhává, a vy žádný nemáte. Nebo se vaše wheely sestavují na x86 a nikdo je nezkoušel na CPU Arm s GPU Blackwell. Pronajměte si celý Spark na tolik minut, kolik to zjistit zabere: root shell na NVIDIA GB10 (aarch64, CUDA compute capability 12.1) s nainstalovaným toolkitem CUDA 13.0. Při 0,79 $ za hodinu, účtováno po minutách, stojí 20minutová kontrola zhruba 0,26 $.
První dobití: zaplaťte 20 $, získejte 30 $ kreditu. Účtováno po minutách z předplaceného kreditu. Po dokončení instanci ukončete a účtování skončí. Většina lidí, kteří si u mě pronajmou Spark, spustí čistý image DGX OS a přinese si vlastní stack, a o tom je tato stránka.
Co dostanete
| CPU | 20jádrový Arm (10 Cortex-X925 a 10 Cortex-A725), uname -m vrací aarch64 |
|---|---|
| GPU | NVIDIA GB10, generace Blackwell, compute capability 12.1 (sm_121) |
| Paměť | 128 GB sjednocené LPDDR5x sdílené CPU a GPU, 273 GB/s |
| Image | DGX OS 7: Ubuntu 24.04 s toolkitem CUDA 13.0 (nvcc), NCCL a NVIDIA DCGM. Ubuntu 24.04: totéž bez DCGM. Oba mají git, tmux, vim, curl a Python 3 s pip a venv. |
| Přístup | Rootovský terminál v prohlížeči bez SSH klíče, nebo SSH jako root na portu 22 s vlastním klíčem. Každá instance má vlastní veřejnou adresu IPv4 a hostname <name>.gpuwerk.com. |
| Jak běží | Kontejner s přímo předanou GPU: na mnoha Sparcích systémový kontejner se systemd a Dockerem, na ostatních prostý kontejner bez nich. Uvnitř jste root; ovladač NVIDIA pochází z hostitele. |
| Úložiště | 1 TB NVMe, sdílený s hostitelem. /workspace přežije restarty i přestavby a smaže se, když instanci ukončíte. |
Image, který se v konzoli jmenuje DGX OS 7, je můj build: Ubuntu 24.04 s výše uvedenými balíčky, v kontejneru. Nejde o instalační image DGX OS od NVIDIA a /etc/dgx-release to uvádí. Co v kontejneru běží a co ne, popisují poznámky k prostředí nájemce.
První kontrola za pět minut
Nasaďte DGX Spark 1× s image DGX OS, počkejte na stav running a na stránce instance klikněte na Otevřít terminál v prohlížeči. Pak si ověřte, na čem jste:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Poslední řádek vypíše GB10 a (12, 1). Některé buildy PyTorch vypisují varování, že sm_121 není kompatibilní; obvykle je chybné a průvodce PyTorch na DGX Sparku vysvětluje proč a který wheel zvolit.
Sestavte a otestujte svůj projekt
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Na tomto čipu lidi zaskočí tři věci:
- Uveďte architekturu. Vlastní kód CUDA kompilujte s
-gencode=arch=compute_121a,code=sm_121a, nebo v CMake s-DCMAKE_CUDA_ARCHITECTURES=121a-real. Zkratka-arch=sm_121amůže „a“ vypustit a s ním i instrukce FP4, jak zjistilo vlákno na fóru NVIDIA (podrobnosti v průvodci TFLOPS). Build pro jinou architekturu se může čistě zkompilovat a pak běžet špatně. - Počítejte s buildy ze zdrojového kódu. Mnoho balíčků pro aarch64 a sm_121 nemá wheel, takže je pip kompiluje. Omezte paralelní úlohy (
MAX_JOBS=4), aby velký build nevyčerpal 128 GB paměti. - Kernely pro jiné čipy Blackwell se nepřenesou všechny. sm_121 spustí kód sestavený pro sm_120, ale kernely psané pro datacentrový Blackwell (sm_100) ne a některé cesty FP4 proběhly bez chyb a vrátily špatný výstup. Kontrolujte výsledky, nejen to, že se kód spustil.
Chcete-li si artefakty buildu odnést, zkopírujte je s vlastním SSH klíčem a pak instanci ukončete:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Skriptované běhy z vlastního CI
Hotová integrace CI neexistuje. Existuje API, které nasazuje a ukončuje po minutách, takže úloha na vašem vlastním runneru si může Spark vypůjčit, spustit přes SSH testy a vrátit ho. Použijte API klíč s oprávněním instances.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Nasazení vyžaduje kredit alespoň na jednu hodinu (jinak 402) a vrací 409, když není volný žádný stroj, takže to vaše úloha musí ošetřit. Nasazení přes API jdou na stroj v EHP, pokud nenastavíte location_country nebo partner_region. Všechna pole najdete v referenci API.
Kolik stojí kontrola
| Setkání | Náklady při 0,79 $/h |
|---|---|
| Reprodukce jednoho hlášení chyby, 20 minut | zhruba 0,26 $ |
| Sestavení a test vydání, 1 hodina | 0,79 $ |
| Den portování, 8 hodin | 6,32 $ |
Účtuje se po minutách z předplaceného kreditu a začíná, jakmile instance projde kontrolou připravenosti. K nasazení potřebuje účet kredit na jednu hodinu. První dobití: zaplaťte 20 $, získejte 30 $ kreditu, zhruba 37 hodin na jednom Sparku. Zastavená instance si ponechá pracovní prostor a účtuje se 75 % hodinové sazby; po dokončení ji ukončete a účtování skončí, čímž se pracovní prostor smaže. Ceny jsou uvedeny bez DPH, pokud se uplatňuje.
Co vám pronajatý GB10 neřekne
- Je to kontejner, ne holý hardware. Nemůžete načítat moduly jádra ani měnit ovladač a verze ovladače je ta, kterou provozuje hostitel. Regrese ovladačů tu nevyřešíte.
- Docker závisí na stroji. Mnoho Sparků spouští vaši instanci jako systémový kontejner s vlastním démonem Dockeru, takže
docker buildadocker runfungují; jiné spouštějí prostý kontejner bez něj a vybrat si nemůžete. Viz stránka o prostředí nájemce. - Jeden čip. Úspěch na GB10 nic neříká o Grace Hopper (sm_90), datacentrovém Blackwellu (sm_100) ani Jetsonu. Stroje GB10 jiných výrobců sdílejí čip, ale mohou se lišit firmwarem.
- systemd závisí na stroji. Mnoho Sparků spouští ve vaší instanci systemd; ostatní spouštějí prostý kontejner bez něj a bez
NET_ADMIN, kde služby spouštíte ze shellu, tmux nebo spouštěcího hooku. Zařízení TUN není v žádném případě, takže VPN klienti v režimu jádra neběží. - Bez SLA a bez záloh. Než instanci ukončíte, zkopírujte si ze stroje vše, co potřebujete.
Kde Sparky jsou
Funguje to ve všech umístěních, protože partnerské Sparky nabízejí stejné image DGX OS a Ubuntu. Moje vlastní Sparky jsou v datacentru v Hradci Králové v Česku. Partnerské Sparky vlastní a ve svých prostorách hostují partneři v USA, Švédsku, Nizozemsku, na Slovensku a v Hongkongu a partner má ke svému stroji fyzický přístup. Konzole před nasazením ukáže zemi a zda je v EHP.
Kdo to provozuje
GPUwerk je nová platforma a já jsem člověk, který za ní stojí: Samuel Seidel, zakladatel, působící jako PRINT IT! SE se sídlem v Praze. Od září 2026 na ní 94 vývojářů spustilo 374 instancí (k 9. listopadu 2026). Dostupnost a incidenty najdete na status.gpuwerk.com. Pokud si nejste jisti, že váš stack poběží, napište mi před zaplacením přes kontaktní stránku; odpovídám sám.
FAQ
Jaká verze CUDA je na stroji?
Oba image, DGX OS 7 i Ubuntu 24.04, obsahují toolkit CUDA 13.0 s nvcc a NCCL. Ovladač NVIDIA pochází z hostitele a zevnitř instance ho nelze změnit.
Je image DGX OS skutečně DGX OS od NVIDIA?
Ne. Je to můj build v kontejneru: Ubuntu 24.04 s toolkitem CUDA 13.0, NCCL a NVIDIA DCGM. /etc/dgx-release ho identifikuje jako image GPUwerk.
Mohu na něm sestavovat Docker image?
Na některých strojích ano: mnoho pronajímaných Sparků spouští vaši instanci jako systémový kontejner s vlastním démonem Dockeru, takže docker build a docker run --gpus all běží nativně na arm64. Jiné spouštějí prostý kontejner bez Dockeru. Vybrat si nemůžete; docker info vám řekne, co máte.
Kolik stojí krátký test?
Zhruba 0,26 $ za 20 minut při 0,79 $ za hodinu, účtováno po minutách z předplaceného kreditu. K nasazení potřebuje účet kredit na jednu hodinu. Po dokončení instanci ukončete a účtování skončí; tím se pracovní prostor smaže.