Testirajte i prilagodite softver na stvarnom GB10: aarch64, CUDA, sm_121
U prijavi problema piše da vaša biblioteka ne radi na DGX Sparku, a vi ga nemate. Ili se vaši wheel paketi grade na x86, a nitko ih nije isprobao na Arm CPU-u s Blackwell GPU-om. Unajmite cijeli Spark na onoliko minuta koliko vam treba da to provjerite: root ljuska na NVIDIA GB10 (aarch64, CUDA compute capability 12.1) s instaliranim CUDA 13.0 toolkitom. Uz 0,79 USD po satu i naplatu po minuti, provjera od 20 minuta stoji oko 0,26 USD.
Prva nadoplata: platite 20 USD, dobijete 30 USD kredita. Naplata po minuti iz unaprijed plaćenog kredita. Ukinite instancu kad završite i naplata prestaje. Većina ljudi koji od mene unajme Spark pokreće običnu sliku sustava DGX OS i donosi vlastiti stack, o čemu ova stranica i govori.
Što dobivate
| CPU | 20-jezgreni Arm (10 Cortex-X925 i 10 Cortex-A725), uname -m prikazuje aarch64 |
|---|---|
| GPU | NVIDIA GB10, generacija Blackwell, compute capability 12.1 (sm_121) |
| Memorija | 128 GB objedinjene LPDDR5x memorije koju dijele CPU i GPU, 273 GB/s |
| Slike | DGX OS 7: Ubuntu 24.04 s CUDA 13.0 toolkitom (nvcc), NCCL-om i NVIDIA DCGM-om. Ubuntu 24.04: isto, bez DCGM-a. Oba imaju git, tmux, vim, curl i Python 3 s pipom i venvom. |
| Pristup | Root terminal u pregledniku bez SSH ključa ili SSH kao root na portu 22 s vlastitim ključem. Svaka instanca ima vlastitu javnu IPv4 adresu i naziv hosta <name>.gpuwerk.com. |
| Kako radi | Spremnik s izravno proslijeđenim GPU-om: na mnogim Sparkovima sistemski spremnik sa systemd-om i Dockerom, na ostalima običan spremnik bez njih. Unutra ste root; NVIDIA upravljački program dolazi s hosta. |
| Pohrana | 1 TB NVMe, dijeli se s hostom. /workspace ostaje sačuvan nakon ponovnih pokretanja i ponovnih izgradnji, a briše se kada ukinete instancu. |
Slika koja se u konzoli zove DGX OS 7 moja je izgradnja: Ubuntu 24.04 uz gore navedene pakete, u spremniku. Nije NVIDIA-ina instalacijska slika DGX OS-a, a /etc/dgx-release to i kaže. Što u spremniku radi, a što ne, opisano je u bilješkama o okruženju korisnika.
Prva provjera za pet minuta
Pokrenite DGX Spark 1× sa slikom sustava DGX OS, pričekajte stanje running i na stranici instance kliknite Open terminal in browser. Zatim potvrdite na čemu ste:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Posljednji redak ispisuje GB10 i (12, 1). Neki PyTorch buildovi ispisuju upozorenje da sm_121 nije kompatibilan; obično je pogrešno, a vodič PyTorch na DGX Sparku objašnjava zašto i koji wheel odabrati.
Izgradite i testirajte svoj projekt
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Tri stvari ljude iznenade na ovom čipu:
- Navedite arhitekturu. Za vlastiti CUDA kod prevodite s
-gencode=arch=compute_121a,code=sm_121aili s-DCMAKE_CUDA_ARCHITECTURES=121a-realu CMakeu. Skraćeni oblik-arch=sm_121amože ispustiti „a”, a s njime i FP4 instrukcije, kako je utvrđeno u temi na NVIDIA-inu forumu (pojedinosti u vodiču o TFLOPS-ima). Izgradnja za drugu arhitekturu može se uredno prevesti, a zatim loše raditi. - Očekujte prevođenje iz izvornog koda. Mnogi paketi za aarch64 i sm_121 nemaju gotov wheel, pa ih pip prevodi sam. Ograničite broj paralelnih zadataka (
MAX_JOBS=4) kako veliko prevođenje ne bi potrošilo svih 128 GB memorije. - Kerneli za druge Blackwell čipove ne prenose se svi. sm_121 izvodi kod izgrađen za sm_120, ali kerneli pisani za Blackwell za podatkovne centre (sm_100) ne, a neki su FP4 putevi radili bez pogrešaka, a davali kriv rezultat. Provjerite rezultate, a ne samo to da se pokrenulo.
Da biste rezultate izgradnje ponijeli kući, kopirajte ih vlastitim SSH ključem, a zatim ukinite instancu:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Skriptirana izvođenja iz vašeg vlastitog CI-ja
Gotove integracije za CI nema. Postoji API koji pokreće i ukida instance po minuti, pa posao na vašem izvršitelju može posuditi Spark, pokrenuti testove preko SSH-a i vratiti ga. Upotrijebite API ključ s opsegom za instance.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Za pokretanje instance potreban je kredit za najmanje jedan sat (inače 402), a vraća 409 kada nijedan stroj nije slobodan, pa vaš posao to mora obraditi. Pokretanja putem API-ja idu na stroj u EGP-u, osim ako postavite location_country ili partner_region. Sva su polja u API referenci.
Koliko stoji provjera
| Sesija | Trošak uz 0,79 USD/h |
|---|---|
| Reprodukcija jedne prijave greške, 20 minuta | oko 0,26 USD |
| Izgradnja i testiranje izdanja, 1 sat | 0,79 $ |
| Dan prilagodbe koda, 8 sati | 6,32 $ |
Naplata je po minuti iz unaprijed plaćenog kredita i počinje kada instanca prođe provjeru spremnosti. Za pokretanje instance korisnički račun treba kredit za jedan sat. Prva nadoplata: platite 20 USD, dobijete 30 USD kredita, oko 37 sati na jednom Sparku. Zaustavljena instanca zadržava radni prostor i naplaćuje se po 75 % satne cijene; ukinite je kada završite i naplata prestaje, a time se radni prostor briše. Cijene ne uključuju PDV gdje se primjenjuje.
Što vam unajmljeni GB10 ne može reći
- Riječ je o spremniku, a ne o golom stroju. Ne možete učitavati module jezgre ni mijenjati upravljački program, a verzija upravljačkog programa ona je koju vodi host. Regresije upravljačkih programa ovdje su izvan vašeg dosega.
- Docker ovisi o stroju. Mnogi Sparkovi pokreću vašu instancu kao sistemski spremnik s vlastitim Docker daemonom, pa
docker buildidocker runrade; drugi pokreću običan spremnik bez njega, a vi ne možete birati koji. Pogledajte stranicu o okruženju korisnika. - Jedan čip. To što nešto radi na GB10 ne govori ništa o Grace Hopperu (sm_90), Blackwellu za podatkovne centre (sm_100) ili Jetsonu. GB10 strojevi drugih proizvođača dijele čip, ali se mogu razlikovati u firmveru.
- systemd ovisi o stroju. Mnogi Sparkovi pokreću systemd u vašoj instanci; drugi pokreću običan spremnik bez njega i bez
NET_ADMIN, gdje usluge pokrećete iz ljuske, tmuxa ili iz skripte pri pokretanju. TUN uređaja nema ni u jednom slučaju, pa VPN klijenti u načinu rada jezgre ne rade. - Bez SLA-a i bez sigurnosnih kopija. Prekopirajte sve što vam treba sa stroja prije nego što ga ukinete.
Gdje se Sparkovi nalaze
Ovo radi na svakoj lokaciji jer partnerski Sparkovi nude iste slike DGX OS i Ubuntu. Moji su Sparkovi u podatkovnom centru u Hradecu Králové u Češkoj. Partnerski Sparkovi u vlasništvu su partnera koji ih hostiraju u vlastitim prostorima u SAD-u, Švedskoj, Nizozemskoj, Slovačkoj i Hong Kongu, a partner ima fizički pristup svom stroju. Konzola prije pokretanja prikazuje zemlju i je li ona u EGP-u.
Tko ovo vodi
GPUwerk je nova platforma, a ja sam osoba iza nje: Samuel Seidel, osnivač, poslujem kao PRINT IT! SE, registriran u Pragu. Od rujna 2026. na njoj je 94 razvojna programera pokrenulo 374 instance (stanje 9. studenoga 2026.). Dostupnost i incidenti nalaze se na status.gpuwerk.com. Ako niste sigurni da će vaš stack raditi, pišite mi preko stranice za kontakt prije plaćanja; odgovaram osobno.
Česta pitanja
Koja je verzija CUDA-e na stroju?
Obje slike, DGX OS 7 i Ubuntu 24.04, sadrže alate CUDA 13.0 s nvcc i NCCL. NVIDIA upravljački program dolazi s hosta i ne može se mijenjati iz instance.
Je li slika sustava DGX OS zapravo NVIDIA-in DGX OS?
Ne. Riječ je o mojoj izgradnji u spremniku: Ubuntu 24.04 s CUDA 13.0 toolkitom, NCCL-om i NVIDIA DCGM-om. /etc/dgx-release označava je kao GPUwerkovu sliku.
Mogu li na njemu graditi Docker slike?
Na nekim strojevima da: mnogi unajmljeni Sparkovi pokreću vašu instancu kao sistemski spremnik s vlastitim Docker daemonom, pa docker build i docker run --gpus all rade izvorno na arm64. Drugi pokreću običan spremnik bez Dockera. Ne možete birati koji; docker info pokazuje što imate.
Koliko košta kratko testiranje?
Oko 0,26 USD za 20 minuta uz 0,79 USD po satu, naplata po minuti iz unaprijed plaćenog kredita. Za pokretanje instance korisnički račun treba kredit za jedan sat. Ukinite instancu kada završite i naplata prestaje; time se radni prostor briše.