Tesztelje és portolja szoftverét valódi GB10-en: aarch64, CUDA, sm_121
Egy issue szerint a könyvtára nem működik DGX Sparkon, Önnek pedig nincs ilyenje. Vagy a wheel-jei x86-on épülnek, és még senki nem próbálta ki őket Arm CPU-n Blackwell GPU-val. Béreljen egy teljes Sparkot annyi percre, amennyi a kiderítéshez kell: root shell egy NVIDIA GB10-en (aarch64, CUDA compute capability 12.1), telepített CUDA 13.0 toolkittel. 0,79 dolláros óradíjjal, percalapú számlázással egy 20 perces ellenőrzés körülbelül 0,26 USD.
Első feltöltés: fizessen 20 USD-t, kapjon 30 USD kreditet. Percalapú számlázás az előre fizetett kreditből. Ha végzett, szüntesse meg a példányt, és a számlázás véget ér. Akik tőlem bérelnek Sparkot, többnyire az alap DGX OS lemezképet indítják és saját stacket hoznak; erről szól ez az oldal.
Amit kap
| CPU | 20 magos Arm (10 Cortex-X925 és 10 Cortex-A725), az uname -m kimenete aarch64 |
|---|---|
| GPU | NVIDIA GB10, Blackwell generáció, compute capability 12.1 (sm_121) |
| Memória | 128 GB egységes LPDDR5x, amelyen a CPU és a GPU osztozik, 273 GB/s |
| Lemezképek | DGX OS 7: Ubuntu 24.04 a CUDA 13.0 toolkittel (nvcc), NCCL-lel és NVIDIA DCGM-mel. Ubuntu 24.04: ugyanez DCGM nélkül. Mindkettőben van git, tmux, vim, curl és Python 3 pip-pel és venv-vel. |
| Hozzáférés | Root terminál a böngészőben SSH-kulcs nélkül, vagy SSH rootként a 22-es porton a saját kulcsával. Minden példánynak saját nyilvános IPv4-címe és <name>.gpuwerk.com hosztneve van. |
| Hogyan fut | Konténer közvetlenül átadott GPU-val: sok Sparkon rendszerkonténer systemd-vel és Dockerrel, a többin pedig egyszerű konténer, amelyben egyik sincs. A konténerben Ön root, az NVIDIA-illesztőprogram a hoszttól érkezik. |
| Tárhely | 1 TB NVMe, a hoszttal közösen. A /workspace túléli az újraindításokat és újraépítéseket, és megszüntetéskor törlődik. |
A konzolban DGX OS 7 néven szereplő lemezkép az én buildem: Ubuntu 24.04 a fenti csomagokkal, egy konténerben. Nem az NVIDIA DGX OS telepítő lemezképe, és ezt az /etc/dgx-release is jelzi. Hogy mi fut egy konténerben és mi nem, azt a bérlői környezet jegyzetei írják le.
Első ellenőrzés öt perc alatt
Indítson egy DGX Spark 1× példányt a DGX OS lemezképpel, várja meg a running állapotot, és kattintson a példány oldalán az Open terminal in browser gombra. Ezután ellenőrizze, min dolgozik:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Az utolsó sor kiírja a GB10-et és a (12, 1) értéket. Egyes PyTorch-buildek figyelmeztetést írnak ki, hogy az sm_121 nem kompatibilis; ez általában téves, és a PyTorch DGX Sparkon útmutató elmagyarázza, miért, és melyik wheel-t válassza.
Fordítsa le és tesztelje a projektjét
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Három dolog szokta meglepni az embereket ezen a chipen:
- Nevezze meg az architektúrát. Saját CUDA-kódjához fordítson a
-gencode=arch=compute_121a,code=sm_121akapcsolóval, CMake-ben pedig a-DCMAKE_CUDA_ARCHITECTURES=121a-realbeállítással. A-arch=sm_121arövidítés elhagyhatja az „a”-t, és vele együtt az FP4-utasításokat, ahogy egy NVIDIA fórumszál kiderítette (részletek a TFLOPS-útmutatóban). Egy másik architektúrára készült build hiba nélkül lefordulhat, aztán rosszul futhat. - Számítson forrásból való fordításra. Sok aarch64-es és sm_121-es csomaghoz nincs wheel, ezért a pip lefordítja őket. Korlátozza a párhuzamos feladatokat (
MAX_JOBS=4), hogy egy nagy fordítás ne fogyassza el a 128 GB memóriát. - Más Blackwell chipek kerneljei nem mind vihetők át. Az sm_121 futtatja az sm_120-ra fordított kódot, de az adatközponti Blackwellre (sm_100) írt kernelek nem futnak, és egyes FP4-útvonalak hiba nélkül futottak, mégis hibás kimenetet adtak. Az eredményeket ellenőrizze, ne csak azt, hogy lefutott-e.
A buildtermékek hazaviteléhez másolja le őket a saját SSH-kulcsával, majd szüntesse meg a példányt:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Szkriptelt futtatások a saját CI-jából
Nincs kész CI-integráció. Ami van: egy API, amely percalapon indít és szüntet meg példányokat, így a saját runnerén futó feladat kölcsönvehet egy Sparkot, SSH-n lefuttathatja rajta a tesztjeit, majd visszaadhatja. Használjon instances jogosultságú API-kulcsot.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Egy indításhoz legalább egy órára elegendő kredit kell (különben 402), és 409-et ad vissza, ha nincs szabad gép, ezt a feladatának kezelnie kell. Az API-n keresztüli indítások egy EGT-beli gépre kerülnek, hacsak nem adja meg a location_country vagy a partner_region mezőt. Minden mező megtalálható az API-referenciában.
Mennyibe kerül egy ellenőrzés
| Alkalom | Költség 0,79 USD/órával |
|---|---|
| Egy hibajelentés reprodukálása, 20 perc | körülbelül 0,26 USD |
| Kiadás fordítása és tesztelése, 1 óra | 0,79 $ |
| Egy nap portolás, 8 óra | 6,32 $ |
A számlázás percalapú, az előre fizetett kreditből, és akkor indul, amikor a példány átmegy a készenléti ellenőrzésen. Az indításhoz a fióknak egy órára elegendő kredit kell. Első feltöltés: fizessen 20 USD-t, kapjon 30 USD kreditet, ez körülbelül 37 óra egy Sparkon. A leállított példány megtartja a munkaterületét, és az óradíj 75%-ával számlázzuk; ha végzett, szüntesse meg a példányt, és a számlázás véget ér, ez pedig törli a munkaterületet. Az árak adott esetben ÁFA nélkül értendők.
Amit egy bérelt GB10 nem tud megmutatni
- Ez konténer, nem bare metal. Nem tölthet be kernelmodulokat és nem módosíthatja az illesztőprogramot, az illesztőprogram verziója pedig az, amit a hoszt futtat. Az illesztőprogram-regressziók itt elérhetetlenek.
- A Docker a géptől függ. Sok Spark rendszerkonténerként futtatja a példányát saját Docker-démonnal, így a
docker buildés adocker runműködik; mások egyszerű konténert futtatnak démon nélkül, és ezt nem lehet megválasztani. Lásd a bérlői környezet oldalát. - Egy chip. Ha GB10-en átmegy, az semmit sem mond a Grace Hopperről (sm_90), az adatközponti Blackwellről (sm_100) vagy a Jetsonról. Más gyártók GB10-es gépeiben ugyanaz a chip van, de a firmware-ük eltérhet.
- A systemd a géptől függ. Sok Sparkon a példányában systemd fut; a többin egyszerű konténer fut nélküle és
NET_ADMINnélkül, ahol a szolgáltatásokat shellből, tmuxból vagy az indítási hookból indítja. TUN-eszköz egyik esetben sincs, így a kernel módú VPN-kliensek nem futnak. - Nincs SLA és nincs biztonsági mentés. A megszüntetés előtt másoljon le a gépről mindent, amire szüksége van.
Hol vannak a Sparkok
Ez minden helyszínen működik, mert a partner-Sparkok ugyanazokat a DGX OS és Ubuntu lemezképeket kínálják. A saját Sparkjaim egy Hradec Králové-i adatközpontban vannak, Csehországban. A partner-Sparkokat partnerek birtokolják és üzemeltetik saját telephelyükön az USA-ban, Svédországban, Hollandiában, Szlovákiában és Hongkongban, és a partnernek fizikai hozzáférése van a gépéhez. A konzol az indítás előtt mutatja az országot, és hogy az EGT-n belül van-e.
Ki üzemelteti ezt
A GPUwerk új platform, és én állok mögötte: Samuel Seidel, alapító, a prágai bejegyzésű PRINT IT! SE néven. 2026 szeptembere óta 94 fejlesztő 374 példányt indított rajta (2026. november 9-i állapot). A rendelkezésre állás és az incidensek a status.gpuwerk.com oldalon láthatók. Ha nem biztos benne, hogy a stackje futni fog, fizetés előtt írjon nekem a kapcsolati oldalon; magam válaszolok.
GYIK
Melyik CUDA-verzió van a gépen?
Mindkét lemezkép, a DGX OS 7 és az Ubuntu 24.04 is tartalmazza a CUDA 13.0 toolkitet nvcc-vel és NCCL-lel. Az NVIDIA-illesztőprogram a hoszttól érkezik, és a példányon belülről nem módosítható.
A DGX OS lemezkép az NVIDIA DGX OS-e?
Nem. Ez az én buildem egy konténerben: Ubuntu 24.04 a CUDA 13.0 toolkittel, NCCL-lel és NVIDIA DCGM-mel. Az /etc/dgx-release GPUwerk-lemezképként azonosítja.
Építhetek rajta Docker-lemezképeket?
Egyes gépeken igen: sok bérelt Spark rendszerkonténerként, saját Docker-démonnal futtatja a példányát, így a docker build és a docker run --gpus all natívan fut arm64-en. Mások egyszerű konténert futtatnak Docker nélkül. Ezt nem lehet megválasztani; a docker info megmutatja, melyik van Önnél.
Mennyibe kerül egy rövid teszt?
Körülbelül 0,26 USD 20 percre 0,79 dolláros óradíjjal, percalapú számlázással az előre fizetett kreditből. Az indításhoz a fióknak egy órára elegendő kredit kell. Ha végzett, szüntesse meg a példányt, és a számlázás véget ér; ez törli a munkaterületet.