DGX Spark/ARM64- és CUDA-tesztelés
Felhasználási eset · Tesztelés és portolás

Tesztelje és portolja szoftverét valódi GB10-en: aarch64, CUDA, sm_121

Szerző: Samuel Seidel · Frissítve: 2026. november 10. · 7 perces olvasmány

Egy issue szerint a könyvtára nem működik DGX Sparkon, Önnek pedig nincs ilyenje. Vagy a wheel-jei x86-on épülnek, és még senki nem próbálta ki őket Arm CPU-n Blackwell GPU-val. Béreljen egy teljes Sparkot annyi percre, amennyi a kiderítéshez kell: root shell egy NVIDIA GB10-en (aarch64, CUDA compute capability 12.1), telepített CUDA 13.0 toolkittel. 0,79 dolláros óradíjjal, percalapú számlázással egy 20 perces ellenőrzés körülbelül 0,26 USD.

Első feltöltés: fizessen 20 USD-t, kapjon 30 USD kreditet. Percalapú számlázás az előre fizetett kreditből. Ha végzett, szüntesse meg a példányt, és a számlázás véget ér. Akik tőlem bérelnek Sparkot, többnyire az alap DGX OS lemezképet indítják és saját stacket hoznak; erről szól ez az oldal.

Amit kap

CPU20 magos Arm (10 Cortex-X925 és 10 Cortex-A725), az uname -m kimenete aarch64
GPUNVIDIA GB10, Blackwell generáció, compute capability 12.1 (sm_121)
Memória128 GB egységes LPDDR5x, amelyen a CPU és a GPU osztozik, 273 GB/s
LemezképekDGX OS 7: Ubuntu 24.04 a CUDA 13.0 toolkittel (nvcc), NCCL-lel és NVIDIA DCGM-mel. Ubuntu 24.04: ugyanez DCGM nélkül. Mindkettőben van git, tmux, vim, curl és Python 3 pip-pel és venv-vel.
HozzáférésRoot terminál a böngészőben SSH-kulcs nélkül, vagy SSH rootként a 22-es porton a saját kulcsával. Minden példánynak saját nyilvános IPv4-címe és <name>.gpuwerk.com hosztneve van.
Hogyan futKonténer közvetlenül átadott GPU-val: sok Sparkon rendszerkonténer systemd-vel és Dockerrel, a többin pedig egyszerű konténer, amelyben egyik sincs. A konténerben Ön root, az NVIDIA-illesztőprogram a hoszttól érkezik.
Tárhely1 TB NVMe, a hoszttal közösen. A /workspace túléli az újraindításokat és újraépítéseket, és megszüntetéskor törlődik.

A konzolban DGX OS 7 néven szereplő lemezkép az én buildem: Ubuntu 24.04 a fenti csomagokkal, egy konténerben. Nem az NVIDIA DGX OS telepítő lemezképe, és ezt az /etc/dgx-release is jelzi. Hogy mi fut egy konténerben és mi nem, azt a bérlői környezet jegyzetei írják le.

Első ellenőrzés öt perc alatt

Indítson egy DGX Spark 1× példányt a DGX OS lemezképpel, várja meg a running állapotot, és kattintson a példány oldalán az Open terminal in browser gombra. Ezután ellenőrizze, min dolgozik:

uname -m                                    # aarch64
nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv
nvcc --version | tail -n 2                  # CUDA 13.0

python3 -m venv /workspace/venv && . /workspace/venv/bin/activate
pip install torch --index-url https://download.pytorch.org/whl/cu130
python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"

Az utolsó sor kiírja a GB10-et és a (12, 1) értéket. Egyes PyTorch-buildek figyelmeztetést írnak ki, hogy az sm_121 nem kompatibilis; ez általában téves, és a PyTorch DGX Sparkon útmutató elmagyarázza, miért, és melyik wheel-t válassza.

Fordítsa le és tesztelje a projektjét

cd /workspace
git clone https://github.com/your-org/your-project.git
cd your-project
pip install -e '.[test]'           # or your own build step
pytest -x -q
pip wheel . --no-deps -w dist/     # an aarch64 wheel to take home

Három dolog szokta meglepni az embereket ezen a chipen:

A buildtermékek hazaviteléhez másolja le őket a saját SSH-kulcsával, majd szüntesse meg a példányt:

# on your laptop
scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .

Szkriptelt futtatások a saját CI-jából

Nincs kész CI-integráció. Ami van: egy API, amely percalapon indít és szüntet meg példányokat, így a saját runnerén futó feladat kölcsönvehet egy Sparkot, SSH-n lefuttathatja rajta a tesztjeit, majd visszaadhatja. Használjon instances jogosultságú API-kulcsot.

curl -s -X POST https://api.gpuwerk.com/v1/instances \
  -H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
  -d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
  -H "Authorization: Bearer $GPUWERK_TOKEN"     # billing ends, workspace deleted

Egy indításhoz legalább egy órára elegendő kredit kell (különben 402), és 409-et ad vissza, ha nincs szabad gép, ezt a feladatának kezelnie kell. Az API-n keresztüli indítások egy EGT-beli gépre kerülnek, hacsak nem adja meg a location_country vagy a partner_region mezőt. Minden mező megtalálható az API-referenciában.

Mennyibe kerül egy ellenőrzés

AlkalomKöltség 0,79 USD/órával
Egy hibajelentés reprodukálása, 20 perckörülbelül 0,26 USD
Kiadás fordítása és tesztelése, 1 óra0,79 $
Egy nap portolás, 8 óra6,32 $

A számlázás percalapú, az előre fizetett kreditből, és akkor indul, amikor a példány átmegy a készenléti ellenőrzésen. Az indításhoz a fióknak egy órára elegendő kredit kell. Első feltöltés: fizessen 20 USD-t, kapjon 30 USD kreditet, ez körülbelül 37 óra egy Sparkon. A leállított példány megtartja a munkaterületét, és az óradíj 75%-ával számlázzuk; ha végzett, szüntesse meg a példányt, és a számlázás véget ér, ez pedig törli a munkaterületet. Az árak adott esetben ÁFA nélkül értendők.

Amit egy bérelt GB10 nem tud megmutatni

Hol vannak a Sparkok

Ez minden helyszínen működik, mert a partner-Sparkok ugyanazokat a DGX OS és Ubuntu lemezképeket kínálják. A saját Sparkjaim egy Hradec Králové-i adatközpontban vannak, Csehországban. A partner-Sparkokat partnerek birtokolják és üzemeltetik saját telephelyükön az USA-ban, Svédországban, Hollandiában, Szlovákiában és Hongkongban, és a partnernek fizikai hozzáférése van a gépéhez. A konzol az indítás előtt mutatja az országot, és hogy az EGT-n belül van-e.

Ki üzemelteti ezt

A GPUwerk új platform, és én állok mögötte: Samuel Seidel, alapító, a prágai bejegyzésű PRINT IT! SE néven. 2026 szeptembere óta 94 fejlesztő 374 példányt indított rajta (2026. november 9-i állapot). A rendelkezésre állás és az incidensek a status.gpuwerk.com oldalon láthatók. Ha nem biztos benne, hogy a stackje futni fog, fizetés előtt írjon nekem a kapcsolati oldalon; magam válaszolok.

GYIK

Melyik CUDA-verzió van a gépen?

Mindkét lemezkép, a DGX OS 7 és az Ubuntu 24.04 is tartalmazza a CUDA 13.0 toolkitet nvcc-vel és NCCL-lel. Az NVIDIA-illesztőprogram a hoszttól érkezik, és a példányon belülről nem módosítható.

A DGX OS lemezkép az NVIDIA DGX OS-e?

Nem. Ez az én buildem egy konténerben: Ubuntu 24.04 a CUDA 13.0 toolkittel, NCCL-lel és NVIDIA DCGM-mel. Az /etc/dgx-release GPUwerk-lemezképként azonosítja.

Építhetek rajta Docker-lemezképeket?

Egyes gépeken igen: sok bérelt Spark rendszerkonténerként, saját Docker-démonnal futtatja a példányát, így a docker build és a docker run --gpus all natívan fut arm64-en. Mások egyszerű konténert futtatnak Docker nélkül. Ezt nem lehet megválasztani; a docker info megmutatja, melyik van Önnél.

Mennyibe kerül egy rövid teszt?

Körülbelül 0,26 USD 20 percre 0,79 dolláros óradíjjal, percalapú számlázással az előre fizetett kreditből. Az indításhoz a fióknak egy órára elegendő kredit kell. Ha végzett, szüntesse meg a példányt, és a számlázás véget ér; ez törli a munkaterületet.

Első feltöltés: fizessen 20 USD-t, kapjon 30 USD kreditet

Reprodukálja ma egy GB10-en.

Dedikált DGX Spark root shellel és CUDA 13.0-val, 0,79 USD/óra percalapú számlázással. Ha végzett, szüntesse meg a példányt, és a számlázás véget ér.

Indítás most