DGX Spark/ARM64 ir CUDA testavimas
Naudojimo atvejis · Testavimas ir perkėlimas

Testuokite ir perkelkite savo programinę įrangą tikrame GB10: aarch64, CUDA, sm_121

Autorius Samuel Seidel · Atnaujinta 2026 m. lapkričio 10 d. · 7 min. skaitymo

Pranešime apie klaidą rašoma, kad jūsų biblioteka neveikia DGX Spark įrenginyje, o jūs jo neturite. Arba jūsų wheel paketai kompiliuojasi x86, bet niekas jų nebandė su Arm CPU ir Blackwell GPU. Išsinuomokite visą Spark tiek minučių, kiek reikia išsiaiškinti: root apvalkalas NVIDIA GB10 (aarch64, CUDA compute capability 12.1) su įdiegtu CUDA 13.0 įrankių rinkiniu. Už 0,79 USD per valandą, apmokestinama už minutę, 20 minučių patikrinimas kainuoja apie 0,26 USD.

Pirmasis papildymas: sumokėkite 20 USD, gaukite 30 USD kredito. Apmokestinama už minutę iš išankstinio kredito. Baigę darbą nutraukite egzempliorių, ir mokestis nebeskaičiuojamas. Dauguma žmonių, kurie iš manęs nuomojasi Spark, paleidžia paprastą DGX OS atvaizdą ir naudoja savo programinę įrangą – būtent apie tai šis puslapis.

Ką gaunate

CPU20 branduolių Arm (10 Cortex-X925 ir 10 Cortex-A725), uname -m rodo aarch64
GPUNVIDIA GB10, Blackwell karta, compute capability 12.1 (sm_121)
Atmintis128 GB bendros LPDDR5x atminties, kuria dalijasi CPU ir GPU, 273 GB/s
VaizdaiDGX OS 7: Ubuntu 24.04 su CUDA 13.0 įrankių rinkiniu (nvcc), NCCL ir NVIDIA DCGM. Ubuntu 24.04: tas pats be DCGM. Abiejuose yra git, tmux, vim, curl ir Python 3 su pip bei venv.
PrieigaRoot terminalas naršyklėje be SSH rakto arba SSH kaip root per 22 prievadą su jūsų raktu. Kiekvienas egzempliorius turi savo viešą IPv4 adresą ir serverio vardą <name>.gpuwerk.com.
Kaip tai veikiaKonteineris su tiesiogiai perduota GPU: daugelyje Spark – sisteminis konteineris su systemd ir Docker, kituose – paprastas, be jų. Jame turite root teises; NVIDIA tvarkyklė gaunama iš pagrindinės sistemos.
Diskas1 TB NVMe, bendras su pagrindine sistema. /workspace išlieka po paleidimų iš naujo ir perkūrimų ir ištrinamas, kai nutraukiate egzempliorių.

Konsolėje DGX OS 7 vadinamas atvaizdas yra mano sukurta versija: Ubuntu 24.04 ir aukščiau nurodyti paketai konteineryje. Tai nėra NVIDIA DGX OS diegimo atvaizdas, ir /etc/dgx-release tai nurodo. Kas veikia konteineryje, o kas ne, aprašyta nuomininko aplinkos pastabose.

Pirmasis patikrinimas per penkias minutes

Paleiskite DGX Spark 1× su DGX OS atvaizdu, palaukite būsenos running ir egzemplioriaus puslapyje spustelėkite Atidaryti terminalą naršyklėje. Tada patikrinkite, kur esate:

uname -m                                    # aarch64
nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv
nvcc --version | tail -n 2                  # CUDA 13.0

python3 -m venv /workspace/venv && . /workspace/venv/bin/activate
pip install torch --index-url https://download.pytorch.org/whl/cu130
python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"

Paskutinė eilutė išveda GB10 ir (12, 1). Kai kurios PyTorch versijos išveda įspėjimą, kad sm_121 nesuderinamas; paprastai jis klaidingas, o vadove PyTorch DGX Spark paaiškinta kodėl ir kurį wheel paketą rinktis.

Sukompiliuokite ir išbandykite savo projektą

cd /workspace
git clone https://github.com/your-org/your-project.git
cd your-project
pip install -e '.[test]'           # or your own build step
pytest -x -q
pip wheel . --no-deps -w dist/     # an aarch64 wheel to take home

Šiame luste žmones dažniausiai užklumpa trys dalykai:

Norėdami pasiimti kompiliavimo rezultatus, nusikopijuokite juos su savo SSH raktu, tada nutraukite egzempliorių:

# on your laptop
scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .

Scenarijais valdomi paleidimai iš jūsų pačių CI

Paruoštos CI integracijos nėra. Yra API, kuri paleidžia ir nutraukia egzempliorius minutėmis, todėl užduotis jūsų paleidiklyje gali pasiskolinti Spark, per SSH paleisti savo testus ir jį grąžinti. Naudokite API raktą su egzempliorių (instances) apimtimi.

curl -s -X POST https://api.gpuwerk.com/v1/instances \
  -H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
  -d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
  -H "Authorization: Bearer $GPUWERK_TOKEN"     # billing ends, workspace deleted

Paleidimui reikia kredito bent vienai valandai (kitaip grąžinama 402), o kai laisvo įrenginio nėra, grąžinama 409, todėl jūsų užduotis turi tai apdoroti. Per API paleidžiami egzemplioriai patenka į įrenginį EEE, nebent nustatote location_country arba partner_region. Visi laukai aprašyti API žinyne.

Kiek kainuoja patikrinimas

SesijaKaina po 0,79 USD/val.
Atkurti vieną klaidos pranešimą, 20 minučiųapie 0,26 USD
Sukompiliuoti ir išbandyti leidimą, 1 valanda0,79 $
Perkėlimo diena, 8 valandos6,32 $

Apmokestinama už minutę iš išankstinio kredito; apmokestinimas prasideda, kai egzempliorius praeina parengties patikrą. Norint paleisti, paskyroje turi būti kredito vienai valandai. Pirmasis papildymas: sumokėkite 20 USD, gaukite 30 USD kredito, tai apie 37 valandos viename Spark. Sustabdytas egzempliorius išlaiko darbo sritį ir apmokestinamas 75% valandinio tarifo; baigę darbą jį nutraukite, ir mokestis nebeskaičiuojamas, o darbo sritis ištrinama. Kainos nurodytos be PVM, kai jis taikomas.

Ko išnuomotas GB10 negali parodyti

Kur yra Spark

Tai veikia kiekvienoje vietoje, nes partnerių Spark siūlo tuos pačius DGX OS ir Ubuntu atvaizdus. Mano nuosavi Spark yra duomenų centre Hradec Králové, Čekijoje. Partnerių Spark priklauso partneriams ir yra talpinami jų patalpose JAV, Švedijoje, Nyderlanduose, Slovakijoje ir Honkonge, o partneris turi fizinę prieigą prie savo įrenginio. Prieš paleidžiant konsolė rodo šalį ir ar ji yra EEE.

Kas tai valdo

GPUwerk – nauja platforma, o aš esu žmogus, kuris už jos stovi: Samuel Seidel, įkūrėjas, veikiantis per PRINT IT! SE, registruotą Prahoje. Nuo 2026 m. rugsėjo 94 kūrėjai joje paleido 374 egzempliorius (2026 m. lapkričio 9 d. duomenimis). Veikimo laikas ir incidentai skelbiami status.gpuwerk.com. Jei nesate tikri, ar jūsų programinė įranga veiks, prieš mokėdami parašykite man per kontaktų puslapį; atsakau pats.

DUK

Kokia CUDA versija yra įrenginyje?

Abiejuose atvaizduose, DGX OS 7 ir Ubuntu 24.04, yra CUDA 13.0 įrankių rinkinys su nvcc ir NCCL. NVIDIA tvarkyklė gaunama iš pagrindinės sistemos ir jos negalima pakeisti iš egzemplioriaus vidaus.

Ar DGX OS atvaizdas yra NVIDIA DGX OS?

Ne. Tai mano sukurta versija konteineryje: Ubuntu 24.04 su CUDA 13.0 įrankių rinkiniu, NCCL ir NVIDIA DCGM. /etc/dgx-release identifikuoja jį kaip GPUwerk atvaizdą.

Ar galiu jame kurti Docker atvaizdus?

Kai kuriuose įrenginiuose – taip: daugelyje nuomojamų Spark jūsų egzempliorius veikia kaip sisteminis konteineris su savo Docker tarnyba, todėl docker build ir docker run --gpus all natyviai veikia arm64. Kituose veikia paprastas konteineris be Docker. Pasirinkti negalite; docker info parodo, kurį turite.

Kiek kainuoja trumpas testas?

Apie 0,26 USD už 20 minučių po 0,79 USD per valandą, apmokestinama už minutę iš išankstinio kredito. Norint paleisti, paskyroje turi būti kredito vienai valandai. Baigę darbą nutraukite egzempliorių, ir mokestis nebeskaičiuojamas; kartu ištrinama darbo sritis.

Pirmasis papildymas: sumokėkite 20 USD, gaukite 30 USD kredito

Atkurkite tai GB10 jau šiandien.

Dedikuotas DGX Spark su root apvalkalu ir CUDA 13.0, 0,79 USD/val., apmokestinama už minutę. Baigę darbą nutraukite egzempliorių, ir mokestis nebeskaičiuojamas.

Paleisti dabar