Testuokite ir perkelkite savo programinę įrangą tikrame GB10: aarch64, CUDA, sm_121
Pranešime apie klaidą rašoma, kad jūsų biblioteka neveikia DGX Spark įrenginyje, o jūs jo neturite. Arba jūsų wheel paketai kompiliuojasi x86, bet niekas jų nebandė su Arm CPU ir Blackwell GPU. Išsinuomokite visą Spark tiek minučių, kiek reikia išsiaiškinti: root apvalkalas NVIDIA GB10 (aarch64, CUDA compute capability 12.1) su įdiegtu CUDA 13.0 įrankių rinkiniu. Už 0,79 USD per valandą, apmokestinama už minutę, 20 minučių patikrinimas kainuoja apie 0,26 USD.
Pirmasis papildymas: sumokėkite 20 USD, gaukite 30 USD kredito. Apmokestinama už minutę iš išankstinio kredito. Baigę darbą nutraukite egzempliorių, ir mokestis nebeskaičiuojamas. Dauguma žmonių, kurie iš manęs nuomojasi Spark, paleidžia paprastą DGX OS atvaizdą ir naudoja savo programinę įrangą – būtent apie tai šis puslapis.
Ką gaunate
| CPU | 20 branduolių Arm (10 Cortex-X925 ir 10 Cortex-A725), uname -m rodo aarch64 |
|---|---|
| GPU | NVIDIA GB10, Blackwell karta, compute capability 12.1 (sm_121) |
| Atmintis | 128 GB bendros LPDDR5x atminties, kuria dalijasi CPU ir GPU, 273 GB/s |
| Vaizdai | DGX OS 7: Ubuntu 24.04 su CUDA 13.0 įrankių rinkiniu (nvcc), NCCL ir NVIDIA DCGM. Ubuntu 24.04: tas pats be DCGM. Abiejuose yra git, tmux, vim, curl ir Python 3 su pip bei venv. |
| Prieiga | Root terminalas naršyklėje be SSH rakto arba SSH kaip root per 22 prievadą su jūsų raktu. Kiekvienas egzempliorius turi savo viešą IPv4 adresą ir serverio vardą <name>.gpuwerk.com. |
| Kaip tai veikia | Konteineris su tiesiogiai perduota GPU: daugelyje Spark – sisteminis konteineris su systemd ir Docker, kituose – paprastas, be jų. Jame turite root teises; NVIDIA tvarkyklė gaunama iš pagrindinės sistemos. |
| Diskas | 1 TB NVMe, bendras su pagrindine sistema. /workspace išlieka po paleidimų iš naujo ir perkūrimų ir ištrinamas, kai nutraukiate egzempliorių. |
Konsolėje DGX OS 7 vadinamas atvaizdas yra mano sukurta versija: Ubuntu 24.04 ir aukščiau nurodyti paketai konteineryje. Tai nėra NVIDIA DGX OS diegimo atvaizdas, ir /etc/dgx-release tai nurodo. Kas veikia konteineryje, o kas ne, aprašyta nuomininko aplinkos pastabose.
Pirmasis patikrinimas per penkias minutes
Paleiskite DGX Spark 1× su DGX OS atvaizdu, palaukite būsenos running ir egzemplioriaus puslapyje spustelėkite Atidaryti terminalą naršyklėje. Tada patikrinkite, kur esate:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Paskutinė eilutė išveda GB10 ir (12, 1). Kai kurios PyTorch versijos išveda įspėjimą, kad sm_121 nesuderinamas; paprastai jis klaidingas, o vadove PyTorch DGX Spark paaiškinta kodėl ir kurį wheel paketą rinktis.
Sukompiliuokite ir išbandykite savo projektą
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Šiame luste žmones dažniausiai užklumpa trys dalykai:
- Nurodykite architektūrą. Savo CUDA kodą kompiliuokite su
-gencode=arch=compute_121a,code=sm_121aarba CMake – su-DCMAKE_CUDA_ARCHITECTURES=121a-real. Sutrumpinimas-arch=sm_121agali prarasti „a“, o kartu ir FP4 instrukcijas, kaip nustatyta NVIDIA forumo diskusijoje (išsamiau – TFLOPS vadove). Kitai architektūrai skirta versija gali sukompiliuoti be klaidų, o paskui veikti prastai. - Tikėkitės kompiliavimo iš išeitinio kodo. Daugeliui aarch64 ir sm_121 paketų wheel nepateikiamas, todėl pip juos kompiliuoja. Apribokite lygiagrečias užduotis (
MAX_JOBS=4), kad didelis kompiliavimas neišnaudotų visų 128 GB atminties. - Ne visi kitų Blackwell lustų branduoliai (kernels) tinka. sm_121 vykdo kodą, sukompiliuotą sm_120, bet duomenų centrų Blackwell (sm_100) branduoliai – ne, o kai kurie FP4 keliai veikė be klaidų ir pateikė neteisingą rezultatą. Tikrinkite rezultatus, o ne tik tai, kad paleidimas pavyko.
Norėdami pasiimti kompiliavimo rezultatus, nusikopijuokite juos su savo SSH raktu, tada nutraukite egzempliorių:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Scenarijais valdomi paleidimai iš jūsų pačių CI
Paruoštos CI integracijos nėra. Yra API, kuri paleidžia ir nutraukia egzempliorius minutėmis, todėl užduotis jūsų paleidiklyje gali pasiskolinti Spark, per SSH paleisti savo testus ir jį grąžinti. Naudokite API raktą su egzempliorių (instances) apimtimi.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Paleidimui reikia kredito bent vienai valandai (kitaip grąžinama 402), o kai laisvo įrenginio nėra, grąžinama 409, todėl jūsų užduotis turi tai apdoroti. Per API paleidžiami egzemplioriai patenka į įrenginį EEE, nebent nustatote location_country arba partner_region. Visi laukai aprašyti API žinyne.
Kiek kainuoja patikrinimas
| Sesija | Kaina po 0,79 USD/val. |
|---|---|
| Atkurti vieną klaidos pranešimą, 20 minučių | apie 0,26 USD |
| Sukompiliuoti ir išbandyti leidimą, 1 valanda | 0,79 $ |
| Perkėlimo diena, 8 valandos | 6,32 $ |
Apmokestinama už minutę iš išankstinio kredito; apmokestinimas prasideda, kai egzempliorius praeina parengties patikrą. Norint paleisti, paskyroje turi būti kredito vienai valandai. Pirmasis papildymas: sumokėkite 20 USD, gaukite 30 USD kredito, tai apie 37 valandos viename Spark. Sustabdytas egzempliorius išlaiko darbo sritį ir apmokestinamas 75% valandinio tarifo; baigę darbą jį nutraukite, ir mokestis nebeskaičiuojamas, o darbo sritis ištrinama. Kainos nurodytos be PVM, kai jis taikomas.
Ko išnuomotas GB10 negali parodyti
- Tai konteineris, ne fizinis serveris (bare metal). Negalite įkelti branduolio modulių ar pakeisti tvarkyklės, o tvarkyklės versija yra ta, kurią naudoja pagrindinė sistema. Tvarkyklių regresijos čia nepasiekiamos.
- Docker priklauso nuo įrenginio. Daugelyje Spark jūsų egzempliorius veikia kaip sisteminis konteineris su savo Docker tarnyba, todėl
docker buildirdocker runveikia; kituose veikia paprastas konteineris be jo, ir pasirinkti negalite. Žr. nuomininko aplinkos puslapį. - Vienas lustas. Sėkmingas veikimas GB10 nieko nesako apie Grace Hopper (sm_90), duomenų centrų Blackwell (sm_100) ar Jetson. Kitų gamintojų GB10 įrenginiai turi tą patį lustą, bet gali skirtis programine aparatine įranga.
- systemd priklauso nuo įrenginio. Daugelyje Spark jūsų egzemplioriuje veikia systemd; kituose veikia paprastas konteineris be jo ar
NET_ADMIN, kur paslaugas paleidžiate iš apvalkalo, tmux ar paleidimo kablio (hook). Bet kuriuo atveju TUN įrenginio nėra, todėl branduolio režimo VPN klientai neveikia. - Jokio SLA ir jokių atsarginių kopijų. Prieš nutraukdami egzempliorių, nusikopijuokite iš įrenginio viską, ko jums reikia.
Kur yra Spark
Tai veikia kiekvienoje vietoje, nes partnerių Spark siūlo tuos pačius DGX OS ir Ubuntu atvaizdus. Mano nuosavi Spark yra duomenų centre Hradec Králové, Čekijoje. Partnerių Spark priklauso partneriams ir yra talpinami jų patalpose JAV, Švedijoje, Nyderlanduose, Slovakijoje ir Honkonge, o partneris turi fizinę prieigą prie savo įrenginio. Prieš paleidžiant konsolė rodo šalį ir ar ji yra EEE.
Kas tai valdo
GPUwerk – nauja platforma, o aš esu žmogus, kuris už jos stovi: Samuel Seidel, įkūrėjas, veikiantis per PRINT IT! SE, registruotą Prahoje. Nuo 2026 m. rugsėjo 94 kūrėjai joje paleido 374 egzempliorius (2026 m. lapkričio 9 d. duomenimis). Veikimo laikas ir incidentai skelbiami status.gpuwerk.com. Jei nesate tikri, ar jūsų programinė įranga veiks, prieš mokėdami parašykite man per kontaktų puslapį; atsakau pats.
DUK
Kokia CUDA versija yra įrenginyje?
Abiejuose atvaizduose, DGX OS 7 ir Ubuntu 24.04, yra CUDA 13.0 įrankių rinkinys su nvcc ir NCCL. NVIDIA tvarkyklė gaunama iš pagrindinės sistemos ir jos negalima pakeisti iš egzemplioriaus vidaus.
Ar DGX OS atvaizdas yra NVIDIA DGX OS?
Ne. Tai mano sukurta versija konteineryje: Ubuntu 24.04 su CUDA 13.0 įrankių rinkiniu, NCCL ir NVIDIA DCGM. /etc/dgx-release identifikuoja jį kaip GPUwerk atvaizdą.
Ar galiu jame kurti Docker atvaizdus?
Kai kuriuose įrenginiuose – taip: daugelyje nuomojamų Spark jūsų egzempliorius veikia kaip sisteminis konteineris su savo Docker tarnyba, todėl docker build ir docker run --gpus all natyviai veikia arm64. Kituose veikia paprastas konteineris be Docker. Pasirinkti negalite; docker info parodo, kurį turite.
Kiek kainuoja trumpas testas?
Apie 0,26 USD už 20 minučių po 0,79 USD per valandą, apmokestinama už minutę iš išankstinio kredito. Norint paleisti, paskyroje turi būti kredito vienai valandai. Baigę darbą nutraukite egzempliorių, ir mokestis nebeskaičiuojamas; kartu ištrinama darbo sritis.