DGX Spark/ARM64 ja CUDA testimine
Kasutusjuhtum · Testimine ja portimine

Testi ja pordi oma tarkvara päris GB10-l: aarch64, CUDA, sm_121

Autor: Samuel Seidel · Uuendatud 10. novembril 2026 · 7 min lugemist

Keegi on teatanud, et sinu teek DGX Sparkil ei tööta, ja sul endal seda masinat pole. Või sinu wheel-paketid valmivad x86-l ja keegi pole neid proovinud Arm-protsessoriga Blackwelli GPU-ga masinal. Rendi terve Spark nii mitmeks minutiks, kui väljaselgitamiseks kulub: root-shell NVIDIA GB10-l (aarch64, CUDA arvutusvõimekus 12.1) koos paigaldatud CUDA 13.0 tööriistakomplektiga. Hinnaga 0,79 $ tunnis, arveldatuna minutipõhiselt, maksab 20-minutiline kontroll umbes 0,26 $.

Esimene krediidi lisamine: maksa 20 $, saad 30 $ krediiti. Arveldatakse minutipõhiselt ettemakstud krediidist. Kui töö on tehtud, lõpeta eksemplar ja arveldus lõpeb. Enamik inimesi, kes minult Sparki rendivad, käivitavad lihtsa DGX OS-i tõmmise ja toovad oma tarkvara, millest see leht räägibki.

Mida saad

Protsessor20-tuumaline Arm (10 Cortex-X925 ja 10 Cortex-A725), uname -m näitab aarch64
GPUNVIDIA GB10, Blackwelli põlvkond, arvutusvõimekus 12.1 (sm_121)
Mälu128 GB LPDDR5x ühismälu, mida jagavad protsessor ja GPU, 273 GB/s
TõmmisedDGX OS 7: Ubuntu 24.04 koos CUDA 13.0 tööriistakomplekti (nvcc), NCCL-i ja NVIDIA DCGM-iga. Ubuntu 24.04: sama ilma DCGM-ita. Mõlemal on git, tmux, vim, curl ja Python 3 koos pip-i ja venv-iga.
JuurdepääsRoot-terminal brauseris ilma SSH-võtmeta või SSH root-kasutajana pordil 22 sinu enda võtmega. Igal eksemplaril on oma avalik IPv4-aadress ja hostinimi <name>.gpuwerk.com.
Kuidas see töötabKonteiner, millele GPU on otse läbi antud: paljudel Sparkidel süsteemikonteiner systemd ja Dockeriga, teistel lihtne konteiner ilma nendeta. Sa oled selle sees root; NVIDIA draiver tuleb hostilt.
Salvestusruum1 TB NVMe, jagatud hostiga. /workspace säilib taaskäivituste ja ümberehituste korral ning kustutatakse, kui sa eksemplari lõpetad.

Konsoolis DGX OS 7 nime kandev tõmmis on minu ehitatud: Ubuntu 24.04 pluss ülaltoodud paketid konteineris. See ei ole NVIDIA DGX OS-i paigaldustõmmis ja /etc/dgx-release ütleb seda. Mis konteineris töötab ja mis mitte, on kirjas rentija keskkonna märkmetes.

Esimene kontroll viie minutiga

Juuruta DGX Spark 1× DGX OS-i tõmmisega, oota olekut töötab ja klõpsa eksemplari lehel Ava terminal brauseris. Seejärel kontrolli, millel töötad:

uname -m                                    # aarch64
nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv
nvcc --version | tail -n 2                  # CUDA 13.0

python3 -m venv /workspace/venv && . /workspace/venv/bin/activate
pip install torch --index-url https://download.pytorch.org/whl/cu130
python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"

Viimane rida näitab GB10 ja (12, 1). Mõned PyTorchi versioonid näitavad hoiatust, et sm_121 ei ühildu; see on tavaliselt vale ja juhend PyTorch DGX Sparkil selgitab, miks, ja millise wheel-paketi valida.

Ehita ja testi oma projekti

cd /workspace
git clone https://github.com/your-org/your-project.git
cd your-project
pip install -e '.[test]'           # or your own build step
pytest -x -q
pip wheel . --no-deps -w dist/     # an aarch64 wheel to take home

Kolm asja, mis sellel kiibil inimesi üllatavad:

Ehitusartefaktide kojuviimiseks kopeeri need oma SSH-võtmega, seejärel lõpeta eksemplar:

# on your laptop
scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .

Skriptitud käitused sinu enda CI-st

Valmis CI-integratsiooni pole. Mis on olemas: API, mis juurutab ja lõpetab minutipõhiselt, nii et töö sinu enda käitajal saab Sparki laenata, käitada SSH kaudu oma testid ja selle tagasi anda. Kasuta eksemplaride õigusega API-võtit.

curl -s -X POST https://api.gpuwerk.com/v1/instances \
  -H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
  -d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
  -H "Authorization: Bearer $GPUWERK_TOKEN"     # billing ends, workspace deleted

Juurutamiseks on vaja krediiti vähemalt üheks tunniks (muidu 402) ja kui vaba masinat pole, tagastatakse 409, nii et sinu töö peab sellega toime tulema. API kaudu juurutatakse EMP-s asuvasse masinasse, kui sa ei määra location_country või partner_region. Kõik väljad on API-viites.

Mis kontroll maksab

SessioonKulu hinnaga 0,79 $/h
Ühe veateate taasesitamine, 20 minutitumbes 0,26 $
Väljalaske ehitamine ja testimine, 1 tund0,79 $
Päev portimist, 8 tundi6,32 $

Arveldatakse minutipõhiselt ettemakstud krediidist ja arveldus algab, kui eksemplar läbib valmisolekukontrolli. Juurutamiseks peab kontol olema krediiti üheks tunniks. Esimene krediidi lisamine: maksa 20 $, saad 30 $ krediiti, umbes 37 tundi ühel Sparkil. Peatatud eksemplar säilitab oma tööruumi ja selle eest arveldatakse 75% tunnihinnast; kui töö on tehtud, lõpeta see ja arveldus lõpeb, mis kustutab tööruumi. Hinnad ei sisalda käibemaksu, kui see kohaldub.

Mida renditud GB10 sulle öelda ei saa

Kus Sparkid asuvad

See töötab igas asukohas, sest partnerite Sparkid pakuvad samu DGX OS-i ja Ubuntu tõmmiseid. Minu enda Sparkid asuvad andmekeskuses Hradec Královés Tšehhi Vabariigis. Partnerite Sparkid kuuluvad partneritele ja neid majutatakse nende ruumides USA-s, Rootsis, Hollandis, Slovakkias ja Hongkongis ning partneril on oma masinale füüsiline juurdepääs. Konsool näitab enne juurutamist riiki ja seda, kas see on EMP-s.

Kes seda juhib

GPUwerk on uus platvorm ja selle taga olen mina: Samuel Seidel, asutaja, tegutsen ettevõtte PRINT IT! SE nime all, mis on registreeritud Prahas. Alates septembrist 2026 on 94 arendajat käivitanud sellel 374 eksemplari (seisuga 9. novembril 2026). Käideldavus ja intsidendid on aadressil status.gpuwerk.com. Kui sa pole kindel, kas sinu tarkvara töötab, kirjuta mulle enne maksmist kontaktilehe kaudu; vastan ise.

KKK

Milline CUDA versioon on masinas?

Mõlemal tõmmisel, DGX OS 7 ja Ubuntu 24.04, on CUDA 13.0 tööriistakomplekt koos nvcc ja NCCL-iga. NVIDIA draiver tuleb hostilt ja seda ei saa eksemplari seest muuta.

Kas DGX OS-i tõmmis on NVIDIA DGX OS?

Ei. See on minu ehitatud konteineris: Ubuntu 24.04 koos CUDA 13.0 tööriistakomplekti, NCCL-i ja NVIDIA DCGM-iga. /etc/dgx-release tuvastab selle GPUwerki tõmmisena.

Kas saan sellel Dockeri tõmmiseid ehitada?

Mõnel masinal jah: paljud renditud Sparkid käitavad sinu eksemplari süsteemikonteinerina, millel on oma Dockeri deemon, nii et docker build ja docker run --gpus all töötavad natiivselt arm64-l. Teised käitavad lihtsat konteinerit ilma Dockerita. Sa ei saa valida, kumba; docker info ütleb sulle, kumb sul on.

Kui palju lühike test maksab?

Umbes 0,26 20 $ minuti eest hinnaga 0,79 $ tunnis, arveldatakse minutipõhiselt ettemakstud krediidist. Juurutamiseks peab kontol olema krediiti üheks tunniks. Kui töö on tehtud, lõpeta eksemplar ja arveldus lõpeb; see kustutab tööruumi.

Esimene krediidi lisamine: maksa 20 $, saad 30 $ krediiti

Taasesita see GB10-l juba täna.

Dedikeeritud DGX Spark root-shelli ja CUDA 13.0-ga, 0,79 $/h, arveldatakse minutipõhiselt. Kui töö on tehtud, lõpeta eksemplar ja arveldus lõpeb.

Juuruta kohe