DGX Spark/ARM64 un CUDA testēšana
Lietojuma gadījums · Testēšana un pārnešana

Testējiet un pārnesiet savu programmatūru uz īsta GB10: aarch64, CUDA, sm_121

Autors: Samuel Seidel · Atjaunināts 2026. gada 10. novembrī · 7 min lasīšanai

Kāds problēmas ziņojums vēsta, ka jūsu bibliotēka nedarbojas uz DGX Spark, bet jums tāda nav. Vai arī jūsu wheel pakotnes tiek kompilētas uz x86, un neviens tās nav izmēģinājis uz Arm CPU ar Blackwell GPU. Nomājiet veselu Spark uz tām minūtēm, kas vajadzīgas, lai to noskaidrotu: root čaula uz NVIDIA GB10 (aarch64, CUDA compute capability 12.1) ar instalētu CUDA 13.0 rīkkopu. Par 0,79 $ stundā ar maksu par katru minūti 20 minūšu pārbaude izmaksā aptuveni 0,26 $.

Pirmā papildināšana: samaksājiet 20 $, saņemiet 30 $ kredītā. Maksa par katru minūti no priekšapmaksas kredīta. Izbeidziet instanci, kad esat pabeiguši, un maksas aprēķins beidzas. Lielākā daļa cilvēku, kas nomā Spark no manis, palaiž vienkāršo DGX OS attēlu un izmanto savu steku, un tieši par to ir šī lapa.

Ko jūs saņemat

CPU20 kodolu Arm (10 Cortex-X925 un 10 Cortex-A725), uname -m rāda aarch64
GPUNVIDIA GB10, Blackwell paaudze, compute capability 12.1 (sm_121)
Atmiņa128 GB vienotā LPDDR5x atmiņa, ko koplieto CPU un GPU, 273 GB/s
AttēliDGX OS 7: Ubuntu 24.04 ar CUDA 13.0 rīkkopu (nvcc), NCCL un NVIDIA DCGM. Ubuntu 24.04: tas pats bez DCGM. Abos ir git, tmux, vim, curl un Python 3 ar pip un venv.
PiekļuveRoot terminālis pārlūkā bez SSH atslēgas vai SSH kā root caur 22. portu ar jūsu pašu atslēgu. Katrai instancei ir sava publiskā IPv4 adrese un resursdatora nosaukums <name>.gpuwerk.com.
Kā tas darbojasKonteiners ar tieši pievienotu GPU: daudzos Spark tas ir sistēmas konteiners ar systemd un Docker, citos vienkāršs konteiners bez tiem. Tajā jums ir root tiesības; NVIDIA draiveris nāk no resursdatora.
Krātuve1 TB NVMe, koplietots ar resursdatoru. /workspace saglabājas pēc restartēšanas un pārbūves un tiek dzēsts, kad izbeidzat instanci.

Attēls, kas konsolē saucas DGX OS 7, ir mana versija: Ubuntu 24.04 plus iepriekš minētās pakotnes konteinerā. Tas nav NVIDIA DGX OS instalētāja attēls, un /etc/dgx-release to arī norāda. Kas konteinerā darbojas un kas ne, aprakstīts nomnieka vides piezīmēs.

Pirmā pārbaude piecās minūtēs

Izvietojiet DGX Spark 1× ar DGX OS attēlu, gaidiet statusu running un instances lapā noklikšķiniet Open terminal in browser. Tad pārbaudiet, uz kā strādājat:

uname -m                                    # aarch64
nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv
nvcc --version | tail -n 2                  # CUDA 13.0

python3 -m venv /workspace/venv && . /workspace/venv/bin/activate
pip install torch --index-url https://download.pytorch.org/whl/cu130
python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"

Pēdējā rinda izdrukā GB10 un (12, 1). Dažas PyTorch versijas izdrukā brīdinājumu, ka sm_121 nav saderīgs; parasti tas ir nepareizs, un ceļvedis PyTorch uz DGX Spark izskaidro, kāpēc, un kuru wheel pakotni izvēlēties.

Kompilējiet un testējiet savu projektu

cd /workspace
git clone https://github.com/your-org/your-project.git
cd your-project
pip install -e '.[test]'           # or your own build step
pytest -x -q
pip wheel . --no-deps -w dist/     # an aarch64 wheel to take home

Šajā mikroshēmā cilvēkus pārsteidz trīs lietas:

Lai paņemtu līdzi kompilācijas artefaktus, nokopējiet tos ar savu SSH atslēgu, tad izbeidziet instanci:

# on your laptop
scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .

Skriptētas izpildes no jūsu pašu CI

Gatavas CI integrācijas nav. Kas ir: API, kas izvieto un izbeidz ar minūtes precizitāti, tāpēc uzdevums jūsu pašu izpildītājā var aizņemties Spark, palaist testus caur SSH un atdot to atpakaļ. Izmantojiet API atslēgu ar instanču tvērumu.

curl -s -X POST https://api.gpuwerk.com/v1/instances \
  -H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
  -d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
  -H "Authorization: Bearer $GPUWERK_TOKEN"     # billing ends, workspace deleted

Izvietošanai vajadzīgs kredīts vismaz vienai stundai (citādi 402), un, ja neviena iekārta nav brīva, tiek atgriezts 409, tāpēc jūsu uzdevumam tas jāapstrādā. Caur API izvietotās instances nonāk iekārtā EEZ, ja vien neiestatāt location_country vai partner_region. Visi lauki ir aprakstīti API dokumentācijā.

Cik maksā pārbaude

SesijaIzmaksas pie 0,79 $/h
Viena kļūdas ziņojuma atkārtošana, 20 minūtesaptuveni 0,26 $
Laidiena kompilēšana un testēšana, 1 stunda0,79 $
Viena pārnešanas diena, 8 stundas6,32 $

Maksa tiek aprēķināta par katru minūti no priekšapmaksas kredīta un sākas, kad instance iztur gatavības pārbaudi. Lai izvietotu, kontā jābūt kredītam vienai stundai. Pirmā papildināšana: samaksājiet 20 $, saņemiet 30 $ kredītā, aptuveni 37 stundas vienā Spark. Apturēta instance saglabā savu darbvietu, un par to tiek iekasēti 75% no stundas likmes; izbeidziet to, kad esat pabeiguši, un maksas aprēķins beidzas, un darbvieta tiek dzēsta. Cenas norādītas bez PVN, ja tas piemērojams.

Ko nomāts GB10 nevar pateikt

Kur atrodas Spark iekārtas

Tas darbojas visās atrašanās vietās, jo partneru Spark piedāvā tos pašus DGX OS un Ubuntu attēlus. Mani Spark atrodas datu centrā Hradecā Krālovē, Čehijā. Partneru Spark pieder partneriem, un tie tos mitina savās telpās ASV, Zviedrijā, Nīderlandē, Slovākijā un Honkongā, un partnerim ir fiziska piekļuve savai iekārtai. Konsole pirms izvietošanas parāda valsti un to, vai tā ir EEZ.

Kas to vada

GPUwerk ir jauna platforma, un es esmu cilvēks, kas stāv aiz tās: Samuel Seidel, dibinātājs, darbojos kā PRINT IT! SE, kas reģistrēts Prāgā. Kopš 2026. gada septembra 94 izstrādātāji tajā ir palaiduši 374 instances (dati uz 2026. gada 9. novembri). Darbspēja un incidenti ir redzami status.gpuwerk.com. Ja neesat pārliecināti, vai jūsu steks darbosies, pirms maksājat, uzrakstiet man caur kontaktu lapu; atbildu pats.

BUJ

Kāda CUDA versija ir iekārtā?

Abos attēlos, DGX OS 7 un Ubuntu 24.04, ir CUDA 13.0 rīkkopa ar nvcc un NCCL. NVIDIA draiveris nāk no resursdatora, un to nevar mainīt no instances iekšpuses.

Vai DGX OS attēls ir NVIDIA DGX OS?

Nē. Tā ir mana versija konteinerā: Ubuntu 24.04 ar CUDA 13.0 rīkkopu, NCCL un NVIDIA DCGM. /etc/dgx-release to identificē kā GPUwerk attēlu.

Vai tajā varu kompilēt Docker attēlus?

Dažās iekārtās jā: daudzi nomātie Spark jūsu instanci darbina kā sistēmas konteineru ar savu Docker dēmonu, tāpēc docker build un docker run --gpus all darbojas natīvi arm64 vidē. Citi darbina vienkāršu konteineru bez Docker. Jūs nevarat izvēlēties, kuru; docker info parāda, kurš jums ir.

Cik maksā īss tests?

Aptuveni 0,26 $ par 20 minūtēm pie 0,79 $ stundā, maksa par katru minūti no priekšapmaksas kredīta. Lai izvietotu, kontā jābūt kredītam vienai stundai. Izbeidziet instanci, kad esat pabeiguši, un maksas aprēķins beidzas; tas dzēš darbvietu.

Pirmā papildināšana: samaksājiet 20 $, saņemiet 30 $ kredītā

Atkārtojiet to uz GB10 jau šodien.

DGX Spark tikai jums, ar root čaulu un CUDA 13.0, 0,79 $/h, maksa par katru minūti. Izbeidziet instanci, kad esat pabeiguši, un maksas aprēķins beidzas.

Izvietot tagad