DGX Spark/Ittestjar ta' ARM64 u CUDA
Każ ta' użu · Ittestjar u porting

Ittestja u ġib is-software tiegħek fuq GB10 reali: aarch64, CUDA, sm_121

Minn Samuel Seidel · Aġġornat 10 ta' Novembru 2026 · 7 min qari

Issue tgħid li l-librerija tiegħek ma taħdimx fuq DGX Spark, u inti ma għandekx wieħed. Jew il-wheels tiegħek jinbnew fuq x86 u ħadd ma pprovahom fuq CPU Arm bi GPU Blackwell. Ikri Spark sħiħ għall-minuti li jieħu biex tiskopri: root shell fuq NVIDIA GB10 (aarch64, CUDA compute capability 12.1) bit-toolkit CUDA 13.0 installat. B'$0.79 fis-siegħa, iffatturat bil-minuta, verifika ta' 20 minuta tiswa madwar $0.26.

L-ewwel top-up: ħallas $20, ikseb $30 kreditu. Iffatturat bil-minuta minn kreditu mħallas minn qabel. Ittermina meta tispiċċa u l-fatturazzjoni tieqaf. Ħafna min jikri Spark mingħandi jibda bl-image DGX OS sempliċi u jġib l-istack tiegħu, u din il-paġna hija dwar dan.

X'tikseb

CPUArm b'20 core (10 Cortex-X925 u 10 Cortex-A725), uname -m jgħid aarch64
GPUNVIDIA GB10, ġenerazzjoni Blackwell, compute capability 12.1 (sm_121)
Memorja128 GB ta' LPDDR5x unifikata maqsuma bejn is-CPU u l-GPU, 273 GB/s
ImmaġniDGX OS 7: Ubuntu 24.04 bit-toolkit CUDA 13.0 (nvcc), NCCL u NVIDIA DCGM. Ubuntu 24.04: l-istess mingħajr DCGM. It-tnejn għandhom git, tmux, vim, curl u Python 3 b'pip u venv.
AċċessTerminal root fil-browser mingħajr ċavetta SSH, jew SSH bħala root fuq il-port 22 biċ-ċavetta tiegħek. Kull istanza għandha l-indirizz IPv4 pubbliku tagħha u l-hostname <name>.gpuwerk.com.
Kif jaħdemContainer bil-GPU mgħoddi dirett: fuq ħafna Sparks container tas-sistema b'systemd u Docker, fuq l-oħrajn wieħed sempliċi mingħajr l-ebda wieħed minnhom. Inti root ġo fih; id-driver NVIDIA ġej mill-host.
Storage1 TB NVMe, maqsum mal-host. /workspace jibqa' wara restarts u rebuilds u jitħassar meta tittermina.

L-image imsejjaħ DGX OS 7 fil-console huwa l-build tiegħi: Ubuntu 24.04 flimkien mal-pakketti hawn fuq, f'container. Mhuwiex l-image tal-installazzjoni tad-DGX OS ta' NVIDIA, u /etc/dgx-release jgħid hekk. X'jaħdem f'container, u x'le, jinsab fin-noti dwar l-ambjent tal-kerrej.

L-ewwel verifika f'ħames minuti

Iddeploja DGX Spark 1× bl-image DGX OS, stenna sa running, u kklikkja Iftaħ it-terminal fil-browser fuq il-paġna tal-istanza. Imbagħad ikkonferma fuq xiex qiegħed:

uname -m                                    # aarch64
nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv
nvcc --version | tail -n 2                  # CUDA 13.0

python3 -m venv /workspace/venv && . /workspace/venv/bin/activate
pip install torch --index-url https://download.pytorch.org/whl/cu130
python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"

L-aħħar linja tistampa l-GB10 u (12, 1). Xi builds ta' PyTorch jistampaw twissija li sm_121 mhuwiex kompatibbli; normalment hija żbaljata, u l-gwida PyTorch fuq DGX Spark tispjega għaliex u liema wheel tagħżel.

Ibni u ttestja l-proġett tiegħek

cd /workspace
git clone https://github.com/your-org/your-project.git
cd your-project
pip install -e '.[test]'           # or your own build step
pytest -x -q
pip wheel . --no-deps -w dist/     # an aarch64 wheel to take home

Tliet affarijiet jaqbdu lin-nies għall-għarrieda fuq din iċ-ċippa:

Biex tieħu d-deliverables tal-build id-dar, ikkopjahom biċ-ċavetta SSH tiegħek, imbagħad ittermina:

# on your laptop
scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .

Ħidmiet b'script mis-CI tiegħek stess

Ma hemmx integrazzjoni mas-CI lesta. Dak li hemm: API li tiddeploja u tittermina bil-minuta, biex xogħol fuq ir-runner tiegħek stess ikun jista' jissellef Spark, iħaddem it-testijiet tiegħu permezz ta' SSH u jagħtih lura. Uża key tal-API bl-ambitu tal-istanzi.

curl -s -X POST https://api.gpuwerk.com/v1/instances \
  -H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
  -d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
  -H "Authorization: Bearer $GPUWERK_TOKEN"     # billing ends, workspace deleted

Deploy jeħtieġ kreditu għal mill-inqas siegħa (inkella 402), u jwieġeb 409 meta ma jkun hemm ebda magna libera, għalhekk ix-xogħol tiegħek irid jittratta dan. Id-deploys mill-API imorru fuq magna fiż-ŻEE sakemm ma tissettjax location_country jew partner_region. L-oqsma kollha jinsabu fir-referenza tal-API.

Kemm tiswa verifika

SessjoniSpiża b'$0.79/h
Irriproduċi rapport wieħed ta' bug, 20 minutamadwar $0.26
Ibni u ttestja release, siegħa$0.79
Ġurnata ta' porting, 8 sigħat$6.32

Il-fatturazzjoni hija bil-minuta minn kreditu mħallas minn qabel u tibda malli l-istanza tgħaddi l-verifika tat-tħejjija. Il-kont irid ikollu kreditu għal siegħa biex tiddeploja. L-ewwel top-up: ħallas $20, ikseb $30 kreditu, madwar 37 siegħa fuq Spark wieħed. Istanza mwaqqfa żżomm l-ispazju tax-xogħol tagħha u tiġi ffatturata b'75% tar-rata kull siegħa; itterminaha meta tispiċċa u l-fatturazzjoni tieqaf, u dan iħassar l-ispazju tax-xogħol. Il-prezzijiet jeskludu l-VAT fejn tapplika.

X'ma jistax jgħidlek GB10 mikri

Fejn jinsabu s-Sparks

Dan jaħdem f'kull post, għax is-Sparks tas-sħab joffru l-istess images DGX OS u Ubuntu. Is-Sparks tiegħi stess jinsabu f'datacenter f'Hradec Králové, fir-Repubblika Ċeka. Is-Sparks tas-sħab huma proprjetà ta' sħab u ospitati minnhom fil-postijiet tagħhom fl-Istati Uniti, fl-Iżvezja, fil-Pajjiżi l-Baxxi, fis-Slovakkja u f'Hong Kong, u sieħeb għandu aċċess fiżiku għall-magna tiegħu. Il-console turi l-pajjiż, u jekk hux fiż-ŻEE, qabel ma tiddeploja.

Min imexxi dan

GPUwerk hija pjattaforma ġdida, u jien il-persuna warajha: Samuel Seidel, fundatur, li jopera bħala PRINT IT! SE, irreġistrata fi Praga. Minn Settembru 2026, 94 żviluppatur bdew 374 istanza fuqha (sad-9 ta' Novembru 2026). L-uptime u l-inċidenti jinsabu fuq status.gpuwerk.com. Jekk m'intix ċert li l-istack tiegħek se jaħdem, iktibli mill-paġna tal-kuntatt qabel ma tħallas; inwieġeb jien stess.

Mistoqsijiet frekwenti

Liema verżjoni ta' CUDA hemm fuq il-magna?

Iż-żewġ images, DGX OS 7 u Ubuntu 24.04, iġorru t-toolkit CUDA 13.0 b'nvcc u NCCL. Id-driver NVIDIA ġej mill-host u ma jistax jinbidel minn ġol-istanza.

L-image DGX OS huwa d-DGX OS ta' NVIDIA?

Le. Huwa l-build tiegħi f'container: Ubuntu 24.04 bit-toolkit CUDA 13.0, NCCL u NVIDIA DCGM. /etc/dgx-release jidentifikah bħala image ta' GPUwerk.

Nista' nibni images Docker fuqu?

Fuq xi magni, iva: ħafna Sparks mikrija jħaddmu l-istanza tiegħek bħala container tas-sistema bid-daemon Docker tiegħu stess, għalhekk docker build u docker run --gpus all jaħdmu b'mod nattiv fuq arm64. Oħrajn iħaddmu container sempliċi mingħajr Docker. Ma tistax tagħżel liema; docker info jgħidlek liema għandek.

Kemm tiswa prova qasira?

Madwar $0.26 għal 20 minuta b'$0.79 fis-siegħa, iffatturat bil-minuta minn kreditu mħallas minn qabel. Biex tiddeploja, il-kont irid ikollu kreditu għal siegħa. Ittermina meta tispiċċa u l-fatturazzjoni tieqaf; dan iħassar l-ispazju tax-xogħol.

L-ewwel top-up: ħallas $20, ikseb $30 kreditu

Irriproduċih fuq GB10 illum.

DGX Spark dedikat b'root shell u CUDA 13.0, $0.79/h iffatturat bil-minuta. Ittermina meta tispiċċa u l-fatturazzjoni tieqaf.

Iddeploja issa