DGX Spark/ARM64- og CUDA-test
Use case · Test og portering

Test og portér din software på en rigtig GB10: aarch64, CUDA, sm_121

Af Samuel Seidel · Opdateret 10. november 2026 · 7 min. læsning

En issue siger, at dit bibliotek fejler på en DGX Spark, og du ejer ikke en. Eller dine wheels bygger på x86, og ingen har prøvet dem på en Arm-CPU med en Blackwell-GPU. Lej en hel Spark i de minutter, det tager at finde ud af det: en root-shell på en NVIDIA GB10 (aarch64, CUDA compute capability 12.1) med CUDA 13.0-toolkittet installeret. Ved 0 $,79 i timen, faktureret pr. minut, koster et tjek på 20 minutter cirka 0 $,26.

Første optankning: betal 20 $, få 30 $ i kredit. Faktureret pr. minut fra forudbetalt kredit. Afslut, når du er færdig, så ophører faktureringen. De fleste, der lejer en Spark af mig, starter det rene DGX OS-image og tager deres egen stack med, og det er det, denne side handler om.

Det får du

CPU20-kernet Arm (10 Cortex-X925 og 10 Cortex-A725), uname -m giver aarch64
GPUNVIDIA GB10, Blackwell-generationen, compute capability 12.1 (sm_121)
Hukommelse128 GB unified LPDDR5x, som deles af CPU og GPU, 273 GB/s
ImagesDGX OS 7: Ubuntu 24.04 med CUDA 13.0-toolkittet (nvcc), NCCL og NVIDIA DCGM. Ubuntu 24.04: det samme uden DCGM. Begge har git, tmux, vim, curl og Python 3 med pip og venv.
AdgangEn root-terminal i browseren uden SSH-nøgle eller SSH som root på port 22 med din egen nøgle. Hver instans har sin egen offentlige IPv4-adresse og værtsnavnet <name>.gpuwerk.com.
Sådan kører denEn container med GPU'en sendt direkte igennem: på mange Sparks en systemcontainer med systemd og Docker, på de andre en almindelig container uden nogen af delene. Du er root i den; NVIDIA-driveren kommer fra værten.
Lager1 TB NVMe, delt med værten. /workspace overlever genstarter og genopbygninger og slettes, når du afslutter.

Det image, der hedder DGX OS 7 i konsollen, er mit eget build: Ubuntu 24.04 plus pakkerne ovenfor i en container. Det er ikke NVIDIAs DGX OS-installationsimage, og /etc/dgx-release siger det. Hvad der kører i en container, og hvad der ikke gør, står i noterne om lejermiljøet.

Et første tjek på fem minutter

Udrul DGX Spark 1× med DGX OS-imaget, vent på running, og klik på Open terminal in browser på instanssiden. Bekræft derefter, hvad du kører på:

uname -m                                    # aarch64
nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv
nvcc --version | tail -n 2                  # CUDA 13.0

python3 -m venv /workspace/venv && . /workspace/venv/bin/activate
pip install torch --index-url https://download.pytorch.org/whl/cu130
python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"

Den sidste linje udskriver GB10 og (12, 1). Nogle PyTorch-builds udskriver en advarsel om, at sm_121 ikke er kompatibel; den er som regel forkert, og guiden PyTorch på en DGX Spark forklarer hvorfor, og hvilket wheel du skal vælge.

Byg og test dit projekt

cd /workspace
git clone https://github.com/your-org/your-project.git
cd your-project
pip install -e '.[test]'           # or your own build step
pytest -x -q
pip wheel . --no-deps -w dist/     # an aarch64 wheel to take home

Tre ting overrasker folk på denne chip:

For at tage build-artefakter med hjem skal du kopiere dem med din egen SSH-nøgle og derefter afslutte:

# on your laptop
scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .

Scriptede kørsler fra din egen CI

Der er ingen færdig CI-integration. Det, der findes, er en API, der udruller og afslutter pr. minut, så et job på din egen runner kan låne en Spark, køre sine test over SSH og give den tilbage. Brug en API-nøgle med instances-scope.

curl -s -X POST https://api.gpuwerk.com/v1/instances \
  -H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
  -d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
  -H "Authorization: Bearer $GPUWERK_TOKEN"     # billing ends, workspace deleted

En udrulning kræver kredit til mindst én time (ellers 402) og returnerer 409, når ingen maskine er ledig, så dit job skal kunne håndtere det. API-udrulninger går til en maskine i EØS, medmindre du angiver location_country eller partner_region. Alle felter står i API-referencen.

Hvad et tjek koster

SessionPris ved 0 $,79/t
Genskab én fejlrapport, 20 minuttercirka 0 $,26
Byg og test en release, 1 time0,79 $
En dags portering, 8 timer6,32 $

Faktureringen sker pr. minut fra forudbetalt kredit og starter, når instansen er meldt klar. Kontoen skal have kredit til én time for at udrulle. Første optankning: betal 20 $, få 30 $ i kredit, cirka 37 timer på én Spark. En stoppet instans beholder sit workspace og faktureres med 75 % af timeprisen; afslut den, når du er færdig, så ophører faktureringen, hvilket sletter workspacet. Priserne er ekskl. moms, hvor det er relevant.

Hvad en lejet GB10 ikke kan fortælle dig

Hvor Sparks står

Dette virker på alle placeringer, fordi partner-Sparks tilbyder de samme DGX OS- og Ubuntu-images. Mine egne Sparks står i et datacenter i Hradec Králové i Tjekkiet. Partner-Sparks ejes og hostes af partnere i deres egne lokaler i USA, Sverige, Nederlandene, Slovakiet og Hongkong, og en partner har fysisk adgang til sin maskine. Konsollen viser landet, og om det er i EØS, før du udruller.

Hvem driver dette

GPUwerk er en ny platform, og jeg er personen bag den: Samuel Seidel, grundlægger, der driver virksomhed som PRINT IT! SE, registreret i Prag. Siden september 2026 har 94 udviklere startet 374 instanser på den (pr. 9. november 2026). Oppetid og hændelser står på status.gpuwerk.com. Er du ikke sikker på, at din stack vil køre, så skriv til mig via kontaktsiden, før du betaler; jeg svarer selv.

FAQ

Hvilken CUDA-version er der på maskinen?

Begge images, DGX OS 7 og Ubuntu 24.04, har CUDA 13.0-toolkittet med nvcc og NCCL. NVIDIA-driveren kommer fra værten og kan ikke ændres inde fra instansen.

Er DGX OS-imaget NVIDIAs DGX OS?

Nej. Det er mit eget build i en container: Ubuntu 24.04 med CUDA 13.0-toolkittet, NCCL og NVIDIA DCGM. /etc/dgx-release identificerer det som et GPUwerk-image.

Kan jeg bygge Docker-images på den?

På nogle maskiner, ja: mange lejede Sparks kører din instans som en systemcontainer med sin egen Docker-daemon, så docker build og docker run --gpus all kører indbygget på arm64. Andre kører en almindelig container uden Docker. Du kan ikke vælge hvilken; docker info fortæller dig, hvad du har.

Hvad koster en kort test?

Cirka 0 $,26 for 20 minutter ved 0 $,79 i timen, faktureret pr. minut fra forudbetalt kredit. For at udrulle skal kontoen have kredit til én time. Afslut, når du er færdig, så ophører faktureringen; det sletter workspacet.

Første optankning: betal 20 $, få 30 $ i kredit

Genskab det på en GB10 i dag.

En dedikeret DGX Spark med root-shell og CUDA 13.0, 0 $,79/t faktureret pr. minut. Afslut, når du er færdig, så ophører faktureringen.

Udrul nu