DGX Spark/Testing av ARM64 og CUDA
Bruksområde · Testing og portering

Test og porter programvaren din på en ekte GB10: aarch64, CUDA, sm_121

Av Samuel Seidel · Oppdatert 10. november 2026 · 7 min lesetid

En issue sier at biblioteket ditt feiler på en DGX Spark, og du eier ingen. Eller wheels-pakkene dine bygger på x86, og ingen har prøvd dem på en Arm-CPU med Blackwell-GPU. Lei en hel Spark i de minuttene det tar å finne ut av det: et root-skall på en NVIDIA GB10 (aarch64, CUDA compute capability 12.1) med CUDA 13.0-verktøysettet installert. Til 0 $,79 i timen, fakturert per minutt, koster en sjekk på 20 minutter omtrent 0 $,26.

Første påfylling: betal 20 $, få 30 $ i kreditt. Fakturert per minutt fra forhåndsbetalt kreditt. Avslutt når du er ferdig, så stopper faktureringen. De fleste som leier en Spark av meg, starter det rene DGX OS-imaget og tar med sin egen stack, og det er det denne siden handler om.

Hva du får

CPU20-kjerners Arm (10 Cortex-X925 og 10 Cortex-A725), uname -m viser aarch64
GPUNVIDIA GB10, Blackwell-generasjonen, compute capability 12.1 (sm_121)
Minne128 GB enhetlig LPDDR5x delt av CPU og GPU, 273 GB/s
ImagesDGX OS 7: Ubuntu 24.04 med CUDA 13.0-verktøysettet (nvcc), NCCL og NVIDIA DCGM. Ubuntu 24.04: det samme uten DCGM. Begge har git, tmux, vim, curl og Python 3 med pip og venv.
TilgangEn root-terminal i nettleseren uten SSH-nøkkel, eller SSH som root på port 22 med din egen nøkkel. Hver instans har sin egen offentlige IPv4-adresse og vertsnavnet <name>.gpuwerk.com.
Slik kjører denEn container med GPU-en sendt rett gjennom: på mange Spark-maskiner en systemcontainer med systemd og Docker, på de andre en enkel container uten noen av dem. Du er root inne i den; NVIDIA-driveren kommer fra verten.
Lagring1 TB NVMe, delt med verten. /workspace overlever omstarter og gjenoppbygginger og slettes når du avslutter.

Imaget som heter DGX OS 7 i konsollen, er min egen build: Ubuntu 24.04 pluss pakkene ovenfor, i en container. Det er ikke NVIDIAs installasjonsimage for DGX OS, og /etc/dgx-release sier det. Hva som kjører i en container og hva som ikke gjør det, står i notatene om leietakermiljøet.

En første sjekk på fem minutter

Deploy DGX Spark 1× med DGX OS-imaget, vent på running, og klikk Åpne terminal i nettleseren på instanssiden. Bekreft deretter hva du kjører på:

uname -m                                    # aarch64
nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv
nvcc --version | tail -n 2                  # CUDA 13.0

python3 -m venv /workspace/venv && . /workspace/venv/bin/activate
pip install torch --index-url https://download.pytorch.org/whl/cu130
python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"

Den siste linjen skriver ut GB10 og (12, 1). Noen PyTorch-builds skriver ut en advarsel om at sm_121 ikke er kompatibel; den er som regel feil, og guiden PyTorch på en DGX Spark forklarer hvorfor og hvilken wheel du bør velge.

Bygg og test prosjektet ditt

cd /workspace
git clone https://github.com/your-org/your-project.git
cd your-project
pip install -e '.[test]'           # or your own build step
pytest -x -q
pip wheel . --no-deps -w dist/     # an aarch64 wheel to take home

Tre ting overrasker folk på denne brikken:

For å ta med byggeartefakter hjem kopierer du dem med din egen SSH-nøkkel, og avslutter deretter:

# on your laptop
scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .

Skriptede kjøringer fra din egen CI

Det finnes ingen ferdig CI-integrasjon. Det som finnes, er et API som deployer og avslutter per minutt, så en jobb på din egen runner kan låne en Spark, kjøre testene sine over SSH og gi den tilbake. Bruk en API-nøkkel med instances-omfang.

curl -s -X POST https://api.gpuwerk.com/v1/instances \
  -H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
  -d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
  -H "Authorization: Bearer $GPUWERK_TOKEN"     # billing ends, workspace deleted

En deployering krever kreditt for minst én time (ellers 402), og returnerer 409 når ingen maskin er ledig, så jobben din må håndtere det. Deployeringer via API går til en maskin i EØS med mindre du angir location_country eller partner_region. Alle feltene står i API-referansen.

Hva en sjekk koster

ØktKostnad ved 0 $,79/h
Reproduser én feilrapport, 20 minutteromtrent 0 $,26
Bygg og test en utgivelse, 1 time0,79 $
En dag med portering, 8 timer6,32 $

Faktureringen skjer per minutt fra forhåndsbetalt kreditt og starter når instansen har bestått klarsjekken. Kontoen må ha kreditt for én time for å deploye. Første påfylling: betal 20 $, få 30 $ i kreditt, omtrent 37 timer på én Spark. En stoppet instans beholder arbeidsområdet og faktureres med 75 % av timeprisen; avslutt den når du er ferdig, så stopper faktureringen, og arbeidsområdet slettes. Prisene er uten mva. der det gjelder.

Hva en leid GB10 ikke kan fortelle deg

Hvor Spark-maskinene står

Dette fungerer på alle lokasjoner, fordi partnermaskiner tilbyr de samme DGX OS- og Ubuntu-imagene. Mine egne Spark-maskiner står i et datasenter i Hradec Králové i Tsjekkia. Partnermaskiner eies og driftes av partnere i deres egne lokaler i USA, Sverige, Nederland, Slovakia og Hongkong, og en partner har fysisk tilgang til maskinen sin. Konsollen viser landet, og om det er i EØS, før du deployer.

Hvem som driver dette

GPUwerk er en ny plattform, og jeg er personen bak den: Samuel Seidel, grunnlegger, som driver som PRINT IT! SE, registrert i Praha. Siden september 2026 har 94 utviklere startet 374 instanser på den (per 9. november 2026). Oppetid og hendelser står på status.gpuwerk.com. Hvis du er usikker på om stacken din vil kjøre, kan du skrive til meg via kontaktsiden før du betaler; jeg svarer selv.

Spørsmål og svar

Hvilken CUDA-versjon er på maskinen?

Begge images, DGX OS 7 og Ubuntu 24.04, har CUDA 13.0-verktøysettet med nvcc og NCCL. NVIDIA-driveren kommer fra verten og kan ikke endres fra innsiden av instansen.

Er DGX OS-imaget NVIDIAs DGX OS?

Nei. Det er min egen build i en container: Ubuntu 24.04 med CUDA 13.0-verktøysettet, NCCL og NVIDIA DCGM. /etc/dgx-release identifiserer det som et GPUwerk-image.

Kan jeg bygge Docker-images på den?

På noen maskiner, ja: mange leide Spark-maskiner kjører instansen din som en systemcontainer med egen Docker-daemon, så docker build og docker run --gpus all kjører direkte på arm64. Andre kjører en enkel container uten Docker. Du kan ikke velge hvilken; docker info forteller deg hvilken du har.

Hva koster en kort test?

Omtrent 0 $,26 for 20 minutter à 0 $,79 i timen, fakturert per minutt fra forhåndsbetalt kreditt. For å deploye må kontoen ha kreditt for én time. Avslutt når du er ferdig, så stopper faktureringen; da slettes arbeidsområdet.

Første påfylling: betal 20 $, få 30 $ i kreditt

Reproduser det på en GB10 i dag.

En dedikert DGX Spark med root-skall og CUDA 13.0, 0 $,79/h fakturert per minutt. Avslutt når du er ferdig, så stopper faktureringen.

Deploy nå