Test og porter programvaren din på en ekte GB10: aarch64, CUDA, sm_121
En issue sier at biblioteket ditt feiler på en DGX Spark, og du eier ingen. Eller wheels-pakkene dine bygger på x86, og ingen har prøvd dem på en Arm-CPU med Blackwell-GPU. Lei en hel Spark i de minuttene det tar å finne ut av det: et root-skall på en NVIDIA GB10 (aarch64, CUDA compute capability 12.1) med CUDA 13.0-verktøysettet installert. Til 0 $,79 i timen, fakturert per minutt, koster en sjekk på 20 minutter omtrent 0 $,26.
Første påfylling: betal 20 $, få 30 $ i kreditt. Fakturert per minutt fra forhåndsbetalt kreditt. Avslutt når du er ferdig, så stopper faktureringen. De fleste som leier en Spark av meg, starter det rene DGX OS-imaget og tar med sin egen stack, og det er det denne siden handler om.
Hva du får
| CPU | 20-kjerners Arm (10 Cortex-X925 og 10 Cortex-A725), uname -m viser aarch64 |
|---|---|
| GPU | NVIDIA GB10, Blackwell-generasjonen, compute capability 12.1 (sm_121) |
| Minne | 128 GB enhetlig LPDDR5x delt av CPU og GPU, 273 GB/s |
| Images | DGX OS 7: Ubuntu 24.04 med CUDA 13.0-verktøysettet (nvcc), NCCL og NVIDIA DCGM. Ubuntu 24.04: det samme uten DCGM. Begge har git, tmux, vim, curl og Python 3 med pip og venv. |
| Tilgang | En root-terminal i nettleseren uten SSH-nøkkel, eller SSH som root på port 22 med din egen nøkkel. Hver instans har sin egen offentlige IPv4-adresse og vertsnavnet <name>.gpuwerk.com. |
| Slik kjører den | En container med GPU-en sendt rett gjennom: på mange Spark-maskiner en systemcontainer med systemd og Docker, på de andre en enkel container uten noen av dem. Du er root inne i den; NVIDIA-driveren kommer fra verten. |
| Lagring | 1 TB NVMe, delt med verten. /workspace overlever omstarter og gjenoppbygginger og slettes når du avslutter. |
Imaget som heter DGX OS 7 i konsollen, er min egen build: Ubuntu 24.04 pluss pakkene ovenfor, i en container. Det er ikke NVIDIAs installasjonsimage for DGX OS, og /etc/dgx-release sier det. Hva som kjører i en container og hva som ikke gjør det, står i notatene om leietakermiljøet.
En første sjekk på fem minutter
Deploy DGX Spark 1× med DGX OS-imaget, vent på running, og klikk Åpne terminal i nettleseren på instanssiden. Bekreft deretter hva du kjører på:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Den siste linjen skriver ut GB10 og (12, 1). Noen PyTorch-builds skriver ut en advarsel om at sm_121 ikke er kompatibel; den er som regel feil, og guiden PyTorch på en DGX Spark forklarer hvorfor og hvilken wheel du bør velge.
Bygg og test prosjektet ditt
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Tre ting overrasker folk på denne brikken:
- Oppgi arkitekturen. For din egen CUDA-kode kompilerer du med
-gencode=arch=compute_121a,code=sm_121a, eller-DCMAKE_CUDA_ARCHITECTURES=121a-reali CMake. Kortformen-arch=sm_121akan miste "a"-en og dermed FP4-instruksjonene, slik en tråd på NVIDIAs forum fant ut (detaljer i TFLOPS-guiden). En build for en annen arkitektur kan kompilere uten feil og deretter kjøre dårlig. - Regn med bygging fra kildekode. Mange aarch64- og sm_121-pakker leveres uten wheel, så pip kompilerer dem. Begrens antall parallelle jobber (
MAX_JOBS=4) slik at en stor bygging ikke bruker opp de 128 GB minne. - Kjerner for andre Blackwell-brikker kan ikke alltid overføres. sm_121 kjører kode bygd for sm_120, men kjerner skrevet for Blackwell i datasentre (sm_100) gjør det ikke, og noen FP4-veier har kjørt uten feil og gitt feil resultat. Sjekk resultatene, ikke bare at det kjørte.
For å ta med byggeartefakter hjem kopierer du dem med din egen SSH-nøkkel, og avslutter deretter:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Skriptede kjøringer fra din egen CI
Det finnes ingen ferdig CI-integrasjon. Det som finnes, er et API som deployer og avslutter per minutt, så en jobb på din egen runner kan låne en Spark, kjøre testene sine over SSH og gi den tilbake. Bruk en API-nøkkel med instances-omfang.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
En deployering krever kreditt for minst én time (ellers 402), og returnerer 409 når ingen maskin er ledig, så jobben din må håndtere det. Deployeringer via API går til en maskin i EØS med mindre du angir location_country eller partner_region. Alle feltene står i API-referansen.
Hva en sjekk koster
| Økt | Kostnad ved 0 $,79/h |
|---|---|
| Reproduser én feilrapport, 20 minutter | omtrent 0 $,26 |
| Bygg og test en utgivelse, 1 time | 0,79 $ |
| En dag med portering, 8 timer | 6,32 $ |
Faktureringen skjer per minutt fra forhåndsbetalt kreditt og starter når instansen har bestått klarsjekken. Kontoen må ha kreditt for én time for å deploye. Første påfylling: betal 20 $, få 30 $ i kreditt, omtrent 37 timer på én Spark. En stoppet instans beholder arbeidsområdet og faktureres med 75 % av timeprisen; avslutt den når du er ferdig, så stopper faktureringen, og arbeidsområdet slettes. Prisene er uten mva. der det gjelder.
Hva en leid GB10 ikke kan fortelle deg
- Det er en container, ikke bare metal. Du kan ikke laste kjernemoduler eller endre driveren, og driverversjonen er den verten kjører. Driverregresjoner er utenfor rekkevidde her.
- Docker avhenger av maskinen. Mange Spark-maskiner kjører instansen din som en systemcontainer med egen Docker-daemon, så
docker buildogdocker runfungerer; andre kjører en enkel container uten, og du kan ikke velge hvilken. Se siden om leietakermiljøet. - Én brikke. At noe fungerer på GB10, sier ingenting om Grace Hopper (sm_90), Blackwell i datasentre (sm_100) eller Jetson. Andre produsenters GB10-maskiner har samme brikke, men kan ha ulik fastvare.
- systemd avhenger av maskinen. Mange Spark-maskiner kjører systemd i instansen din; de andre kjører en enkel container uten det eller
NET_ADMIN, der du starter tjenester fra et skall, tmux eller oppstartskroken. Det finnes ingen TUN-enhet i noen av tilfellene, så VPN-klienter i kjernemodus kjører ikke. - Ingen SLA og ingen sikkerhetskopier. Kopier alt du trenger fra maskinen før du avslutter.
Hvor Spark-maskinene står
Dette fungerer på alle lokasjoner, fordi partnermaskiner tilbyr de samme DGX OS- og Ubuntu-imagene. Mine egne Spark-maskiner står i et datasenter i Hradec Králové i Tsjekkia. Partnermaskiner eies og driftes av partnere i deres egne lokaler i USA, Sverige, Nederland, Slovakia og Hongkong, og en partner har fysisk tilgang til maskinen sin. Konsollen viser landet, og om det er i EØS, før du deployer.
Hvem som driver dette
GPUwerk er en ny plattform, og jeg er personen bak den: Samuel Seidel, grunnlegger, som driver som PRINT IT! SE, registrert i Praha. Siden september 2026 har 94 utviklere startet 374 instanser på den (per 9. november 2026). Oppetid og hendelser står på status.gpuwerk.com. Hvis du er usikker på om stacken din vil kjøre, kan du skrive til meg via kontaktsiden før du betaler; jeg svarer selv.
Spørsmål og svar
Hvilken CUDA-versjon er på maskinen?
Begge images, DGX OS 7 og Ubuntu 24.04, har CUDA 13.0-verktøysettet med nvcc og NCCL. NVIDIA-driveren kommer fra verten og kan ikke endres fra innsiden av instansen.
Er DGX OS-imaget NVIDIAs DGX OS?
Nei. Det er min egen build i en container: Ubuntu 24.04 med CUDA 13.0-verktøysettet, NCCL og NVIDIA DCGM. /etc/dgx-release identifiserer det som et GPUwerk-image.
Kan jeg bygge Docker-images på den?
På noen maskiner, ja: mange leide Spark-maskiner kjører instansen din som en systemcontainer med egen Docker-daemon, så docker build og docker run --gpus all kjører direkte på arm64. Andre kjører en enkel container uten Docker. Du kan ikke velge hvilken; docker info forteller deg hvilken du har.
Hva koster en kort test?
Omtrent 0 $,26 for 20 minutter à 0 $,79 i timen, fakturert per minutt fra forhåndsbetalt kreditt. For å deploye må kontoen ha kreditt for én time. Avslutt når du er ferdig, så stopper faktureringen; da slettes arbeidsområdet.