Test og portér din software på en rigtig GB10: aarch64, CUDA, sm_121
En issue siger, at dit bibliotek fejler på en DGX Spark, og du ejer ikke en. Eller dine wheels bygger på x86, og ingen har prøvet dem på en Arm-CPU med en Blackwell-GPU. Lej en hel Spark i de minutter, det tager at finde ud af det: en root-shell på en NVIDIA GB10 (aarch64, CUDA compute capability 12.1) med CUDA 13.0-toolkittet installeret. Ved 0 $,79 i timen, faktureret pr. minut, koster et tjek på 20 minutter cirka 0 $,26.
Første optankning: betal 20 $, få 30 $ i kredit. Faktureret pr. minut fra forudbetalt kredit. Afslut, når du er færdig, så ophører faktureringen. De fleste, der lejer en Spark af mig, starter det rene DGX OS-image og tager deres egen stack med, og det er det, denne side handler om.
Det får du
| CPU | 20-kernet Arm (10 Cortex-X925 og 10 Cortex-A725), uname -m giver aarch64 |
|---|---|
| GPU | NVIDIA GB10, Blackwell-generationen, compute capability 12.1 (sm_121) |
| Hukommelse | 128 GB unified LPDDR5x, som deles af CPU og GPU, 273 GB/s |
| Images | DGX OS 7: Ubuntu 24.04 med CUDA 13.0-toolkittet (nvcc), NCCL og NVIDIA DCGM. Ubuntu 24.04: det samme uden DCGM. Begge har git, tmux, vim, curl og Python 3 med pip og venv. |
| Adgang | En root-terminal i browseren uden SSH-nøgle eller SSH som root på port 22 med din egen nøgle. Hver instans har sin egen offentlige IPv4-adresse og værtsnavnet <name>.gpuwerk.com. |
| Sådan kører den | En container med GPU'en sendt direkte igennem: på mange Sparks en systemcontainer med systemd og Docker, på de andre en almindelig container uden nogen af delene. Du er root i den; NVIDIA-driveren kommer fra værten. |
| Lager | 1 TB NVMe, delt med værten. /workspace overlever genstarter og genopbygninger og slettes, når du afslutter. |
Det image, der hedder DGX OS 7 i konsollen, er mit eget build: Ubuntu 24.04 plus pakkerne ovenfor i en container. Det er ikke NVIDIAs DGX OS-installationsimage, og /etc/dgx-release siger det. Hvad der kører i en container, og hvad der ikke gør, står i noterne om lejermiljøet.
Et første tjek på fem minutter
Udrul DGX Spark 1× med DGX OS-imaget, vent på running, og klik på Open terminal in browser på instanssiden. Bekræft derefter, hvad du kører på:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Den sidste linje udskriver GB10 og (12, 1). Nogle PyTorch-builds udskriver en advarsel om, at sm_121 ikke er kompatibel; den er som regel forkert, og guiden PyTorch på en DGX Spark forklarer hvorfor, og hvilket wheel du skal vælge.
Byg og test dit projekt
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Tre ting overrasker folk på denne chip:
- Angiv arkitekturen. Til din egen CUDA-kode skal du kompilere med
-gencode=arch=compute_121a,code=sm_121aeller-DCMAKE_CUDA_ARCHITECTURES=121a-reali CMake. Kortformen-arch=sm_121akan droppe "a" og dermed FP4-instruktionerne, som en tråd på NVIDIAs forum fandt ud af (detaljer i TFLOPS-guiden). Et build til en anden arkitektur kan kompilere uden fejl og derefter køre dårligt. - Regn med builds fra kildekode. Mange aarch64- og sm_121-pakker leveres uden wheel, så pip kompilerer dem. Begræns de parallelle job (
MAX_JOBS=4), så et stort build ikke løber tør for de 128 GB hukommelse. - Kerner til andre Blackwell-chips virker ikke alle sammen. sm_121 kører kode bygget til sm_120, men kerner skrevet til datacenter-Blackwell (sm_100) gør ikke, og nogle FP4-veje har kørt uden fejl og givet forkert output. Tjek resultaterne, ikke kun at det kørte.
For at tage build-artefakter med hjem skal du kopiere dem med din egen SSH-nøgle og derefter afslutte:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Scriptede kørsler fra din egen CI
Der er ingen færdig CI-integration. Det, der findes, er en API, der udruller og afslutter pr. minut, så et job på din egen runner kan låne en Spark, køre sine test over SSH og give den tilbage. Brug en API-nøgle med instances-scope.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
En udrulning kræver kredit til mindst én time (ellers 402) og returnerer 409, når ingen maskine er ledig, så dit job skal kunne håndtere det. API-udrulninger går til en maskine i EØS, medmindre du angiver location_country eller partner_region. Alle felter står i API-referencen.
Hvad et tjek koster
| Session | Pris ved 0 $,79/t |
|---|---|
| Genskab én fejlrapport, 20 minutter | cirka 0 $,26 |
| Byg og test en release, 1 time | 0,79 $ |
| En dags portering, 8 timer | 6,32 $ |
Faktureringen sker pr. minut fra forudbetalt kredit og starter, når instansen er meldt klar. Kontoen skal have kredit til én time for at udrulle. Første optankning: betal 20 $, få 30 $ i kredit, cirka 37 timer på én Spark. En stoppet instans beholder sit workspace og faktureres med 75 % af timeprisen; afslut den, når du er færdig, så ophører faktureringen, hvilket sletter workspacet. Priserne er ekskl. moms, hvor det er relevant.
Hvad en lejet GB10 ikke kan fortælle dig
- Det er en container, ikke bare metal. Du kan ikke indlæse kernemoduler eller ændre driveren, og driverversionen er den, værten kører. Driverregressioner er uden for rækkevidde her.
- Docker afhænger af maskinen. Mange Sparks kører din instans som en systemcontainer med sin egen Docker-daemon, så
docker buildogdocker runvirker; andre kører en almindelig container uden, og du kan ikke vælge hvilken. Se siden om lejermiljøet. - Én chip. At det virker på GB10, siger intet om Grace Hopper (sm_90), datacenter-Blackwell (sm_100) eller Jetson. Andre producenters GB10-maskiner deler chippen, men kan have forskellig firmware.
- systemd afhænger af maskinen. Mange Sparks kører systemd i din instans; de andre kører en almindelig container uden systemd eller
NET_ADMIN, hvor du starter tjenester fra en shell, tmux eller opstarts-hooket. Der er under alle omstændigheder ingen TUN-enhed, så VPN-klienter i kernetilstand kører ikke. - Ingen SLA og ingen backup. Kopier alt, hvad du har brug for, ud af maskinen, før du afslutter.
Hvor Sparks står
Dette virker på alle placeringer, fordi partner-Sparks tilbyder de samme DGX OS- og Ubuntu-images. Mine egne Sparks står i et datacenter i Hradec Králové i Tjekkiet. Partner-Sparks ejes og hostes af partnere i deres egne lokaler i USA, Sverige, Nederlandene, Slovakiet og Hongkong, og en partner har fysisk adgang til sin maskine. Konsollen viser landet, og om det er i EØS, før du udruller.
Hvem driver dette
GPUwerk er en ny platform, og jeg er personen bag den: Samuel Seidel, grundlægger, der driver virksomhed som PRINT IT! SE, registreret i Prag. Siden september 2026 har 94 udviklere startet 374 instanser på den (pr. 9. november 2026). Oppetid og hændelser står på status.gpuwerk.com. Er du ikke sikker på, at din stack vil køre, så skriv til mig via kontaktsiden, før du betaler; jeg svarer selv.
FAQ
Hvilken CUDA-version er der på maskinen?
Begge images, DGX OS 7 og Ubuntu 24.04, har CUDA 13.0-toolkittet med nvcc og NCCL. NVIDIA-driveren kommer fra værten og kan ikke ændres inde fra instansen.
Er DGX OS-imaget NVIDIAs DGX OS?
Nej. Det er mit eget build i en container: Ubuntu 24.04 med CUDA 13.0-toolkittet, NCCL og NVIDIA DCGM. /etc/dgx-release identificerer det som et GPUwerk-image.
Kan jeg bygge Docker-images på den?
På nogle maskiner, ja: mange lejede Sparks kører din instans som en systemcontainer med sin egen Docker-daemon, så docker build og docker run --gpus all kører indbygget på arm64. Andre kører en almindelig container uden Docker. Du kan ikke vælge hvilken; docker info fortæller dig, hvad du har.
Hvad koster en kort test?
Cirka 0 $,26 for 20 minutter ved 0 $,79 i timen, faktureret pr. minut fra forudbetalt kredit. For at udrulle skal kontoen have kredit til én time. Afslut, når du er færdig, så ophører faktureringen; det sletter workspacet.