Test en port je software op een echte GB10: aarch64, CUDA, sm_121
Een issue meldt dat je library faalt op een DGX Spark, en je hebt er geen. Of je wheels bouwen op x86 en niemand heeft ze geprobeerd op een Arm-CPU met een Blackwell-GPU. Huur een hele Spark voor de minuten die het kost om het uit te zoeken: een root-shell op een NVIDIA GB10 (aarch64, CUDA compute capability 12.1) met de CUDA 13.0-toolkit geïnstalleerd. Tegen $ 0,79 per uur, per minuut gefactureerd, kost een check van 20 minuten ongeveer $ 0,26.
Eerste opwaardering: betaal $ 20, krijg $ 30 tegoed. Per minuut afgeschreven van prepaid tegoed. Beëindig de instance als je klaar bent; daarmee stopt de facturering. De meeste mensen die een Spark van mij huren, starten de kale DGX OS-image en brengen hun eigen stack mee, en daar gaat deze pagina over.
Wat je krijgt
| CPU | 20-core Arm (10 Cortex-X925 en 10 Cortex-A725), uname -m geeft aarch64 |
|---|---|
| GPU | NVIDIA GB10, Blackwell-generatie, compute capability 12.1 (sm_121) |
| Geheugen | 128 GB unified LPDDR5x, gedeeld door CPU en GPU, 273 GB/s |
| Afbeeldingen | DGX OS 7: Ubuntu 24.04 met de CUDA 13.0-toolkit (nvcc), NCCL en NVIDIA DCGM. Ubuntu 24.04: hetzelfde zonder DCGM. Beide hebben git, tmux, vim, curl en Python 3 met pip en venv. |
| Toegang | Een root-terminal in de browser zonder SSH-sleutel, of SSH als root op poort 22 met je eigen sleutel. Elke instance heeft een eigen publiek IPv4-adres en de hostnaam <name>.gpuwerk.com. |
| Hoe het draait | Een container waaraan de GPU rechtstreeks is doorgegeven: op veel Sparks een systeemcontainer met systemd en Docker, op de andere een eenvoudige zonder beide. Je bent root in de container; de NVIDIA-driver komt van de host. |
| Opslag | 1 TB NVMe, gedeeld met de host. /workspace blijft bewaard bij herstarts en rebuilds en wordt verwijderd wanneer je beëindigt. |
De image die in de console DGX OS 7 heet, is mijn eigen build: Ubuntu 24.04 plus de pakketten hierboven, in een container. Het is niet de installatie-image van DGX OS van NVIDIA, en /etc/dgx-release zegt dat ook. Wat wel en niet in een container draait, staat in de notities over de tenant-omgeving.
Een eerste check in vijf minuten
Deploy DGX Spark 1× met de DGX OS-image, wacht op running en klik op de pagina van de instance op Open terminal in browser. Controleer dan waar je op zit:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
De laatste regel toont de GB10 en (12, 1). Sommige PyTorch-builds geven een waarschuwing dat sm_121 niet compatibel is; die klopt meestal niet, en de handleiding PyTorch op een DGX Spark legt uit waarom en welke wheel je kiest.
Bouw en test je project
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Drie dingen overvallen mensen op deze chip:
- Noem de architectuur. Compileer je eigen CUDA-code met
-gencode=arch=compute_121a,code=sm_121a, of-DCMAKE_CUDA_ARCHITECTURES=121a-realin CMake. De afkorting-arch=sm_121akan de "a" laten vallen en daarmee de FP4-instructies, zoals een thread op het NVIDIA-forum ontdekte (details in de TFLOPS-handleiding). Een build voor een andere architectuur kan zonder fouten compileren en daarna slecht draaien. - Reken op builds vanaf broncode. Veel aarch64- en sm_121-pakketten leveren geen wheel, dus pip compileert ze. Beperk het aantal parallelle jobs (
MAX_JOBS=4) zodat een grote build de 128 GB niet uitput. - Kernels voor andere Blackwell-chips werken niet allemaal. sm_121 draait code die voor sm_120 is gebouwd, maar kernels die voor datacenter-Blackwell (sm_100) zijn geschreven niet, en sommige FP4-paden draaiden zonder fouten en gaven toch verkeerde uitvoer. Controleer de resultaten, niet alleen of het draaide.
Om build-artefacten mee naar huis te nemen, kopieer je ze met je eigen SSH-sleutel en beëindig je daarna:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Gescripte runs vanuit je eigen CI
Er is geen kant-en-klare CI-integratie. Wat er wel is: een API die per minuut deployt en beëindigt, zodat een job op je eigen runner een Spark kan lenen, er via SSH tests op kan draaien en hem teruggeeft. Gebruik een API-sleutel met de scope instances.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Voor een deploy is tegoed voor minstens één uur nodig (anders 402), en als er geen machine vrij is, krijg je 409 terug, dus je job moet daarmee omgaan. Deploys via de API gaan naar een machine in de EER, tenzij je location_country of partner_region instelt. Alle velden staan in de API-referentie.
Wat een check kost
| Sessie | Kosten bij $ 0,79/uur |
|---|---|
| Eén bugmelding reproduceren, 20 minuten | ongeveer $ 0,26 |
| Een release bouwen en testen, 1 uur | $ 0,79 |
| Een dag porten, 8 uur | $ 6,32 |
De facturering gaat per minuut van prepaid tegoed en begint zodra de instance zijn gereedheidscontrole doorstaat. Om te deployen heeft het account tegoed voor één uur nodig. Eerste opwaardering: betaal $ 20, krijg $ 30 tegoed, ongeveer 37 uur op één Spark. Een gestopte instance behoudt zijn workspace en wordt gefactureerd tegen 75% van het uurtarief; beëindig hem als je klaar bent; daarmee stopt de facturering en wordt de workspace verwijderd. Prijzen zijn exclusief btw waar van toepassing.
Wat een gehuurde GB10 je niet kan vertellen
- Het is een container, geen bare metal. Je kunt geen kernelmodules laden of de driver wijzigen, en de driverversie is wat de host draait. Regressies in de driver liggen hier buiten bereik.
- Docker hangt af van de machine. Veel Sparks draaien je instance als systeemcontainer met een eigen Docker-daemon, zodat
docker buildendocker runwerken; andere draaien een eenvoudige container zonder, en je kunt niet kiezen welke. Zie de pagina over de tenant-omgeving. - Eén chip. Werken op GB10 zegt niets over Grace Hopper (sm_90), datacenter-Blackwell (sm_100) of Jetson. GB10-machines van andere fabrikanten delen de chip maar kunnen verschillen in firmware.
- systemd hangt af van de machine. Veel Sparks draaien systemd in je instance; de andere draaien een eenvoudige container zonder systemd of
NET_ADMIN, waar je diensten start vanuit een shell, tmux of de startup-hook. Er is hoe dan ook geen TUN-device, dus VPN-clients in kernelmodus draaien niet. - Geen SLA en geen back-ups. Kopieer alles wat je nodig hebt van de machine voordat je beëindigt.
Waar de Sparks staan
Dit werkt op elke locatie, omdat partner-Sparks dezelfde DGX OS- en Ubuntu-images bieden. Mijn eigen Sparks staan in een datacenter in Hradec Králové, Tsjechië. Partner-Sparks zijn eigendom van partners en worden door hen gehost op hun eigen locatie in de VS, Zweden, Nederland, Slowakije en Hongkong, en een partner heeft fysieke toegang tot zijn machine. De console toont vóór het deployen het land en of het in de EER ligt.
Wie dit runt
GPUwerk is een nieuw platform, en ik ben de persoon erachter: Samuel Seidel, oprichter, actief als PRINT IT! SE, geregistreerd in Praag. Sinds september 2026 hebben 94 developers er 374 instances op gestart (stand op 9 november 2026). Uptime en incidenten staan op status.gpuwerk.com. Weet je niet zeker of je stack draait, schrijf me dan via de contactpagina voordat je betaalt; ik antwoord zelf.
FAQ
Welke CUDA-versie staat er op de machine?
Beide images, DGX OS 7 en Ubuntu 24.04, bevatten de CUDA 13.0-toolkit met nvcc en NCCL. De NVIDIA-driver komt van de host en kan niet vanuit de instance worden gewijzigd.
Is de DGX OS-image het DGX OS van NVIDIA?
Nee. Het is mijn eigen build in een container: Ubuntu 24.04 met de CUDA 13.0-toolkit, NCCL en NVIDIA DCGM. /etc/dgx-release identificeert hem als een image van GPUwerk.
Kan ik er Docker-images op bouwen?
Op sommige machines, ja: veel gehuurde Sparks draaien je instance als systeemcontainer met een eigen Docker-daemon, zodat docker build en docker run --gpus all native op arm64 draaien. Andere draaien een eenvoudige container zonder Docker. Je kunt niet kiezen welke; docker info vertelt je welke je hebt.
Hoeveel kost een korte test?
Ongeveer $ 0,26 voor 20 minuten tegen $ 0,79 per uur, per minuut afgeschreven van prepaid tegoed. Om te deployen heeft het account tegoed voor één uur nodig. Beëindig de instance als je klaar bent; daarmee stopt de facturering en wordt de workspace verwijderd.