Testa och portera din programvara på en riktig GB10: aarch64, CUDA, sm_121
Ett ärende säger att ditt bibliotek inte fungerar på en DGX Spark, och du äger ingen. Eller så byggs dina wheels på x86 och ingen har testat dem på en Arm-CPU med en Blackwell-GPU. Hyr en hel Spark under de minuter det tar att ta reda på det: ett root-skal på en NVIDIA GB10 (aarch64, CUDA compute capability 12.1) med CUDA 13.0-verktygslådan installerad. För 0,79 USD i timmen, debiterat per minut, kostar en kontroll på 20 minuter cirka 0,26 USD.
Första påfyllningen: betala 20 USD, få 30 USD i kredit. Debiteras per minut från förbetald kredit. Avsluta när du är klar så upphör faktureringen. De flesta som hyr en Spark av mig startar den vanliga DGX OS-avbildningen och tar med sin egen stack, vilket är vad den här sidan handlar om.
Vad du får
| CPU | 20-kärnig Arm (10 Cortex-X925 och 10 Cortex-A725), uname -m visar aarch64 |
|---|---|
| GPU | NVIDIA GB10, Blackwell-generationen, compute capability 12.1 (sm_121) |
| Minne | 128 GB enhetligt LPDDR5x som delas av CPU och GPU, 273 GB/s |
| Bilder | DGX OS 7: Ubuntu 24.04 med CUDA 13.0-verktygslådan (nvcc), NCCL och NVIDIA DCGM. Ubuntu 24.04: samma sak utan DCGM. Båda har git, tmux, vim, curl och Python 3 med pip och venv. |
| Åtkomst | En root-terminal i webbläsaren utan SSH-nyckel, eller SSH som root på port 22 med din egen nyckel. Varje instans har sin egen publika IPv4-adress och värdnamnet <name>.gpuwerk.com. |
| Så körs den | En container med GPU:n direkt genomkopplad: på många Sparks en systemcontainer med systemd och Docker, på de övriga en enkel container utan någon av dem. Du är root i den; NVIDIA-drivrutinen kommer från värden. |
| Lagring | 1 TB NVMe, delat med värden. /workspace finns kvar vid omstarter och ombyggen och raderas när du avslutar. |
Avbildningen som heter DGX OS 7 i konsolen är mitt eget bygge: Ubuntu 24.04 plus paketen ovan, i en container. Det är inte NVIDIA:s installationsavbildning för DGX OS, och /etc/dgx-release säger det. Vad som körs i en container, och vad som inte gör det, finns i anteckningarna om kundmiljön.
En första kontroll på fem minuter
Driftsätt DGX Spark 1× med DGX OS-avbildningen, vänta på running och klicka på Öppna terminal i webbläsaren på instanssidan. Bekräfta sedan vad du kör på:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Den sista raden skriver ut GB10 och (12, 1). Vissa PyTorch-byggen skriver ut en varning om att sm_121 inte är kompatibel; den är oftast fel, och guiden PyTorch på en DGX Spark förklarar varför och vilken wheel du ska välja.
Bygg och testa ditt projekt
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Tre saker överraskar folk på det här chipet:
- Ange arkitekturen. För din egen CUDA-kod, kompilera med
-gencode=arch=compute_121a,code=sm_121a, eller-DCMAKE_CUDA_ARCHITECTURES=121a-reali CMake. Förkortningen-arch=sm_121akan tappa ”a” och därmed FP4-instruktionerna, som en tråd på NVIDIA:s forum kom fram till (detaljer i TFLOPS-guiden). Ett bygge för en annan arkitektur kan kompilera utan fel och sedan köras dåligt. - Räkna med att bygga från källkod. Många paket för aarch64 och sm_121 levereras utan wheel, så pip kompilerar dem. Begränsa antalet parallella jobb (
MAX_JOBS=4) så att ett stort bygge inte gör att de 128 GB tar slut. - Kärnor för andra Blackwell-chip fungerar inte alla. sm_121 kör kod byggd för sm_120, men kärnor skrivna för datacenter-Blackwell (sm_100) gör det inte, och vissa FP4-vägar har körts utan fel och gett felaktigt resultat. Kontrollera resultaten, inte bara att det kördes.
För att ta med dig byggartefakter hem, kopiera dem med din egen SSH-nyckel och avsluta sedan:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Skriptade körningar från din egen CI
Det finns ingen färdig CI-integration. Det som finns: ett API som driftsätter och avslutar per minut, så att ett jobb på din egen runner kan låna en Spark, köra sina tester via SSH och lämna tillbaka den. Använd en API-nyckel med behörighet för instanser.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
En driftsättning kräver kredit för minst en timme (annars 402) och returnerar 409 när ingen maskin är ledig, så ditt jobb måste hantera det. Driftsättningar via API hamnar på en maskin inom EES om du inte anger location_country eller partner_region. Alla fält finns i API-referensen.
Vad en kontroll kostar
| Session | Kostnad vid 0,79 USD/h |
|---|---|
| Återskapa en felrapport, 20 minuter | cirka 0,26 USD |
| Bygg och testa en release, 1 timme | 0,79 $ |
| En dags portering, 8 timmar | 6,32 $ |
Debitering sker per minut från förbetald kredit och börjar när instansen har godkänts i driftklarhetskontrollen. Kontot behöver kredit för en timme för att driftsätta. Första påfyllningen: betala 20 USD, få 30 USD i kredit, cirka 37 timmar på en Spark. En stoppad instans behåller sin arbetsyta och debiteras med 75 % av timpriset; avsluta den när du är klar så upphör faktureringen, och då raderas arbetsytan. Priserna är exkl. moms där sådan tillkommer.
Vad en hyrd GB10 inte kan visa dig
- Det är en container, inte bare metal. Du kan inte ladda kärnmoduler eller byta drivrutin, och drivrutinsversionen är den som värden kör. Drivrutinsregressioner går inte att påverka här.
- Docker beror på maskinen. Många Sparks kör din instans som en systemcontainer med en egen Docker-daemon, så
docker buildochdocker runfungerar; andra kör en enkel container utan, och du kan inte välja vilken. Se sidan om kundmiljön. - Ett chip. Att det fungerar på GB10 säger ingenting om Grace Hopper (sm_90), datacenter-Blackwell (sm_100) eller Jetson. Andra tillverkares GB10-maskiner delar chipet men kan skilja sig i firmware.
- systemd beror på maskinen. Många Sparks kör systemd i din instans; de övriga kör en enkel container utan det eller
NET_ADMIN, där du startar tjänster från ett skal, tmux eller uppstartskroken. Det finns ingen TUN-enhet i något av fallen, så VPN-klienter i kärnläge körs inte. - Inget SLA och inga säkerhetskopior. Kopiera allt du behöver från maskinen innan du avslutar.
Var Sparks finns
Det här fungerar på alla platser, eftersom partners Sparks erbjuder samma avbildningar med DGX OS och Ubuntu. Mina egna Sparks står i ett datacenter i Hradec Králové i Tjeckien. Partners Sparks ägs och driftas av partner i deras egna lokaler i USA, Sverige, Nederländerna, Slovakien och Hongkong, och en partner har fysisk åtkomst till sin maskin. Konsolen visar landet, och om det är inom EES, innan du driftsätter.
Vem som driver detta
GPUwerk är en ny plattform, och jag är personen bakom den: Samuel Seidel, grundare, verksam genom PRINT IT! SE, registrerat i Prag. Sedan september 2026 har 94 utvecklare startat 374 instanser på den (per den 9 november 2026). Drifttid och incidenter finns på status.gpuwerk.com. Om du inte är säker på att din stack kommer att fungera, skriv till mig via kontaktsidan innan du betalar; jag svarar själv.
Vanliga frågor
Vilken CUDA-version finns på maskinen?
Båda avbildningarna, DGX OS 7 och Ubuntu 24.04, har CUDA 13.0-verktygslådan med nvcc och NCCL. NVIDIA-drivrutinen kommer från värden och kan inte ändras inifrån instansen.
Är DGX OS-avbildningen NVIDIA:s DGX OS?
Nej. Det är mitt eget bygge i en container: Ubuntu 24.04 med CUDA 13.0-verktygslådan, NCCL och NVIDIA DCGM. /etc/dgx-release identifierar den som en GPUwerk-avbildning.
Kan jag bygga Docker-avbildningar på den?
På vissa maskiner, ja: många hyrda Sparks kör din instans som en systemcontainer med en egen Docker-daemon, så docker build och docker run --gpus all körs direkt på arm64. Andra kör en enkel container utan Docker. Du kan inte välja vilken; docker info visar vilken du har.
Vad kostar ett kort test?
Cirka 0,26 USD för 20 minuter à 0,79 USD i timmen, debiteras per minut från förbetald kredit. För att driftsätta behöver kontot kredit för en timme. Avsluta när du är klar så upphör faktureringen; då raderas arbetsytan.