Testen und portieren Sie Ihre Software auf einer echten GB10: aarch64, CUDA, sm_121
Ein Issue meldet, dass Ihre Library auf einer DGX Spark fehlschlägt, und Sie besitzen keine. Oder Ihre Wheels bauen auf x86, und niemand hat sie auf einer Arm-CPU mit Blackwell-GPU ausprobiert. Mieten Sie eine ganze Spark für die Minuten, die es braucht, um es herauszufinden: eine Root-Shell auf einem NVIDIA GB10 (aarch64, CUDA Compute Capability 12.1) mit installiertem CUDA-13.0-Toolkit. Bei 0,79 $ pro Stunde, minutengenau abgerechnet, kostet ein 20-minütiger Check etwa 0,26 $.
Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben. Minutengenau vom Prepaid-Guthaben abgerechnet. Beenden Sie die Instanz, wenn Sie fertig sind, dann endet die Abrechnung. Die meisten, die bei mir eine Spark mieten, starten das einfache DGX-OS-Image und bringen ihren eigenen Stack mit, und darum geht es auf dieser Seite.
Was Sie bekommen
| CPU | 20-Kern-Arm (10 Cortex-X925 und 10 Cortex-A725), uname -m meldet aarch64 |
|---|---|
| GPU | NVIDIA GB10, Blackwell-Generation, Compute Capability 12.1 (sm_121) |
| Speicher | 128 GB Unified LPDDR5x, gemeinsam genutzt von CPU und GPU, 273 GB/s |
| Images | DGX OS 7: Ubuntu 24.04 mit dem CUDA-13.0-Toolkit (nvcc), NCCL und NVIDIA DCGM. Ubuntu 24.04: dasselbe ohne DCGM. Beide haben git, tmux, vim, curl und Python 3 mit pip und venv. |
| Zugang | Ein Root-Terminal im Browser ohne SSH-Schlüssel oder SSH als root auf Port 22 mit Ihrem eigenen Schlüssel. Jede Instanz hat ihre eigene öffentliche IPv4-Adresse und den Hostnamen <name>.gpuwerk.com. |
| Wie sie läuft | Ein Container, an den die GPU direkt durchgereicht wird: auf vielen Sparks ein System-Container mit systemd und Docker, auf den übrigen ein einfacher Container ohne beides. Darin sind Sie root; der NVIDIA-Treiber kommt vom Host. |
| Speicher | 1 TB NVMe, geteilt mit dem Host. /workspace übersteht Neustarts und Rebuilds und wird beim Beenden gelöscht. |
Das Image, das in der Konsole DGX OS 7 heißt, ist mein Build: Ubuntu 24.04 plus die Pakete oben, in einem Container. Es ist nicht NVIDIAs DGX-OS-Installationsimage, und /etc/dgx-release sagt das auch. Was in einem Container läuft und was nicht, steht in den Hinweisen zur Mandantenumgebung.
Ein erster Check in fünf Minuten
Stellen Sie DGX Spark 1× mit dem DGX-OS-Image bereit, warten Sie auf running und klicken Sie auf der Instanz-Seite auf Terminal im Browser öffnen. Prüfen Sie dann, worauf Sie sind:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Die letzte Zeile gibt den GB10 und (12, 1) aus. Manche PyTorch-Builds geben eine Warnung aus, dass sm_121 nicht kompatibel sei; sie ist meist falsch, und der Guide PyTorch auf einer DGX Spark erklärt, warum und welches Wheel Sie wählen sollten.
Ihr Projekt bauen und testen
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Drei Dinge erwischen Leute auf diesem Chip:
- Nennen Sie die Architektur. Kompilieren Sie Ihren eigenen CUDA-Code mit
-gencode=arch=compute_121a,code=sm_121aoder in CMake mit-DCMAKE_CUDA_ARCHITECTURES=121a-real. Die Kurzform-arch=sm_121akann das "a" und damit die FP4-Instruktionen verlieren, wie ein Thread im NVIDIA-Forum festgestellt hat (Details im TFLOPS-Guide). Ein Build für eine andere Architektur kann sauber kompilieren und dann schlecht laufen. - Rechnen Sie mit Source-Builds. Viele aarch64- und sm_121-Pakete liefern kein Wheel, also kompiliert pip sie. Begrenzen Sie die parallelen Jobs (
MAX_JOBS=4), damit ein großer Build die 128 GB nicht ausschöpft. - Kernels für andere Blackwell-Chips lassen sich nicht alle übernehmen. sm_121 führt Code aus, der für sm_120 gebaut wurde, aber Kernels für Rechenzentrums-Blackwell (sm_100) nicht, und einige FP4-Pfade liefen ohne Fehler und lieferten falsche Ergebnisse. Prüfen Sie die Ergebnisse, nicht nur, ob es lief.
Um Build-Artefakte mitzunehmen, kopieren Sie sie mit Ihrem eigenen SSH-Schlüssel und beenden Sie dann:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Skriptgesteuerte Läufe aus Ihrer eigenen CI
Es gibt keine fertige CI-Integration. Was es gibt: eine API, die minutengenau bereitstellt und beendet, sodass ein Job auf Ihrem eigenen Runner sich eine Spark leihen, seine Tests per SSH ausführen und sie zurückgeben kann. Nutzen Sie einen API-Schlüssel mit dem Scope Instanzen.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Eine Bereitstellung braucht Guthaben für mindestens eine Stunde (sonst 402) und liefert 409, wenn keine Maschine frei ist; Ihr Job muss das also abfangen. Bereitstellungen per API gehen auf eine Maschine im EWR, sofern Sie nicht location_country oder partner_region setzen. Alle Felder stehen in der API-Referenz.
Was ein Check kostet
| Session | Kosten bei 0,79 $/h |
|---|---|
| Einen Bug-Report reproduzieren, 20 Minuten | etwa 0,26 $ |
| Ein Release bauen und testen, 1 Stunde | 0,79 $ |
| Ein Tag Portierung, 8 Stunden | 6,32 $ |
Die Abrechnung erfolgt minutengenau vom Prepaid-Guthaben und beginnt, sobald die Instanz ihren Bereitschaftscheck besteht. Für eine Bereitstellung braucht das Konto Guthaben für eine Stunde. Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben, etwa 37 Stunden auf einer Spark. Eine gestoppte Instanz behält ihren Workspace und wird mit 75 % des Stundensatzes abgerechnet; beenden Sie sie, wenn Sie fertig sind, dann endet die Abrechnung, und der Workspace wird gelöscht. Preise zzgl. MwSt., soweit anwendbar.
Was Ihnen eine gemietete GB10 nicht sagen kann
- Es ist ein Container, kein Bare Metal. Sie können keine Kernelmodule laden oder den Treiber ändern, und die Treiberversion ist die, die der Host verwendet. Treiber-Regressionen liegen hier außerhalb Ihrer Reichweite.
- Docker hängt von der Maschine ab. Viele Sparks führen Ihre Instanz als System-Container mit eigenem Docker-Daemon aus, sodass
docker buildunddocker runfunktionieren; andere führen einen einfachen Container ohne Daemon aus, und Sie können nicht wählen, welche. Siehe die Seite zur Mandantenumgebung. - Ein Chip. Ein erfolgreicher Test auf GB10 sagt nichts über Grace Hopper (sm_90), Rechenzentrums-Blackwell (sm_100) oder Jetson aus. GB10-Maschinen anderer Hersteller teilen den Chip, können sich aber in der Firmware unterscheiden.
- systemd hängt von der Maschine ab. Viele Sparks betreiben systemd in Ihrer Instanz; die anderen betreiben einen einfachen Container ohne systemd und ohne
NET_ADMIN, in dem Sie Dienste aus einer Shell, tmux oder dem Start-Hook starten. Ein TUN-Gerät gibt es in keinem Fall, VPN-Clients im Kernelmodus laufen also nicht. - Kein SLA und keine Backups. Kopieren Sie alles, was Sie brauchen, von der Maschine, bevor Sie sie beenden.
Wo die Sparks stehen
Das funktioniert an jedem Standort, weil Partner-Sparks dieselben Images DGX OS und Ubuntu anbieten. Meine eigenen Sparks stehen in einem Rechenzentrum in Hradec Králové, Tschechien. Partner-Sparks gehören Partnern und werden von ihnen in eigenen Räumlichkeiten in den USA, Schweden, den Niederlanden, der Slowakei und Hongkong gehostet, und ein Partner hat physischen Zugang zu seiner Maschine. Die Konsole zeigt vor der Bereitstellung das Land und ob es im EWR liegt.
Wer das betreibt
GPUwerk ist eine neue Plattform, und ich bin die Person dahinter: Samuel Seidel, Gründer, tätig als PRINT IT! SE mit Sitz in Prag. Seit September 2026 haben 94 Entwickler darauf 374 Instanzen gestartet (Stand: 9. November 2026). Verfügbarkeit und Störungen stehen auf status.gpuwerk.com. Wenn Sie nicht sicher sind, ob Ihr Stack läuft, schreiben Sie mir über die Kontaktseite, bevor Sie zahlen; ich antworte selbst.
FAQ
Welche CUDA-Version ist auf der Maschine?
Beide Images, DGX OS 7 und Ubuntu 24.04, enthalten das CUDA-13.0-Toolkit mit nvcc und NCCL. Der NVIDIA-Treiber kommt vom Host und lässt sich innerhalb der Instanz nicht ändern.
Ist das DGX-OS-Image NVIDIAs DGX OS?
Nein. Es ist mein Build in einem Container: Ubuntu 24.04 mit dem CUDA-13.0-Toolkit, NCCL und NVIDIA DCGM. /etc/dgx-release weist es als GPUwerk-Image aus.
Kann ich darauf Docker-Images bauen?
Auf einigen Maschinen ja: Viele gemietete Sparks betreiben Ihre Instanz als System-Container mit eigenem Docker-Daemon, sodass docker build und docker run --gpus all nativ auf arm64 laufen. Andere betreiben einen einfachen Container ohne Docker. Sie können nicht wählen, welche; docker info sagt Ihnen, was Sie haben.
Was kostet ein kurzer Test?
Etwa 0,26 $ für 20 Minuten bei 0,79 $ pro Stunde, minutengenau vom Prepaid-Guthaben abgerechnet. Für eine Bereitstellung braucht das Konto Guthaben für eine Stunde. Beenden Sie die Instanz, wenn Sie fertig sind, dann endet die Abrechnung; dabei wird der Workspace gelöscht.