DGX Spark/ARM64- und CUDA-Tests
Anwendungsfall · Testen und Portieren

Testen und portieren Sie Ihre Software auf einer echten GB10: aarch64, CUDA, sm_121

Von Samuel Seidel · Aktualisiert am 10. November 2026 · 7 Min. Lesezeit

Ein Issue meldet, dass Ihre Library auf einer DGX Spark fehlschlägt, und Sie besitzen keine. Oder Ihre Wheels bauen auf x86, und niemand hat sie auf einer Arm-CPU mit Blackwell-GPU ausprobiert. Mieten Sie eine ganze Spark für die Minuten, die es braucht, um es herauszufinden: eine Root-Shell auf einem NVIDIA GB10 (aarch64, CUDA Compute Capability 12.1) mit installiertem CUDA-13.0-Toolkit. Bei 0,79 $ pro Stunde, minutengenau abgerechnet, kostet ein 20-minütiger Check etwa 0,26 $.

Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben. Minutengenau vom Prepaid-Guthaben abgerechnet. Beenden Sie die Instanz, wenn Sie fertig sind, dann endet die Abrechnung. Die meisten, die bei mir eine Spark mieten, starten das einfache DGX-OS-Image und bringen ihren eigenen Stack mit, und darum geht es auf dieser Seite.

Was Sie bekommen

CPU20-Kern-Arm (10 Cortex-X925 und 10 Cortex-A725), uname -m meldet aarch64
GPUNVIDIA GB10, Blackwell-Generation, Compute Capability 12.1 (sm_121)
Speicher128 GB Unified LPDDR5x, gemeinsam genutzt von CPU und GPU, 273 GB/s
ImagesDGX OS 7: Ubuntu 24.04 mit dem CUDA-13.0-Toolkit (nvcc), NCCL und NVIDIA DCGM. Ubuntu 24.04: dasselbe ohne DCGM. Beide haben git, tmux, vim, curl und Python 3 mit pip und venv.
ZugangEin Root-Terminal im Browser ohne SSH-Schlüssel oder SSH als root auf Port 22 mit Ihrem eigenen Schlüssel. Jede Instanz hat ihre eigene öffentliche IPv4-Adresse und den Hostnamen <name>.gpuwerk.com.
Wie sie läuftEin Container, an den die GPU direkt durchgereicht wird: auf vielen Sparks ein System-Container mit systemd und Docker, auf den übrigen ein einfacher Container ohne beides. Darin sind Sie root; der NVIDIA-Treiber kommt vom Host.
Speicher1 TB NVMe, geteilt mit dem Host. /workspace übersteht Neustarts und Rebuilds und wird beim Beenden gelöscht.

Das Image, das in der Konsole DGX OS 7 heißt, ist mein Build: Ubuntu 24.04 plus die Pakete oben, in einem Container. Es ist nicht NVIDIAs DGX-OS-Installationsimage, und /etc/dgx-release sagt das auch. Was in einem Container läuft und was nicht, steht in den Hinweisen zur Mandantenumgebung.

Ein erster Check in fünf Minuten

Stellen Sie DGX Spark 1× mit dem DGX-OS-Image bereit, warten Sie auf running und klicken Sie auf der Instanz-Seite auf Terminal im Browser öffnen. Prüfen Sie dann, worauf Sie sind:

uname -m                                    # aarch64
nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv
nvcc --version | tail -n 2                  # CUDA 13.0

python3 -m venv /workspace/venv && . /workspace/venv/bin/activate
pip install torch --index-url https://download.pytorch.org/whl/cu130
python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"

Die letzte Zeile gibt den GB10 und (12, 1) aus. Manche PyTorch-Builds geben eine Warnung aus, dass sm_121 nicht kompatibel sei; sie ist meist falsch, und der Guide PyTorch auf einer DGX Spark erklärt, warum und welches Wheel Sie wählen sollten.

Ihr Projekt bauen und testen

cd /workspace
git clone https://github.com/your-org/your-project.git
cd your-project
pip install -e '.[test]'           # or your own build step
pytest -x -q
pip wheel . --no-deps -w dist/     # an aarch64 wheel to take home

Drei Dinge erwischen Leute auf diesem Chip:

Um Build-Artefakte mitzunehmen, kopieren Sie sie mit Ihrem eigenen SSH-Schlüssel und beenden Sie dann:

# on your laptop
scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .

Skriptgesteuerte Läufe aus Ihrer eigenen CI

Es gibt keine fertige CI-Integration. Was es gibt: eine API, die minutengenau bereitstellt und beendet, sodass ein Job auf Ihrem eigenen Runner sich eine Spark leihen, seine Tests per SSH ausführen und sie zurückgeben kann. Nutzen Sie einen API-Schlüssel mit dem Scope Instanzen.

curl -s -X POST https://api.gpuwerk.com/v1/instances \
  -H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
  -d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
  -H "Authorization: Bearer $GPUWERK_TOKEN"     # billing ends, workspace deleted

Eine Bereitstellung braucht Guthaben für mindestens eine Stunde (sonst 402) und liefert 409, wenn keine Maschine frei ist; Ihr Job muss das also abfangen. Bereitstellungen per API gehen auf eine Maschine im EWR, sofern Sie nicht location_country oder partner_region setzen. Alle Felder stehen in der API-Referenz.

Was ein Check kostet

SessionKosten bei 0,79 $/h
Einen Bug-Report reproduzieren, 20 Minutenetwa 0,26 $
Ein Release bauen und testen, 1 Stunde0,79 $
Ein Tag Portierung, 8 Stunden6,32 $

Die Abrechnung erfolgt minutengenau vom Prepaid-Guthaben und beginnt, sobald die Instanz ihren Bereitschaftscheck besteht. Für eine Bereitstellung braucht das Konto Guthaben für eine Stunde. Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben, etwa 37 Stunden auf einer Spark. Eine gestoppte Instanz behält ihren Workspace und wird mit 75 % des Stundensatzes abgerechnet; beenden Sie sie, wenn Sie fertig sind, dann endet die Abrechnung, und der Workspace wird gelöscht. Preise zzgl. MwSt., soweit anwendbar.

Was Ihnen eine gemietete GB10 nicht sagen kann

Wo die Sparks stehen

Das funktioniert an jedem Standort, weil Partner-Sparks dieselben Images DGX OS und Ubuntu anbieten. Meine eigenen Sparks stehen in einem Rechenzentrum in Hradec Králové, Tschechien. Partner-Sparks gehören Partnern und werden von ihnen in eigenen Räumlichkeiten in den USA, Schweden, den Niederlanden, der Slowakei und Hongkong gehostet, und ein Partner hat physischen Zugang zu seiner Maschine. Die Konsole zeigt vor der Bereitstellung das Land und ob es im EWR liegt.

Wer das betreibt

GPUwerk ist eine neue Plattform, und ich bin die Person dahinter: Samuel Seidel, Gründer, tätig als PRINT IT! SE mit Sitz in Prag. Seit September 2026 haben 94 Entwickler darauf 374 Instanzen gestartet (Stand: 9. November 2026). Verfügbarkeit und Störungen stehen auf status.gpuwerk.com. Wenn Sie nicht sicher sind, ob Ihr Stack läuft, schreiben Sie mir über die Kontaktseite, bevor Sie zahlen; ich antworte selbst.

FAQ

Welche CUDA-Version ist auf der Maschine?

Beide Images, DGX OS 7 und Ubuntu 24.04, enthalten das CUDA-13.0-Toolkit mit nvcc und NCCL. Der NVIDIA-Treiber kommt vom Host und lässt sich innerhalb der Instanz nicht ändern.

Ist das DGX-OS-Image NVIDIAs DGX OS?

Nein. Es ist mein Build in einem Container: Ubuntu 24.04 mit dem CUDA-13.0-Toolkit, NCCL und NVIDIA DCGM. /etc/dgx-release weist es als GPUwerk-Image aus.

Kann ich darauf Docker-Images bauen?

Auf einigen Maschinen ja: Viele gemietete Sparks betreiben Ihre Instanz als System-Container mit eigenem Docker-Daemon, sodass docker build und docker run --gpus all nativ auf arm64 laufen. Andere betreiben einen einfachen Container ohne Docker. Sie können nicht wählen, welche; docker info sagt Ihnen, was Sie haben.

Was kostet ein kurzer Test?

Etwa 0,26 $ für 20 Minuten bei 0,79 $ pro Stunde, minutengenau vom Prepaid-Guthaben abgerechnet. Für eine Bereitstellung braucht das Konto Guthaben für eine Stunde. Beenden Sie die Instanz, wenn Sie fertig sind, dann endet die Abrechnung; dabei wird der Workspace gelöscht.

Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben

Reproduzieren Sie es noch heute auf einer GB10.

Eine dedizierte DGX Spark mit Root-Shell und CUDA 13.0, 0,79 $/h, minutengenau abgerechnet. Beenden Sie sie, wenn Sie fertig sind, dann endet die Abrechnung.

Jetzt bereitstellen