Testa e porta il tuo software su una vera GB10: aarch64, CUDA, sm_121
Una issue dice che la tua libreria non funziona su una DGX Spark, e tu non ne hai una. Oppure le tue wheel si compilano su x86 e nessuno le ha provate su una CPU Arm con una GPU Blackwell. Noleggia un'intera Spark per i minuti necessari a scoprirlo: una shell root su una NVIDIA GB10 (aarch64, compute capability CUDA 12.1) con il toolkit CUDA 13.0 installato. A 0 $,79 all'ora, fatturati al minuto, una verifica di 20 minuti costa circa 0 $,26.
Prima ricarica: paghi 20 $, ricevi 30 $ di credito. Fatturazione al minuto dal credito prepagato. Termina quando hai finito e la fatturazione si ferma. La maggior parte di chi noleggia una Spark da me avvia l'immagine DGX OS di base e porta il proprio stack, ed è di questo che parla questa pagina.
Cosa ottieni
| CPU | Arm a 20 core (10 Cortex-X925 e 10 Cortex-A725), uname -m restituisce aarch64 |
|---|---|
| GPU | NVIDIA GB10, generazione Blackwell, compute capability 12,1 (sm_121) |
| Memoria | 128 GB di LPDDR5x unificata condivisa da CPU e GPU, 273 GB/s |
| Immagini | DGX OS 7: Ubuntu 24.04 con il toolkit CUDA 13.0 (nvcc), NCCL e NVIDIA DCGM. Ubuntu 24.04: lo stesso senza DCGM. Entrambi hanno git, tmux, vim, curl e Python 3 con pip e venv. |
| Accesso | Un terminale root nel browser senza chiave SSH, oppure SSH come root sulla porta 22 con la tua chiave. Ogni istanza ha il proprio indirizzo IPv4 pubblico e l'hostname <name>.gpuwerk.com. |
| Come funziona | Un container con la GPU passata direttamente: su molte Spark un container di sistema con systemd e Docker, sulle altre uno semplice senza nessuno dei due. Sei root al suo interno; il driver NVIDIA proviene dall'host. |
| Storage | 1 TB NVMe, condiviso con l'host. /workspace sopravvive a riavvii e ricostruzioni e viene eliminato quando termini. |
L'immagine chiamata DGX OS 7 nella console è una mia build: Ubuntu 24.04 più i pacchetti sopra indicati, in un container. Non è l'immagine di installazione di DGX OS di NVIDIA, e /etc/dgx-release lo dichiara. Cosa gira in un container, e cosa no, è nelle note sull'ambiente tenant.
Una prima verifica in cinque minuti
Avvia DGX Spark 1× con l'immagine DGX OS, attendi lo stato running e fai clic su Apri terminale nel browser nella pagina dell'istanza. Poi verifica su cosa ti trovi:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
L'ultima riga stampa il GB10 e (12, 1). Alcune build di PyTorch stampano un avviso secondo cui sm_121 non è compatibile; di solito è sbagliato, e la guida PyTorch su una DGX Spark spiega perché e quale wheel scegliere.
Compila e testa il tuo progetto
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Tre cose colgono di sorpresa le persone su questo chip:
- Indica l'architettura. Per il tuo codice CUDA, compila con
-gencode=arch=compute_121a,code=sm_121a, o-DCMAKE_CUDA_ARCHITECTURES=121a-realin CMake. La forma abbreviata-arch=sm_121apuò perdere la "a" e con essa le istruzioni FP4, come ha rilevato una discussione sul forum NVIDIA (dettagli nella guida sui TFLOPS). Una build per un'altra architettura può compilare senza errori e poi girare male. - Aspettati build da sorgente. Molti pacchetti aarch64 e sm_121 non forniscono una wheel, quindi pip li compila. Limita i job paralleli (
MAX_JOBS=4) perché una build grande non esaurisca i 128 GB di memoria. - I kernel per altri chip Blackwell non funzionano tutti. sm_121 esegue codice compilato per sm_120, ma i kernel scritti per Blackwell da data center (sm_100) no, e alcuni percorsi FP4 sono stati eseguiti senza errori producendo output sbagliati. Verifica i risultati, non solo che giri.
Per portare a casa gli artefatti di build, copiali con la tua chiave SSH, poi termina:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Esecuzioni scriptate dalla tua CI
Non c'è un'integrazione CI pronta. C'è un'API che avvia e termina istanze al minuto, quindi un job sul tuo runner può prendere in prestito una Spark, eseguire i test via SSH e restituirla. Usa una chiave API con scope instances.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Un deploy richiede credito per almeno un'ora (altrimenti 402) e restituisce 409 quando nessuna macchina è libera, quindi il tuo job deve gestirlo. I deploy via API vanno su una macchina nel SEE, a meno che tu non imposti location_country o partner_region. Tutti i campi sono nel riferimento API.
Quanto costa una verifica
| Sessione | Costo a 0 $,79/h |
|---|---|
| Riproduci una segnalazione di bug, 20 minuti | circa 0 $,26 |
| Compila e testa una release, 1 ora | 0,79 $ |
| Una giornata di porting, 8 ore | 6,32 $ |
La fatturazione è al minuto dal credito prepagato e parte quando l'istanza supera il controllo di disponibilità. Per il deploy, l'account deve avere credito per un'ora. Prima ricarica: paghi 20 $, ricevi 30 $ di credito, circa 37 ore su una Spark. Un'istanza arrestata mantiene il suo workspace ed è fatturata al 75% della tariffa oraria; terminala quando hai finito e la fatturazione si ferma, il che elimina il workspace. Prezzi IVA esclusa, ove applicabile.
Cosa non può dirti una GB10 a noleggio
- È un container, non bare metal. Non puoi caricare moduli del kernel né cambiare il driver, e la versione del driver è quella che usa l'host. Le regressioni dei driver qui sono fuori portata.
- Docker dipende dalla macchina. Molte Spark eseguono la tua istanza come container di sistema con un proprio daemon Docker, quindi
docker buildedocker runfunzionano; altre eseguono un container semplice senza, e non puoi scegliere quale. Vedi la pagina sull'ambiente tenant. - Un solo chip. Superare i test su GB10 non dice nulla su Grace Hopper (sm_90), Blackwell da data center (sm_100) o Jetson. Le macchine GB10 di altri produttori condividono il chip ma possono differire nel firmware.
- systemd dipende dalla macchina. Molte Spark eseguono systemd nella tua istanza; le altre eseguono un container semplice senza di esso né
NET_ADMIN, dove avvii i servizi da una shell, da tmux o dall'hook di avvio. In nessun caso c'è un dispositivo TUN, quindi i client VPN a livello di kernel non funzionano. - Nessuno SLA e nessun backup. Copia tutto ciò che ti serve dalla macchina prima di terminare.
Dove si trovano le Spark
Funziona su ogni ubicazione, perché le Spark partner offrono le stesse immagini DGX OS e Ubuntu. Le mie Spark sono in un data center a Hradec Králové, in Repubblica Ceca. Le Spark partner sono di proprietà di partner e ospitate presso le loro sedi negli USA, in Svezia, nei Paesi Bassi, in Slovacchia e a Hong Kong, e un partner ha accesso fisico alla sua macchina. La console mostra il paese, e se è nel SEE, prima del deploy.
Chi gestisce tutto questo
GPUwerk è una piattaforma nuova, e dietro ci sono io: Samuel Seidel, fondatore, che opera come PRINT IT! SE, registrata a Praga. Da settembre 2026, 94 sviluppatori vi hanno avviato 374 istanze (al 9 novembre 2026). Uptime e incidenti sono su status.gpuwerk.com. Se non sei sicuro che il tuo stack funzioni, scrivimi tramite la pagina dei contatti prima di pagare; rispondo io.
FAQ
Quale versione di CUDA c'è sulla macchina?
Entrambe le immagini, DGX OS 7 e Ubuntu 24.04, includono il toolkit CUDA 13.0 con nvcc e NCCL. Il driver NVIDIA proviene dall'host e non può essere modificato dall'interno dell'istanza.
L'immagine DGX OS è il DGX OS di NVIDIA?
No. È una mia build in un container: Ubuntu 24.04 con il toolkit CUDA 13.0, NCCL e NVIDIA DCGM. /etc/dgx-release la identifica come immagine GPUwerk.
Posso creare immagini Docker su di essa?
Su alcune macchine, sì: molte Spark a noleggio eseguono la tua istanza come container di sistema con un proprio daemon Docker, quindi docker build e docker run --gpus all girano nativamente su arm64. Altre eseguono un container semplice senza Docker. Non puoi scegliere quale; docker info ti dice quale hai.
Quanto costa un breve test?
Circa 0 $,26 per 20 minuti a 0 $,79 all'ora, fatturati al minuto dal credito prepagato. Per il deploy, l'account deve avere credito per un'ora. Termina quando hai finito e la fatturazione si ferma; il workspace viene eliminato.