Testați și portați-vă software-ul pe un GB10 real: aarch64, CUDA, sm_121
Un issue spune că biblioteca dvs. eșuează pe un DGX Spark, iar dvs. nu aveți unul. Sau wheels-urile dvs. se construiesc pe x86 și nimeni nu le-a încercat pe un CPU Arm cu GPU Blackwell. Închiriați un Spark întreg pentru minutele necesare ca să aflați: un shell root pe un NVIDIA GB10 (aarch64, CUDA compute capability 12.1) cu toolkitul CUDA 13.0 instalat. La 0,79 $ pe oră, facturat pe minut, o verificare de 20 de minute costă aproximativ 0,26 $.
Prima reîncărcare: plătiți 20 $, primiți 30 $ credit. Facturat pe minut din credit preplătit. Terminați instanța când nu mai aveți nevoie de ea, iar facturarea se oprește. Majoritatea celor care închiriază un Spark de la mine pornesc imaginea DGX OS simplă și își aduc propriul stack, despre care este vorba în această pagină.
Ce primiți
| CPU | Arm cu 20 de nuclee (10 Cortex-X925 și 10 Cortex-A725), uname -m afișează aarch64 |
|---|---|
| GPU | NVIDIA GB10, generația Blackwell, compute capability 12.1 (sm_121) |
| Memorie | 128 GB LPDDR5x unificată, partajată de CPU și GPU, 273 GB/s |
| Imagini | DGX OS 7: Ubuntu 24.04 cu toolkitul CUDA 13.0 (nvcc), NCCL și NVIDIA DCGM. Ubuntu 24.04: același lucru, fără DCGM. Ambele au git, tmux, vim, curl și Python 3 cu pip și venv. |
| Acces | Un terminal root în browser fără cheie SSH, sau SSH ca root pe portul 22 cu propria cheie. Fiecare instanță are propria adresă IPv4 publică și numele de gazdă <name>.gpuwerk.com. |
| Cum funcționează | Un container cu GPU-ul transmis direct: pe multe Spark-uri, un container de sistem cu systemd și Docker; pe celelalte, unul simplu, fără acestea. Sunteți root în interior; driverul NVIDIA vine de la gazdă. |
| Stocare | 1 TB NVMe, partajat cu gazda. /workspace rezistă la reporniri și reconstruiri și se șterge când terminați instanța. |
Imaginea numită DGX OS 7 în consolă este build-ul meu: Ubuntu 24.04 plus pachetele de mai sus, într-un container. Nu este imaginea de instalare DGX OS a NVIDIA, iar /etc/dgx-release o spune. Ce rulează într-un container și ce nu este descris în notele despre mediul clientului.
O primă verificare în cinci minute
Lansați DGX Spark 1× cu imaginea DGX OS, așteptați starea running și faceți clic pe Open terminal in browser pe pagina instanței. Apoi confirmați pe ce rulați:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Ultima linie afișează GB10 și (12, 1). Unele build-uri PyTorch afișează un avertisment că sm_121 nu este compatibil; de obicei este greșit, iar ghidul PyTorch pe un DGX Spark explică de ce și ce wheel să alegeți.
Construiți și testați proiectul
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Trei lucruri îi surprind pe mulți la acest cip:
- Numiți arhitectura. Pentru propriul cod CUDA, compilați cu
-gencode=arch=compute_121a,code=sm_121asau-DCMAKE_CUDA_ARCHITECTURES=121a-realîn CMake. Forma scurtă-arch=sm_121apoate pierde „a” și odată cu el instrucțiunile FP4, după cum a constatat un fir de discuție de pe forumul NVIDIA (detalii în ghidul TFLOPS). Un build pentru altă arhitectură poate compila curat și apoi rula prost. - Așteptați-vă la build-uri din surse. Multe pachete aarch64 și sm_121 nu au wheel, așa că pip le compilează. Limitați joburile paralele (
MAX_JOBS=4) ca un build mare să nu epuizeze cei 128 GB de memorie. - Nu toate kernelurile pentru alte cipuri Blackwell funcționează. sm_121 rulează cod construit pentru sm_120, dar kernelurile scrise pentru Blackwell pentru centre de date (sm_100) nu, iar unele căi FP4 au rulat fără erori și au produs rezultate greșite. Verificați rezultatele, nu doar faptul că a rulat.
Pentru a lua acasă artefactele de build, copiați-le cu propria cheie SSH, apoi terminați instanța:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Rulări scriptate din propriul CI
Nu există o integrare CI gata făcută. Ce există: un API care lansează și termină pe minut, astfel încât un job pe propriul runner poate împrumuta un Spark, își poate rula testele prin SSH și îl poate da înapoi. Folosiți o cheie API cu permisiunea pentru instanțe.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Un deploy necesită credit pentru cel puțin o oră (altfel 402) și returnează 409 când nicio mașină nu este liberă, așa că jobul dvs. trebuie să trateze acest caz. Deployurile prin API merg pe o mașină din SEE, dacă nu setați location_country sau partner_region. Toate câmpurile sunt în referința API.
Cât costă o verificare
| Sesiune | Cost la 0,79 $/h |
|---|---|
| Reproduceți un raport de bug, 20 de minute | aproximativ 0,26 $ |
| Construiți și testați o versiune, 1 oră | 0,79 $ |
| O zi de portare, 8 ore | 6,32 $ |
Facturarea se face pe minut din credit preplătit și începe după ce instanța trece verificarea de disponibilitate. Contul are nevoie de credit pentru o oră pentru a lansa. Prima reîncărcare: plătiți 20 $, primiți 30 $ credit, aproximativ 37 de ore pe un Spark. O instanță oprită își păstrează spațiul de lucru și se facturează cu 75% din tariful orar; terminați-o când nu mai aveți nevoie de ea, iar facturarea se oprește, ceea ce șterge spațiul de lucru. Prețurile nu includ TVA, unde se aplică.
Ce nu vă poate spune un GB10 închiriat
- Este un container, nu bare metal. Nu puteți încărca module de kernel sau schimba driverul, iar versiunea driverului este cea rulată de gazdă. Regresiile de driver sunt în afara controlului dvs. aici.
- Docker depinde de mașină. Multe Spark-uri rulează instanța dvs. ca un container de sistem cu propriul daemon Docker, deci
docker buildșidocker runfuncționează; altele rulează un container simplu fără daemon și nu puteți alege care. Vedeți pagina despre mediul clientului. - Un singur cip. Faptul că trece testele pe GB10 nu spune nimic despre Grace Hopper (sm_90), Blackwell pentru centre de date (sm_100) sau Jetson. Mașinile GB10 ale altor producători au același cip, dar pot diferi prin firmware.
- systemd depinde de mașină. Multe Spark-uri rulează systemd în instanța dvs.; celelalte rulează un container simplu fără el sau fără
NET_ADMIN, unde porniți serviciile dintr-un shell, din tmux sau din hook-ul de pornire. În ambele cazuri nu există dispozitiv TUN, deci clienții VPN în mod kernel nu rulează. - Fără SLA și fără backupuri. Copiați tot ce aveți nevoie de pe mașină înainte de a o termina.
Unde se află Spark-urile
Funcționează în orice locație, pentru că Spark-urile partenerilor oferă aceleași imagini DGX OS și Ubuntu. Spark-urile mele sunt într-un centru de date din Hradec Králové, Republica Cehă. Spark-urile partenerilor sunt deținute și găzduite de parteneri la propriile sedii, în SUA, Suedia, Țările de Jos, Slovacia și Hong Kong, iar un partener are acces fizic la mașina lui. Consola arată țara și dacă este în SEE înainte să lansați.
Cine conduce asta
GPUwerk este o platformă nouă, iar eu sunt omul din spatele ei: Samuel Seidel, fondator, prin PRINT IT! SE, înregistrată la Praga. Din septembrie 2026, 94 de dezvoltatori au pornit pe ea 374 de instanțe (la 9 noiembrie 2026). Disponibilitatea și incidentele sunt pe status.gpuwerk.com. Dacă nu sunteți sigur că stack-ul dvs. va rula, scrieți-mi prin pagina de contact înainte să plătiți; răspund personal.
Întrebări frecvente
Ce versiune CUDA este pe mașină?
Ambele imagini, DGX OS 7 și Ubuntu 24.04, includ toolkitul CUDA 13.0 cu nvcc și NCCL. Driverul NVIDIA vine de la gazdă și nu poate fi schimbat din interiorul instanței.
Este imaginea DGX OS chiar DGX OS de la NVIDIA?
Nu. Este build-ul meu într-un container: Ubuntu 24.04 cu toolkitul CUDA 13.0, NCCL și NVIDIA DCGM. /etc/dgx-release îl identifică drept imagine GPUwerk.
Pot construi imagini Docker pe el?
Pe unele mașini, da: multe Spark-uri închiriate rulează instanța dvs. ca un container de sistem cu propriul daemon Docker, deci docker build și docker run --gpus all rulează nativ pe arm64. Altele rulează un container simplu fără Docker. Nu puteți alege care; docker info vă spune ce aveți.
Cât costă un test scurt?
Aproximativ 0,26 $ pentru 20 de minute la 0,79 $ pe oră, facturat pe minut din credit preplătit. Pentru a lansa, contul are nevoie de credit pentru o oră. Terminați instanța când nu mai aveți nevoie de ea, iar facturarea se oprește; asta șterge spațiul de lucru.