Testi ja pordi oma tarkvara päris GB10-l: aarch64, CUDA, sm_121
Keegi on teatanud, et sinu teek DGX Sparkil ei tööta, ja sul endal seda masinat pole. Või sinu wheel-paketid valmivad x86-l ja keegi pole neid proovinud Arm-protsessoriga Blackwelli GPU-ga masinal. Rendi terve Spark nii mitmeks minutiks, kui väljaselgitamiseks kulub: root-shell NVIDIA GB10-l (aarch64, CUDA arvutusvõimekus 12.1) koos paigaldatud CUDA 13.0 tööriistakomplektiga. Hinnaga 0,79 $ tunnis, arveldatuna minutipõhiselt, maksab 20-minutiline kontroll umbes 0,26 $.
Esimene krediidi lisamine: maksa 20 $, saad 30 $ krediiti. Arveldatakse minutipõhiselt ettemakstud krediidist. Kui töö on tehtud, lõpeta eksemplar ja arveldus lõpeb. Enamik inimesi, kes minult Sparki rendivad, käivitavad lihtsa DGX OS-i tõmmise ja toovad oma tarkvara, millest see leht räägibki.
Mida saad
| Protsessor | 20-tuumaline Arm (10 Cortex-X925 ja 10 Cortex-A725), uname -m näitab aarch64 |
|---|---|
| GPU | NVIDIA GB10, Blackwelli põlvkond, arvutusvõimekus 12.1 (sm_121) |
| Mälu | 128 GB LPDDR5x ühismälu, mida jagavad protsessor ja GPU, 273 GB/s |
| Tõmmised | DGX OS 7: Ubuntu 24.04 koos CUDA 13.0 tööriistakomplekti (nvcc), NCCL-i ja NVIDIA DCGM-iga. Ubuntu 24.04: sama ilma DCGM-ita. Mõlemal on git, tmux, vim, curl ja Python 3 koos pip-i ja venv-iga. |
| Juurdepääs | Root-terminal brauseris ilma SSH-võtmeta või SSH root-kasutajana pordil 22 sinu enda võtmega. Igal eksemplaril on oma avalik IPv4-aadress ja hostinimi <name>.gpuwerk.com. |
| Kuidas see töötab | Konteiner, millele GPU on otse läbi antud: paljudel Sparkidel süsteemikonteiner systemd ja Dockeriga, teistel lihtne konteiner ilma nendeta. Sa oled selle sees root; NVIDIA draiver tuleb hostilt. |
| Salvestusruum | 1 TB NVMe, jagatud hostiga. /workspace säilib taaskäivituste ja ümberehituste korral ning kustutatakse, kui sa eksemplari lõpetad. |
Konsoolis DGX OS 7 nime kandev tõmmis on minu ehitatud: Ubuntu 24.04 pluss ülaltoodud paketid konteineris. See ei ole NVIDIA DGX OS-i paigaldustõmmis ja /etc/dgx-release ütleb seda. Mis konteineris töötab ja mis mitte, on kirjas rentija keskkonna märkmetes.
Esimene kontroll viie minutiga
Juuruta DGX Spark 1× DGX OS-i tõmmisega, oota olekut töötab ja klõpsa eksemplari lehel Ava terminal brauseris. Seejärel kontrolli, millel töötad:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Viimane rida näitab GB10 ja (12, 1). Mõned PyTorchi versioonid näitavad hoiatust, et sm_121 ei ühildu; see on tavaliselt vale ja juhend PyTorch DGX Sparkil selgitab, miks, ja millise wheel-paketi valida.
Ehita ja testi oma projekti
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Kolm asja, mis sellel kiibil inimesi üllatavad:
- Nimeta arhitektuur. Oma CUDA koodi jaoks kompileeri lipuga
-gencode=arch=compute_121a,code=sm_121avõi CMake'is-DCMAKE_CUDA_ARCHITECTURES=121a-real. Lühend-arch=sm_121avõib „a“ ära jätta ja koos sellega FP4 juhised, nagu leiti ühes NVIDIA foorumi arutelus (üksikasjad TFLOPS-i juhendis). Teise arhitektuuri jaoks tehtud ehitus võib kompileeruda puhtalt ja seejärel halvasti töötada. - Oota lähtekoodist ehitamist. Paljudel aarch64 ja sm_121 pakettidel pole wheel-faili, nii et pip kompileerib need. Piira paralleelseid töid (
MAX_JOBS=4), et suur ehitus ei ajaks 128 GB mälu täis. - Teiste Blackwelli kiipide kernelid ei kandu kõik üle. sm_121 käitab sm_120 jaoks ehitatud koodi, kuid andmekeskuse Blackwelli (sm_100) jaoks kirjutatud kernelid mitte, ja mõned FP4 teed on töötanud vigadeta, kuid andnud vale väljundi. Kontrolli tulemusi, mitte ainult seda, et see töötas.
Ehitusartefaktide kojuviimiseks kopeeri need oma SSH-võtmega, seejärel lõpeta eksemplar:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Skriptitud käitused sinu enda CI-st
Valmis CI-integratsiooni pole. Mis on olemas: API, mis juurutab ja lõpetab minutipõhiselt, nii et töö sinu enda käitajal saab Sparki laenata, käitada SSH kaudu oma testid ja selle tagasi anda. Kasuta eksemplaride õigusega API-võtit.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Juurutamiseks on vaja krediiti vähemalt üheks tunniks (muidu 402) ja kui vaba masinat pole, tagastatakse 409, nii et sinu töö peab sellega toime tulema. API kaudu juurutatakse EMP-s asuvasse masinasse, kui sa ei määra location_country või partner_region. Kõik väljad on API-viites.
Mis kontroll maksab
| Sessioon | Kulu hinnaga 0,79 $/h |
|---|---|
| Ühe veateate taasesitamine, 20 minutit | umbes 0,26 $ |
| Väljalaske ehitamine ja testimine, 1 tund | 0,79 $ |
| Päev portimist, 8 tundi | 6,32 $ |
Arveldatakse minutipõhiselt ettemakstud krediidist ja arveldus algab, kui eksemplar läbib valmisolekukontrolli. Juurutamiseks peab kontol olema krediiti üheks tunniks. Esimene krediidi lisamine: maksa 20 $, saad 30 $ krediiti, umbes 37 tundi ühel Sparkil. Peatatud eksemplar säilitab oma tööruumi ja selle eest arveldatakse 75% tunnihinnast; kui töö on tehtud, lõpeta see ja arveldus lõpeb, mis kustutab tööruumi. Hinnad ei sisalda käibemaksu, kui see kohaldub.
Mida renditud GB10 sulle öelda ei saa
- See on konteiner, mitte riistvara otse. Kerneli mooduleid ei saa laadida ega draiverit muuta ning draiveri versioon on see, mida host käitab. Draiveri regressioonid on siin väljaspool sinu käeulatust.
- Docker sõltub masinast. Paljud Sparkid käitavad sinu eksemplari süsteemikonteinerina, millel on oma Dockeri deemon, nii et
docker buildjadocker runtöötavad; teised käitavad lihtsat konteinerit ilma selleta ja sa ei saa valida, kumba. Vaata rentija keskkonna lehte. - Üks kiip. GB10-l läbimine ei ütle midagi Grace Hopperi (sm_90), andmekeskuse Blackwelli (sm_100) ega Jetsoni kohta. Teiste tootjate GB10 masinatel on sama kiip, kuid püsivara võib erineda.
- systemd sõltub masinast. Paljud Sparkid käitavad sinu eksemplaris systemd-d; teised käitavad lihtsat konteinerit ilma selle ja
NET_ADMIN-ita, kus käivitad teenuseid shellist, tmux-ist või käivituskonksust. TUN-seadet pole kummalgi juhul, seega kerneli režiimi VPN-kliendid ei tööta. - SLA-d ega varukoopiaid pole. Kopeeri masinast kõik vajalik enne lõpetamist.
Kus Sparkid asuvad
See töötab igas asukohas, sest partnerite Sparkid pakuvad samu DGX OS-i ja Ubuntu tõmmiseid. Minu enda Sparkid asuvad andmekeskuses Hradec Královés Tšehhi Vabariigis. Partnerite Sparkid kuuluvad partneritele ja neid majutatakse nende ruumides USA-s, Rootsis, Hollandis, Slovakkias ja Hongkongis ning partneril on oma masinale füüsiline juurdepääs. Konsool näitab enne juurutamist riiki ja seda, kas see on EMP-s.
Kes seda juhib
GPUwerk on uus platvorm ja selle taga olen mina: Samuel Seidel, asutaja, tegutsen ettevõtte PRINT IT! SE nime all, mis on registreeritud Prahas. Alates septembrist 2026 on 94 arendajat käivitanud sellel 374 eksemplari (seisuga 9. novembril 2026). Käideldavus ja intsidendid on aadressil status.gpuwerk.com. Kui sa pole kindel, kas sinu tarkvara töötab, kirjuta mulle enne maksmist kontaktilehe kaudu; vastan ise.
KKK
Milline CUDA versioon on masinas?
Mõlemal tõmmisel, DGX OS 7 ja Ubuntu 24.04, on CUDA 13.0 tööriistakomplekt koos nvcc ja NCCL-iga. NVIDIA draiver tuleb hostilt ja seda ei saa eksemplari seest muuta.
Kas DGX OS-i tõmmis on NVIDIA DGX OS?
Ei. See on minu ehitatud konteineris: Ubuntu 24.04 koos CUDA 13.0 tööriistakomplekti, NCCL-i ja NVIDIA DCGM-iga. /etc/dgx-release tuvastab selle GPUwerki tõmmisena.
Kas saan sellel Dockeri tõmmiseid ehitada?
Mõnel masinal jah: paljud renditud Sparkid käitavad sinu eksemplari süsteemikonteinerina, millel on oma Dockeri deemon, nii et docker build ja docker run --gpus all töötavad natiivselt arm64-l. Teised käitavad lihtsat konteinerit ilma Dockerita. Sa ei saa valida, kumba; docker info ütleb sulle, kumb sul on.
Kui palju lühike test maksab?
Umbes 0,26 20 $ minuti eest hinnaga 0,79 $ tunnis, arveldatakse minutipõhiselt ettemakstud krediidist. Juurutamiseks peab kontol olema krediiti üheks tunniks. Kui töö on tehtud, lõpeta eksemplar ja arveldus lõpeb; see kustutab tööruumi.