Testējiet un pārnesiet savu programmatūru uz īsta GB10: aarch64, CUDA, sm_121
Kāds problēmas ziņojums vēsta, ka jūsu bibliotēka nedarbojas uz DGX Spark, bet jums tāda nav. Vai arī jūsu wheel pakotnes tiek kompilētas uz x86, un neviens tās nav izmēģinājis uz Arm CPU ar Blackwell GPU. Nomājiet veselu Spark uz tām minūtēm, kas vajadzīgas, lai to noskaidrotu: root čaula uz NVIDIA GB10 (aarch64, CUDA compute capability 12.1) ar instalētu CUDA 13.0 rīkkopu. Par 0,79 $ stundā ar maksu par katru minūti 20 minūšu pārbaude izmaksā aptuveni 0,26 $.
Pirmā papildināšana: samaksājiet 20 $, saņemiet 30 $ kredītā. Maksa par katru minūti no priekšapmaksas kredīta. Izbeidziet instanci, kad esat pabeiguši, un maksas aprēķins beidzas. Lielākā daļa cilvēku, kas nomā Spark no manis, palaiž vienkāršo DGX OS attēlu un izmanto savu steku, un tieši par to ir šī lapa.
Ko jūs saņemat
| CPU | 20 kodolu Arm (10 Cortex-X925 un 10 Cortex-A725), uname -m rāda aarch64 |
|---|---|
| GPU | NVIDIA GB10, Blackwell paaudze, compute capability 12.1 (sm_121) |
| Atmiņa | 128 GB vienotā LPDDR5x atmiņa, ko koplieto CPU un GPU, 273 GB/s |
| Attēli | DGX OS 7: Ubuntu 24.04 ar CUDA 13.0 rīkkopu (nvcc), NCCL un NVIDIA DCGM. Ubuntu 24.04: tas pats bez DCGM. Abos ir git, tmux, vim, curl un Python 3 ar pip un venv. |
| Piekļuve | Root terminālis pārlūkā bez SSH atslēgas vai SSH kā root caur 22. portu ar jūsu pašu atslēgu. Katrai instancei ir sava publiskā IPv4 adrese un resursdatora nosaukums <name>.gpuwerk.com. |
| Kā tas darbojas | Konteiners ar tieši pievienotu GPU: daudzos Spark tas ir sistēmas konteiners ar systemd un Docker, citos vienkāršs konteiners bez tiem. Tajā jums ir root tiesības; NVIDIA draiveris nāk no resursdatora. |
| Krātuve | 1 TB NVMe, koplietots ar resursdatoru. /workspace saglabājas pēc restartēšanas un pārbūves un tiek dzēsts, kad izbeidzat instanci. |
Attēls, kas konsolē saucas DGX OS 7, ir mana versija: Ubuntu 24.04 plus iepriekš minētās pakotnes konteinerā. Tas nav NVIDIA DGX OS instalētāja attēls, un /etc/dgx-release to arī norāda. Kas konteinerā darbojas un kas ne, aprakstīts nomnieka vides piezīmēs.
Pirmā pārbaude piecās minūtēs
Izvietojiet DGX Spark 1× ar DGX OS attēlu, gaidiet statusu running un instances lapā noklikšķiniet Open terminal in browser. Tad pārbaudiet, uz kā strādājat:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Pēdējā rinda izdrukā GB10 un (12, 1). Dažas PyTorch versijas izdrukā brīdinājumu, ka sm_121 nav saderīgs; parasti tas ir nepareizs, un ceļvedis PyTorch uz DGX Spark izskaidro, kāpēc, un kuru wheel pakotni izvēlēties.
Kompilējiet un testējiet savu projektu
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Šajā mikroshēmā cilvēkus pārsteidz trīs lietas:
- Norādiet arhitektūru. Savam CUDA kodam kompilējiet ar
-gencode=arch=compute_121a,code=sm_121avai CMake ar-DCMAKE_CUDA_ARCHITECTURES=121a-real. Saīsinājums-arch=sm_121avar atmest "a" un līdz ar to FP4 instrukcijas, kā atklāja kāda NVIDIA foruma diskusija (sīkāk TFLOPS ceļvedī). Kompilācija citai arhitektūrai var kompilēties bez kļūdām un pēc tam darboties slikti. - Rēķinieties ar kompilēšanu no pirmkoda. Daudzām aarch64 un sm_121 pakotnēm nav wheel, tāpēc pip tās kompilē. Ierobežojiet paralēlos darbus (
MAX_JOBS=4), lai liela kompilācija neiztērētu visus 128 GB atmiņas. - Ne visi kodoli citām Blackwell mikroshēmām ir pārnesami. sm_121 darbina kodu, kas kompilēts sm_120, bet kodoli, kas rakstīti datu centra Blackwell (sm_100), nedarbojas, un daži FP4 ceļi ir darbojušies bez kļūdām, bet devuši nepareizu rezultātu. Pārbaudiet rezultātus, nevis tikai to, ka tas darbojās.
Lai paņemtu līdzi kompilācijas artefaktus, nokopējiet tos ar savu SSH atslēgu, tad izbeidziet instanci:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Skriptētas izpildes no jūsu pašu CI
Gatavas CI integrācijas nav. Kas ir: API, kas izvieto un izbeidz ar minūtes precizitāti, tāpēc uzdevums jūsu pašu izpildītājā var aizņemties Spark, palaist testus caur SSH un atdot to atpakaļ. Izmantojiet API atslēgu ar instanču tvērumu.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Izvietošanai vajadzīgs kredīts vismaz vienai stundai (citādi 402), un, ja neviena iekārta nav brīva, tiek atgriezts 409, tāpēc jūsu uzdevumam tas jāapstrādā. Caur API izvietotās instances nonāk iekārtā EEZ, ja vien neiestatāt location_country vai partner_region. Visi lauki ir aprakstīti API dokumentācijā.
Cik maksā pārbaude
| Sesija | Izmaksas pie 0,79 $/h |
|---|---|
| Viena kļūdas ziņojuma atkārtošana, 20 minūtes | aptuveni 0,26 $ |
| Laidiena kompilēšana un testēšana, 1 stunda | 0,79 $ |
| Viena pārnešanas diena, 8 stundas | 6,32 $ |
Maksa tiek aprēķināta par katru minūti no priekšapmaksas kredīta un sākas, kad instance iztur gatavības pārbaudi. Lai izvietotu, kontā jābūt kredītam vienai stundai. Pirmā papildināšana: samaksājiet 20 $, saņemiet 30 $ kredītā, aptuveni 37 stundas vienā Spark. Apturēta instance saglabā savu darbvietu, un par to tiek iekasēti 75% no stundas likmes; izbeidziet to, kad esat pabeiguši, un maksas aprēķins beidzas, un darbvieta tiek dzēsta. Cenas norādītas bez PVN, ja tas piemērojams.
Ko nomāts GB10 nevar pateikt
- Tas ir konteiners, nevis fiziska iekārta bez virtualizācijas. Jūs nevarat ielādēt kodola moduļus vai mainīt draiveri, un draivera versija ir tā, ko darbina resursdators. Draiveru regresijas šeit nav sasniedzamas.
- Docker ir atkarīgs no iekārtas. Daudzi Spark jūsu instanci darbina kā sistēmas konteineru ar savu Docker dēmonu, tāpēc
docker buildundocker rundarbojas; citi darbina vienkāršu konteineru bez tā, un jūs nevarat izvēlēties, kuru. Skatiet nomnieka vides lapu. - Viena mikroshēma. Veiksmīga darbība uz GB10 neko neliecina par Grace Hopper (sm_90), datu centra Blackwell (sm_100) vai Jetson. Citu ražotāju GB10 iekārtām ir tā pati mikroshēma, taču programmaparatūra var atšķirties.
- systemd ir atkarīgs no iekārtas. Daudzi Spark jūsu instancē darbina systemd; pārējie darbina vienkāršu konteineru bez tā vai bez
NET_ADMIN, kur pakalpojumus startējat no čaulas, tmux vai palaišanas āķa. Jebkurā gadījumā TUN ierīces nav, tāpēc kodola režīma VPN klienti nedarbojas. - Nav SLA un nav dublējumu. Pirms izbeidzat instanci, nokopējiet no iekārtas visu, kas jums vajadzīgs.
Kur atrodas Spark iekārtas
Tas darbojas visās atrašanās vietās, jo partneru Spark piedāvā tos pašus DGX OS un Ubuntu attēlus. Mani Spark atrodas datu centrā Hradecā Krālovē, Čehijā. Partneru Spark pieder partneriem, un tie tos mitina savās telpās ASV, Zviedrijā, Nīderlandē, Slovākijā un Honkongā, un partnerim ir fiziska piekļuve savai iekārtai. Konsole pirms izvietošanas parāda valsti un to, vai tā ir EEZ.
Kas to vada
GPUwerk ir jauna platforma, un es esmu cilvēks, kas stāv aiz tās: Samuel Seidel, dibinātājs, darbojos kā PRINT IT! SE, kas reģistrēts Prāgā. Kopš 2026. gada septembra 94 izstrādātāji tajā ir palaiduši 374 instances (dati uz 2026. gada 9. novembri). Darbspēja un incidenti ir redzami status.gpuwerk.com. Ja neesat pārliecināti, vai jūsu steks darbosies, pirms maksājat, uzrakstiet man caur kontaktu lapu; atbildu pats.
BUJ
Kāda CUDA versija ir iekārtā?
Abos attēlos, DGX OS 7 un Ubuntu 24.04, ir CUDA 13.0 rīkkopa ar nvcc un NCCL. NVIDIA draiveris nāk no resursdatora, un to nevar mainīt no instances iekšpuses.
Vai DGX OS attēls ir NVIDIA DGX OS?
Nē. Tā ir mana versija konteinerā: Ubuntu 24.04 ar CUDA 13.0 rīkkopu, NCCL un NVIDIA DCGM. /etc/dgx-release to identificē kā GPUwerk attēlu.
Vai tajā varu kompilēt Docker attēlus?
Dažās iekārtās jā: daudzi nomātie Spark jūsu instanci darbina kā sistēmas konteineru ar savu Docker dēmonu, tāpēc docker build un docker run --gpus all darbojas natīvi arm64 vidē. Citi darbina vienkāršu konteineru bez Docker. Jūs nevarat izvēlēties, kuru; docker info parāda, kurš jums ir.
Cik maksā īss tests?
Aptuveni 0,26 $ par 20 minūtēm pie 0,79 $ stundā, maksa par katru minūti no priekšapmaksas kredīta. Lai izvietotu, kontā jābūt kredītam vienai stundai. Izbeidziet instanci, kad esat pabeiguši, un maksas aprēķins beidzas; tas dzēš darbvietu.