Testaa ja siirrä ohjelmistosi oikealla GB10:llä: aarch64, CUDA, sm_121
Issue kertoo kirjastosi kaatuvan DGX Sparkilla, eikä sinulla ole sellaista. Tai wheelisi kääntyvät x86:lla, eikä kukaan ole kokeillut niitä Arm-suorittimella ja Blackwell-GPU:lla. Vuokraa kokonainen Spark niiksi minuuteiksi, jotka selvittämiseen kuluu: root-komentorivi NVIDIA GB10:llä (aarch64, CUDA compute capability 12.1) ja asennettu CUDA 13.0 -työkalupaketti. Hintaan 0,79 $ tunnilta, laskutus minuutin tarkkuudella, 20 minuutin tarkistus maksaa noin 0,26 $.
Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa. Laskutus minuutin tarkkuudella ennakkoon maksetusta saldosta. Lopeta, kun olet valmis, niin laskutus päättyy. Useimmat minulta Sparkin vuokraavat käynnistävät pelkän DGX OS -vedoksen ja tuovat oman ohjelmistopinonsa, ja siitä tämä sivu kertoo.
Mitä saat
| CPU | 20-ytiminen Arm (10 Cortex-X925 ja 10 Cortex-A725), uname -m antaa aarch64 |
|---|---|
| GPU | NVIDIA GB10, Blackwell-sukupolvi, compute capability 12.1 (sm_121) |
| Muisti | 128 GB yhtenäistä LPDDR5x-muistia, jonka CPU ja GPU jakavat, 273 GB/s |
| Vedokset | DGX OS 7: Ubuntu 24.04, CUDA 13.0 -työkalupaketti (nvcc), NCCL ja NVIDIA DCGM. Ubuntu 24.04: sama ilman DCGM:ää. Molemmissa on git, tmux, vim, curl ja Python 3 pipillä ja venvillä. |
| Pääsy | Root-pääte selaimessa ilman SSH-avainta tai SSH root-käyttäjänä portissa 22 omalla avaimellasi. Jokaisella instanssilla on oma julkinen IPv4-osoite ja hostname <nimi>.gpuwerk.com. |
| Miten se toimii | Kontti, johon GPU on kytketty suoraan: monessa Sparkissa järjestelmäkontti systemd:n ja Dockerin kanssa, muissa pelkkä kontti ilman kumpaakaan. Olet sen sisällä root; NVIDIA-ajuri tulee isännältä. |
| Tallennustila | 1 TB NVMe, jaettu isännän kanssa. /workspace säilyy uudelleenkäynnistyksissä ja uudelleenrakennuksissa ja poistetaan, kun lopetat instanssin. |
Konsolissa DGX OS 7 -nimellä kulkeva vedos on itse rakentamani: Ubuntu 24.04 ja yllä mainitut paketit kontissa. Se ei ole NVIDIAn DGX OS -asennuslevykuva, ja /etc/dgx-release kertoo sen. Mikä kontissa toimii ja mikä ei, on kerrottu vuokralaisympäristön muistiinpanoissa.
Ensimmäinen tarkistus viidessä minuutissa
Ota DGX Spark 1× käyttöön DGX OS -vedoksella, odota tilaa running ja napsauta instanssin sivulla Avaa pääte selaimessa. Tarkista sitten, millä olet:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Viimeinen rivi tulostaa GB10:n ja (12, 1). Jotkin PyTorch-versiot tulostavat varoituksen, ettei sm_121 ole yhteensopiva; se on yleensä väärä, ja opas PyTorch DGX Sparkilla selittää miksi ja minkä wheelin valita.
Käännä ja testaa projektisi
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Kolme asiaa yllättää ihmiset tällä sirulla:
- Nimeä arkkitehtuuri. Käännä oma CUDA-koodisi valitsimella
-gencode=arch=compute_121a,code=sm_121atai CMakessa-DCMAKE_CUDA_ARCHITECTURES=121a-real. Lyhenne-arch=sm_121avoi pudottaa "a"-kirjaimen ja sen mukana FP4-käskyt, kuten NVIDIA-foorumin ketjussa havaittiin (tiedot TFLOPS-oppaassa). Toiselle arkkitehtuurille tehty käännös voi kääntyä siististi ja toimia sitten huonosti. - Varaudu lähdekäännöksiin. Monille aarch64- ja sm_121-paketeille ei ole wheeliä, joten pip kääntää ne. Rajoita rinnakkaisia töitä (
MAX_JOBS=4), jotta suuri käännös ei kuluta 128 GB:tä loppuun. - Muiden Blackwell-sirujen ytimet eivät kaikki siirry. sm_121 ajaa sm_120:lle käännettyä koodia, mutta konesali-Blackwellille (sm_100) kirjoitetut ytimet eivät toimi, ja jotkin FP4-polut ovat toimineet ilman virheitä mutta tuottaneet väärää tulosta. Tarkista tulokset, ei vain sitä, että ajo onnistui.
Kun haluat viedä käännöstuotokset kotiin, kopioi ne omalla SSH-avaimellasi ja lopeta sitten:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Skriptatut ajot omasta CI:stäsi
Valmista CI-integraatiota ei ole. Sen sijaan on API, joka ottaa käyttöön ja lopettaa minuuttitarkkuudella, joten omalla suoritusympäristölläsi (runner) ajettava työ voi lainata Sparkin, ajaa testit SSH:n kautta ja palauttaa koneen. Käytä API-avainta, jolla on instances-oikeus.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Käyttöönotto vaatii saldoa vähintään tunniksi (muuten 402), ja palauttaa 409, kun yhtään konetta ei ole vapaana, joten työsi on käsiteltävä se. API-käyttöönotot ohjataan ETA-alueella olevalle koneelle, ellet aseta location_country- tai partner_region-kenttää. Kaikki kentät ovat API-viitteessä.
Mitä tarkistus maksaa
| Istunto | Kustannus hintaan 0,79 $/h |
|---|---|
| Toista yksi virheraportti, 20 minuuttia | noin 0,26 $ |
| Käännä ja testaa julkaisu, 1 tunti | 0,79 $ |
| Päivä siirtotyötä, 8 tuntia | 6,32 $ |
Laskutus tapahtuu minuutin tarkkuudella ennakkoon maksetusta saldosta ja alkaa, kun instanssi läpäisee valmiustarkistuksensa. Käyttöönottoa varten tilillä on oltava saldoa tunniksi. Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa, noin 37 tuntia yhdellä Sparkilla. Pysäytetty instanssi säilyttää työtilansa ja laskutetaan 75 %:lla tuntihinnasta; lopeta se, kun olet valmis, niin laskutus päättyy, mikä poistaa työtilan. Hinnat eivät sisällä alv:tä, jos sitä sovelletaan.
Mitä vuokrattu GB10 ei voi kertoa sinulle
- Se on kontti, ei bare metal. Et voi ladata ytimen moduuleja tai vaihtaa ajuria, ja ajuriversio on se, mitä isäntä ajaa. Ajurien regressiot ovat täällä ulottumattomissa.
- Docker riippuu koneesta. Monet Sparkit ajavat instanssiasi järjestelmäkonttina, jolla on oma Docker-daemon, joten
docker buildjadocker runtoimivat; toiset ajavat pelkkää konttia ilman sitä, etkä voi valita kumpaa. Katso vuokralaisympäristön sivu. - Yksi siru. Läpäisy GB10:llä ei kerro mitään Grace Hopperista (sm_90), konesali-Blackwellista (sm_100) tai Jetsonista. Muiden valmistajien GB10-koneissa on sama siru, mutta laiteohjelmisto voi erota.
- systemd riippuu koneesta. Monet Sparkit ajavat systemd:tä instanssissasi; muut ajavat pelkkää konttia ilman sitä tai
NET_ADMIN-oikeutta, jolloin käynnistät palvelut komentoriviltä, tmuxista tai käynnistyskoukusta. TUN-laitetta ei ole kummassakaan tapauksessa, joten ytimen tilassa toimivat VPN-asiakkaat eivät toimi. - Ei SLA:ta eikä varmuuskopioita. Kopioi kaikki tarvitsemasi koneelta ennen kuin lopetat.
Missä Sparkit ovat
Tämä toimii jokaisessa sijainnissa, koska kumppaneiden Sparkit tarjoavat samat DGX OS- ja Ubuntu-vedokset. Omat Sparkini ovat konesalissa Hradec Královéssa, Tšekissä. Kumppaneiden Sparkit ovat kumppaneiden omistamia ja niiden omissa tiloissa ylläpitämiä Yhdysvalloissa, Ruotsissa, Alankomaissa, Slovakiassa ja Hongkongissa, ja kumppanilla on fyysinen pääsy koneeseensa. Konsoli näyttää maan ja sen, onko kone ETA-alueella, ennen käyttöönottoa.
Kuka tätä pyörittää
GPUwerk on uusi alusta, ja minä olen sen takana: Samuel Seidel, perustaja, toiminimellä PRINT IT! SE, rekisteröity Prahaan. Syyskuusta 2026 lähtien 94 kehittäjää on käynnistänyt sillä 374 instanssia (tilanne 9. marraskuuta 2026). Käytettävyys ja häiriöt ovat osoitteessa status.gpuwerk.com. Jos et ole varma, toimiiko ohjelmistopinosi, kirjoita minulle yhteystietosivun kautta ennen maksamista; vastaan itse.
UKK
Mikä CUDA-versio koneella on?
Molemmissa vedoksissa, DGX OS 7 ja Ubuntu 24.04, on CUDA 13.0 -työkalupaketti, jossa on nvcc ja NCCL. NVIDIA-ajuri tulee isännältä, eikä sitä voi muuttaa instanssin sisältä.
Onko DGX OS -vedos NVIDIAn DGX OS?
Ei. Se on itse rakentamani vedos kontissa: Ubuntu 24.04, CUDA 13.0 -työkalupaketti, NCCL ja NVIDIA DCGM. /etc/dgx-release tunnistaa sen GPUwerk-vedokseksi.
Voinko rakentaa sillä Docker-vedoksia?
Joillakin koneilla kyllä: monet vuokratut Sparkit ajavat instanssiasi järjestelmäkonttina, jolla on oma Docker-daemon, joten docker build ja docker run --gpus all toimivat natiivisti arm64:llä. Toiset ajavat pelkkää konttia ilman Dockeria. Et voi valita kumpaa; docker info kertoo, kumpi sinulla on.
Paljonko lyhyt testi maksaa?
Noin 0,26 20 $ minuutista hintaan 0,79 $ tunnilta, laskutus minuutin tarkkuudella ennakkoon maksetusta saldosta. Käyttöönottoa varten tilillä on oltava saldoa tunniksi. Lopeta, kun olet valmis, niin laskutus päättyy; se poistaa työtilan.