Тествайте и пренасяйте софтуера си на истински GB10: aarch64, CUDA, sm_121
В issue пише, че библиотеката ви не работи на DGX Spark, а вие нямате такъв. Или вашите wheels се компилират на x86, но никой не ги е пробвал на Arm CPU с Blackwell GPU. Наемете цял Spark за минутите, които са нужни, за да разберете: root shell на NVIDIA GB10 (aarch64, CUDA compute capability 12.1) с инсталиран CUDA 13.0 toolkit. При 0,79 $ на час, таксуване на минута, 20-минутна проверка струва около 0,26 $.
Първо внасяне: платете 20 $, получете 30 $ кредит. Таксуване на минута от предплатен кредит. Прекратете, когато приключите, и таксуването спира. Повечето хора, които наемат Spark от мен, стартират обикновения образ DGX OS и носят свой стек, за което е и тази страница.
Какво получавате
| CPU | 20-ядрен Arm (10 Cortex-X925 и 10 Cortex-A725), uname -m показва aarch64 |
|---|---|
| GPU | NVIDIA GB10, поколение Blackwell, compute capability 12.1 (sm_121) |
| Памет | 128 GB унифицирана LPDDR5x, споделена от CPU и GPU, 273 GB/s |
| Изображения | DGX OS 7: Ubuntu 24.04 с CUDA 13.0 toolkit (nvcc), NCCL и NVIDIA DCGM. Ubuntu 24.04: същото без DCGM. И двата имат git, tmux, vim, curl и Python 3 с pip и venv. |
| Достъп | Root терминал в браузъра без SSH ключ или SSH като root на порт 22 със собствен ключ. Всяка инстанция има собствен публичен IPv4 адрес и име на хост <name>.gpuwerk.com. |
| Как работи | Контейнер с директно предаден GPU: на много Spark възли това е системен контейнер със systemd и Docker, на останалите — обикновен контейнер без тях. Вътре в него сте root; драйверът на NVIDIA идва от хоста. |
| Хранилище | 1 TB NVMe, споделен с хоста. /workspace оцелява при рестартиране и преизграждане и се изтрива, когато прекратите. |
Образът, наречен DGX OS 7 в конзолата, е моя компилация: Ubuntu 24.04 плюс пакетите по-горе, в контейнер. Това не е инсталационният образ на DGX OS на NVIDIA и /etc/dgx-release го посочва. Какво работи в контейнер и какво не, е описано в бележките за средата на наемателя.
Първа проверка за пет минути
Стартирайте DGX Spark 1× с образа DGX OS, изчакайте running и щракнете върху Open terminal in browser на страницата на инстанцията. После потвърдете на какво сте:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
Последният ред отпечатва GB10 и (12, 1). Някои версии на PyTorch отпечатват предупреждение, че sm_121 не е съвместим; обикновено то е погрешно, а ръководството PyTorch на DGX Spark обяснява защо и кой wheel да изберете.
Компилирайте и тествайте проекта си
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Три неща изненадват хората при този чип:
- Посочете архитектурата. За собствения си CUDA код компилирайте с
-gencode=arch=compute_121a,code=sm_121aили-DCMAKE_CUDA_ARCHITECTURES=121a-realв CMake. Съкращението-arch=sm_121aможе да изпусне „a“ и с него FP4 инструкциите, както установи тема във форума на NVIDIA (подробности в ръководството за TFLOPS). Компилация за друга архитектура може да мине чисто и после да работи зле. - Очаквайте компилиране от изходен код. Много пакети за aarch64 и sm_121 нямат wheel, така че pip ги компилира. Ограничете паралелните задачи (
MAX_JOBS=4), за да не изчерпа голяма компилация паметта от 128 GB. - Не всички ядра за други Blackwell чипове работят тук. sm_121 изпълнява код, компилиран за sm_120, но ядра, писани за Blackwell за центрове за данни (sm_100), не работят, а някои FP4 пътища са се изпълнявали без грешки и са давали грешен резултат. Проверявайте резултатите, не само че се е изпълнило.
За да вземете резултатите от компилацията, копирайте ги със собствения си SSH ключ, после прекратете:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Скриптирани изпълнения от собствения ви CI
Няма готова CI интеграция. Има: API, който стартира и прекратява на минута, така че задача на собствения ви runner може да заеме Spark, да пусне тестовете си през SSH и да го върне. Използвайте API ключ с обхват instances.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Стартирането изисква кредит за поне един час (иначе 402) и връща 409, когато няма свободна машина, така че задачата ви трябва да обработва това. Стартиранията през API отиват на машина в ЕИП, освен ако не зададете location_country или partner_region. Всички полета са в справочника за API.
Колко струва проверка
| Сесия | Цена при 0,79 $/час |
|---|---|
| Възпроизвеждане на един доклад за бъг, 20 минути | около 0,26 $ |
| Компилиране и тестване на версия, 1 час | 0,79 $ |
| Ден за пренасяне, 8 часа | 6,32 $ |
Таксуването е на минута от предплатен кредит и започва, след като инстанцията премине проверката за готовност. За стартиране акаунтът се нуждае от кредит за един час. Първо внасяне: платете 20 $, получете 30 $ кредит, около 37 часа на един Spark. Спряната инстанция запазва работното си пространство и се таксува със 75% от часовата цена; прекратете я, когато приключите, и таксуването спира, а работното пространство се изтрива. Цените са без ДДС, където е приложимо.
Какво не може да ви каже нает GB10
- Това е контейнер, а не bare metal. Не можете да зареждате модули на ядрото или да сменяте драйвера, а версията на драйвера е тази, която работи на хоста. Регресиите в драйвера са извън контрола ви тук.
- Docker зависи от машината. Много Spark изпълняват инстанцията ви като системен контейнер със собствен Docker daemon, така че
docker buildиdocker runработят; други изпълняват обикновен контейнер без такъв и не можете да избирате кой. Вижте страницата за средата на наемателя. - Един чип. Успехът на GB10 не казва нищо за Grace Hopper (sm_90), Blackwell за центрове за данни (sm_100) или Jetson. GB10 машините на другите производители споделят чипа, но може да се различават по фърмуер.
- systemd зависи от машината. Много Spark изпълняват systemd в инстанцията ви; останалите изпълняват обикновен контейнер без него и без
NET_ADMIN, където стартирате услугите от shell, tmux или startup hook. И в двата случая няма TUN устройство, така че VPN клиенти в режим на ядрото не работят. - Без SLA и без резервни копия. Копирайте всичко, което ви трябва, от машината, преди да прекратите.
Къде са Spark
Това работи на всяко местоположение, защото партньорските Spark възли предлагат същите образи DGX OS и Ubuntu. Моите собствени Spark възли са в център за данни в Храдец Кралове, Чехия. Партньорските Spark възли са притежавани и хоствани от партньори в техните собствени помещения в САЩ, Швеция, Нидерландия, Словакия и Хонконг, а партньорът има физически достъп до своята машина. Конзолата показва държавата и дали е в ЕИП, преди да стартирате.
Кой стои зад това
GPUwerk е нова платформа и аз съм човекът зад нея: Samuel Seidel, основател, работещ като PRINT IT! SE, регистрирана в Прага. От септември 2026 г. 94 разработчици са стартирали 374 инстанции на нея (към 9 ноември 2026 г.). Времето на работа и инцидентите са на status.gpuwerk.com. Ако не сте сигурни, че стекът ви ще работи, пишете ми чрез страницата за контакт, преди да платите; отговарям лично.
ЧЗВ
Каква версия на CUDA има на машината?
И двата образа, DGX OS 7 и Ubuntu 24.04, съдържат CUDA 13.0 toolkit с nvcc и NCCL. Драйверът на NVIDIA идва от хоста и не може да се променя от вътрешността на инстанцията.
Образът DGX OS DGX OS на NVIDIA ли е?
Не. Това е моя компилация в контейнер: Ubuntu 24.04 с CUDA 13.0 toolkit, NCCL и NVIDIA DCGM. /etc/dgx-release го идентифицира като образ на GPUwerk.
Мога ли да изграждам Docker образи на него?
На някои машини — да: много наети Spark изпълняват инстанцията ви като системен контейнер със собствен Docker daemon, така че docker build и docker run --gpus all работят нативно на arm64. Други изпълняват обикновен контейнер без Docker. Не можете да избирате кое; docker info ще ви каже какво имате.
Колко струва кратък тест?
Около 0,26 $ за 20 минути при 0,79 $ на час, таксуване на минута от предплатен кредит. За да стартирате, акаунтът се нуждае от кредит за един час. Прекратете, когато приключите, и таксуването спира; това изтрива работното пространство.