Teste e porte o seu software num GB10 real: aarch64, CUDA, sm_121
Há um issue a dizer que a sua biblioteca falha num DGX Spark, e não tem nenhum. Ou as suas wheels compilam em x86 e ninguém as experimentou numa CPU Arm com uma GPU Blackwell. Alugue um Spark inteiro pelos minutos necessários para descobrir: uma shell root num NVIDIA GB10 (aarch64, capacidade de computação CUDA 12.1) com o toolkit CUDA 13.0 instalado. A $ 0,79 por hora, faturado ao minuto, uma verificação de 20 minutos custa cerca de $ 0,26.
Primeiro carregamento: pague $ 20 e receba $ 30 em crédito. Faturado ao minuto a partir de crédito pré-pago. Termine a instância quando acabar e a faturação para. A maioria das pessoas que me alugam um Spark começa pela imagem DGX OS simples e traz a sua própria stack, que é o tema desta página.
O que obtém
| CPU | Arm de 20 núcleos (10 Cortex-X925 e 10 Cortex-A725), uname -m indica aarch64 |
|---|---|
| GPU | NVIDIA GB10, geração Blackwell, capacidade de computação 12.1 (sm_121) |
| Memória | 128 GB de LPDDR5x unificada partilhada pela CPU e pela GPU, 273 GB/s |
| Imagens | DGX OS 7: Ubuntu 24.04 com o toolkit CUDA 13.0 (nvcc), NCCL e NVIDIA DCGM. Ubuntu 24.04: o mesmo sem DCGM. Ambos têm git, tmux, vim, curl e Python 3 com pip e venv. |
| Acesso | Um terminal root no navegador sem chave SSH, ou SSH como root na porta 22 com a sua própria chave. Cada instância tem o seu próprio endereço IPv4 público e o nome de anfitrião <name>.gpuwerk.com. |
| Como funciona | Um contentor com a GPU passada diretamente: em muitos Sparks, um contentor de sistema com systemd e Docker; nos outros, um contentor simples sem nenhum dos dois. Dentro dele é root; o driver NVIDIA vem do anfitrião. |
| Armazenamento | 1 TB NVMe, partilhado com o anfitrião. /workspace sobrevive a reinícios e reconstruções e é apagado quando termina a instância. |
A imagem chamada DGX OS 7 na consola é uma build minha: Ubuntu 24.04 mais os pacotes acima, num contentor. Não é a imagem de instalação do DGX OS da NVIDIA, e /etc/dgx-release indica-o. O que corre num contentor, e o que não corre, está nas notas do ambiente do inquilino.
Uma primeira verificação em cinco minutos
Implemente um DGX Spark 1× com a imagem DGX OS, aguarde o estado running e clique em Open terminal in browser na página da instância. Depois confirme onde está:
uname -m # aarch64 nvidia-smi --query-gpu=name,compute_cap,driver_version --format=csv nvcc --version | tail -n 2 # CUDA 13.0 python3 -m venv /workspace/venv && . /workspace/venv/bin/activate pip install torch --index-url https://download.pytorch.org/whl/cu130 python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
A última linha mostra o GB10 e (12, 1). Algumas builds do PyTorch mostram um aviso de que o sm_121 não é compatível; normalmente está errado, e o guia PyTorch num DGX Spark explica porquê e que wheel escolher.
Compile e teste o seu projeto
cd /workspace git clone https://github.com/your-org/your-project.git cd your-project pip install -e '.[test]' # or your own build step pytest -x -q pip wheel . --no-deps -w dist/ # an aarch64 wheel to take home
Três coisas apanham as pessoas desprevenidas neste chip:
- Indique a arquitetura. Para o seu próprio código CUDA, compile com
-gencode=arch=compute_121a,code=sm_121a, ou-DCMAKE_CUDA_ARCHITECTURES=121a-realno CMake. A forma abreviada-arch=sm_121apode perder o "a" e com ele as instruções FP4, como descobriu um tópico no fórum da NVIDIA (detalhes no guia de TFLOPS). Uma compilação para outra arquitetura pode compilar sem erros e depois funcionar mal. - Conte com compilações a partir do código-fonte. Muitos pacotes aarch64 e sm_121 não têm wheel, por isso o pip compila-os. Limite os trabalhos paralelos (
MAX_JOBS=4) para que uma compilação grande não esgote os 128 GB de memória. - Os kernels para outros chips Blackwell não funcionam todos. O sm_121 executa código compilado para sm_120, mas kernels escritos para a Blackwell de datacenter (sm_100) não, e alguns caminhos FP4 executaram sem erros e produziram resultados errados. Verifique os resultados, não apenas se correu.
Para levar os artefactos de compilação consigo, copie-os com a sua própria chave SSH e depois termine:
# on your laptop scp 'root@<name>.gpuwerk.com:/workspace/your-project/dist/*.whl' .
Execuções automatizadas a partir do seu próprio CI
Não há integração de CI pronta. O que há: uma API que implementa e termina ao minuto, por isso um trabalho no seu próprio runner pode pedir emprestado um Spark, executar os testes por SSH e devolvê-lo. Use uma chave de API com o âmbito de instâncias.
curl -s -X POST https://api.gpuwerk.com/v1/instances \
-H "Authorization: Bearer $GPUWERK_TOKEN" -H "Content-Type: application/json" \
-d '{"type":"spark-1x","image":"ubuntu"}'
# wait for status "running" in GET /v1/instances, run the job over SSH, then:
curl -s -X DELETE https://api.gpuwerk.com/v1/instances/<id> \
-H "Authorization: Bearer $GPUWERK_TOKEN" # billing ends, workspace deleted
Uma implementação precisa de crédito para pelo menos uma hora (caso contrário, 402) e devolve 409 quando não há nenhuma máquina livre, por isso o seu trabalho tem de lidar com isso. As implementações via API vão para uma máquina no EEE, a não ser que defina location_country ou partner_region. Todos os campos estão na referência da API.
Quanto custa uma verificação
| Sessão | Custo a $ 0,79/h |
|---|---|
| Reproduzir um relatório de erro, 20 minutos | cerca de $ 0,26 |
| Compilar e testar uma versão, 1 hora | $ 0,79 |
| Um dia de portabilidade, 8 horas | $ 6,32 |
A faturação é ao minuto a partir de crédito pré-pago e começa quando a instância passa a verificação de prontidão. Para implementar, a conta precisa de crédito para uma hora. Primeiro carregamento: pague $ 20 e receba $ 30 em crédito, cerca de 37 horas num Spark. Uma instância parada mantém o espaço de trabalho e é faturada a 75% da tarifa horária; termine-a quando acabar e a faturação para, o que apaga o espaço de trabalho. Preços sem IVA, quando aplicável.
O que um GB10 alugado não lhe pode dizer
- É um contentor, não bare metal. Não pode carregar módulos do kernel nem alterar o driver, e a versão do driver é a que o anfitrião executa. As regressões de driver estão fora do seu alcance aqui.
- O Docker depende da máquina. Muitos Sparks executam a sua instância como um contentor de sistema com o seu próprio daemon Docker, por isso
docker buildedocker runfuncionam; outros executam um contentor simples sem daemon, e não pode escolher qual. Veja a página do ambiente do inquilino. - Um chip. Passar no GB10 não diz nada sobre a Grace Hopper (sm_90), a Blackwell de datacenter (sm_100) ou a Jetson. As máquinas GB10 de outros fabricantes partilham o chip, mas podem diferir no firmware.
- O systemd depende da máquina. Muitos Sparks executam o systemd na sua instância; os outros executam um contentor simples sem ele nem
NET_ADMIN, onde inicia os serviços a partir de uma shell, do tmux ou do hook de arranque. Em nenhum dos casos há dispositivo TUN, por isso os clientes VPN em modo kernel não funcionam. - Sem SLA e sem cópias de segurança. Copie tudo o que precisar da máquina antes de a terminar.
Onde estão os Sparks
Isto funciona em todas as localizações, porque os Partner Sparks oferecem as mesmas imagens DGX OS e Ubuntu. Os meus próprios Sparks estão num datacenter em Hradec Králové, República Checa. Os Partner Sparks pertencem a parceiros e estão alojados nas suas próprias instalações nos EUA, Suécia, Países Baixos, Eslováquia e Hong Kong, e um parceiro tem acesso físico à sua máquina. A consola mostra o país, e se está no EEE, antes de implementar.
Quem gere isto
A GPUwerk é uma plataforma nova, e eu sou a pessoa por trás dela: Samuel Seidel, fundador, a operar como PRINT IT! SE, registada em Praga. Desde setembro de 2026, 94 programadores iniciaram 374 instâncias na plataforma (dados de 9 de novembro de 2026). A disponibilidade e os incidentes estão em status.gpuwerk.com. Se não tiver a certeza de que a sua stack vai funcionar, escreva-me através da página de contacto antes de pagar; sou eu quem responde.
FAQ
Que versão do CUDA está na máquina?
As duas imagens, DGX OS 7 e Ubuntu 24.04, incluem o toolkit CUDA 13.0 com nvcc e NCCL. O driver NVIDIA vem do anfitrião e não pode ser alterado a partir da instância.
A imagem DGX OS é o DGX OS da NVIDIA?
Não. É uma build minha num contentor: Ubuntu 24.04 com o toolkit CUDA 13.0, NCCL e NVIDIA DCGM. /etc/dgx-release identifica-a como uma imagem GPUwerk.
Posso construir imagens Docker nele?
Em algumas máquinas, sim: muitos Sparks alugados executam a sua instância como um contentor de sistema com o seu próprio daemon Docker, por isso docker build e docker run --gpus all correm nativamente em arm64. Outros executam um contentor simples sem Docker. Não pode escolher qual; docker info diz-lhe o que tem.
Quanto custa um teste curto?
Cerca de $ 0,26 por 20 minutos a $ 0,79 por hora, faturado ao minuto a partir de crédito pré-pago. Para implementar, a conta precisa de crédito para uma hora. Termine a instância quando acabar e a faturação para; isso apaga o espaço de trabalho.