Cloud de GPUs

B300, dedicada.

Uma única GPU NVIDIA B300, 288 GB HBM3e na arquitetura Blackwell Ultra, num anfitrião x86. $ 6,49 por hora, faturado ao minuto, nas mesmas condições que todos os outros níveis da GPUwerk.

Alugada por ordem de chegada: implemente uma B300 quando houver capacidade livre, ou entre na respetiva lista de espera na consola.

Especificações

Por GPU. A GPU e a respetiva memória são só suas durante o aluguer.

NVIDIA B300
GPUB300, arquitetura Blackwell Ultra
Memória288 GB HBM3e
Largura de banda de memória8 TB/s
PrecisãoFP4 e FP8 com o Transformer Engine de segunda geração
AlojarAnfitrião x86
ArrendamentoA GPU é só sua enquanto a aluga, nunca partilhada

Valores de GPU da NVIDIA HGX. A GPUwerk publica valores de tok/s e de débito de treino apenas para execuções no seu próprio hardware. Veja os benchmarks da frota DGX Spark para saber como são reportados.

O que executaria nele?

Blackwell Ultra com 288 GB por GPU: a maior memória numa só GPU do catálogo da GPUwerk.

Os maiores modelos numa só GPU

Até cerca de 288B parâmetros em FP8, ou cerca de 576B em FP4, considerando apenas os pesos, numa GPU.

Raciocínio e contexto longo

Memória para as longas caches KV que os modelos de raciocínio e os prompts muito longos acumulam.

Treino limitado pela memória

Fine-tunings e treinos que ficam sem memória numa B200.

Pouco adequado: modelos pequenos ou médios

Um modelo que caiba em 80 a 141 GB custa menos por hora numa H100 ou H200.

Precisa das oito GPUs de um servidor? Veja o servidor 8× B300.

O que cabe em 288 GB

Apenas os pesos: memória dividida pelos bytes por parâmetro. Deixe margem para a cache KV, as ativações e o runtime, muitas vezes 10 a 30% a mais.

Maior modelo, considerando só os pesos, numa B300
PrecisãoPor parâmetroMaior modelo, só pesos
FP16 / BF162 bytescerca de 144B parâmetros
FP81 bytecerca de 288B parâmetros
FP4 (nativo na Blackwell Ultra)0,5 bytescerca de 576B parâmetros

Faturação

Tarifa$ 6,49 por hora, faturado ao minuto
FaturaçãoAo minuto, a partir de um saldo de crédito pré-pago
TaxasSem taxas de saída de dados
CompromissoNenhum

Os preços são em USD, sem impostos aplicáveis. Toda a mecânica de faturação, incluindo o que faz parar versus terminar, está na página de preços.

FAQ

Posso alugar uma B300 já?

Implemente-a a partir da consola quando houver capacidade livre; enquanto não houver, a consola oferece uma lista de espera e as pessoas na fila são avisadas por email uma de cada vez, da mais antiga para a mais recente. A capacidade não fica reservada para ninguém: quem implementar primeiro fica com ela.

Como funciona a faturação neste nível?

Igual a todos os níveis da GPUwerk: ao minuto, a partir de um saldo de crédito pré-pago, em USD, sem impostos aplicáveis, sem taxas de saída de dados e sem compromisso.

Precisa de GPU hoje?

Um DGX Spark tem 128 GB de memória unificada e pode ser alugado já, a $ 0,79/hora faturado ao minuto. Primeiro carregamento: pague $ 20 e receba $ 30 em crédito. Ou implemente uma B300.