Cloud de GPUs

B200, dedicada.

Uma única GPU NVIDIA B200, 180 GB HBM3e na arquitetura Blackwell, num anfitrião x86. $ 5,49 por hora, faturado ao minuto, nas mesmas condições que todos os outros níveis da GPUwerk.

Alugada por ordem de chegada: implemente uma B200 quando houver capacidade livre, ou entre na respetiva lista de espera na consola.

Especificações

Por GPU. A GPU e a respetiva memória são só suas durante o aluguer.

NVIDIA B200
GPUB200, arquitetura Blackwell
Memória180 GB HBM3e
Largura de banda de memória8 TB/s
PrecisãoFP4 e FP8 com o Transformer Engine de segunda geração
AlojarAnfitrião x86
ArrendamentoA GPU é só sua enquanto a aluga, nunca partilhada

Valores de GPU da NVIDIA DGX B200. A GPUwerk publica valores de tok/s e de débito de treino apenas para execuções no seu próprio hardware. Veja os benchmarks da frota DGX Spark para saber como são reportados.

O que executaria nele?

Blackwell com 180 GB por GPU e suporte FP4: o passo seguinte à Hopper para treino e inferência de modelos grandes.

Inferência FP4 e FP8

O FP4 nativo comporta um modelo até cerca de 360B parâmetros, considerando apenas os pesos; o FP8 até cerca de 180B.

Treino e fine-tuning

Execuções que precisam de mais memória e largura de banda por GPU do que a Hopper oferece.

Uma GPU em vez de duas

Modelos que de outra forma teriam de ser divididos por duas H100 ou H200.

Pouco adequado: modelos pequenos

Um modelo que caiba em 24 ou 48 GB corre numa L4 ou L40S por uma fração da tarifa horária.

Precisa das oito GPUs de um servidor? Veja o servidor 8× B200.

O que cabe em 180 GB

Apenas os pesos: memória dividida pelos bytes por parâmetro. Deixe margem para a cache KV, as ativações e o runtime, muitas vezes 10 a 30% a mais.

Maior modelo, considerando só os pesos, numa B200
PrecisãoPor parâmetroMaior modelo, só pesos
FP16 / BF162 bytescerca de 90B parâmetros
FP81 bytecerca de 180B parâmetros
FP4 (nativo na Blackwell)0,5 bytescerca de 360B parâmetros

Faturação

Tarifa$ 5,49 por hora, faturado ao minuto
FaturaçãoAo minuto, a partir de um saldo de crédito pré-pago
TaxasSem taxas de saída de dados
CompromissoNenhum

Os preços são em USD, sem impostos aplicáveis. Toda a mecânica de faturação, incluindo o que faz parar versus terminar, está na página de preços.

FAQ

Posso alugar uma B200 já?

Implemente-a a partir da consola quando houver capacidade livre; enquanto não houver, a consola oferece uma lista de espera e as pessoas na fila são avisadas por email uma de cada vez, da mais antiga para a mais recente. A capacidade não fica reservada para ninguém: quem implementar primeiro fica com ela.

Como funciona a faturação neste nível?

Igual a todos os níveis da GPUwerk: ao minuto, a partir de um saldo de crédito pré-pago, em USD, sem impostos aplicáveis, sem taxas de saída de dados e sem compromisso.

Precisa de GPU hoje?

Um DGX Spark tem 128 GB de memória unificada e pode ser alugado já, a $ 0,79/hora faturado ao minuto. Primeiro carregamento: pague $ 20 e receba $ 30 em crédito. Ou implemente uma B200.