Cloud de GPUs
B300, dedicada.
Uma única GPU NVIDIA B300, 288 GB HBM3e na arquitetura Blackwell Ultra, num anfitrião x86. $ 6,49 por hora, faturado ao minuto, nas mesmas condições que todos os outros níveis da GPUwerk.
Alugada por ordem de chegada: implemente uma B300 quando houver capacidade livre, ou entre na respetiva lista de espera na consola.
Especificações
Por GPU. A GPU e a respetiva memória são só suas durante o aluguer.
| GPU | B300, arquitetura Blackwell Ultra |
|---|---|
| Memória | 288 GB HBM3e |
| Largura de banda de memória | 8 TB/s |
| Precisão | FP4 e FP8 com o Transformer Engine de segunda geração |
| Alojar | Anfitrião x86 |
| Arrendamento | A GPU é só sua enquanto a aluga, nunca partilhada |
Valores de GPU da NVIDIA HGX. A GPUwerk publica valores de tok/s e de débito de treino apenas para execuções no seu próprio hardware. Veja os benchmarks da frota DGX Spark para saber como são reportados.
O que executaria nele?
Blackwell Ultra com 288 GB por GPU: a maior memória numa só GPU do catálogo da GPUwerk.
Os maiores modelos numa só GPU
Até cerca de 288B parâmetros em FP8, ou cerca de 576B em FP4, considerando apenas os pesos, numa GPU.
Raciocínio e contexto longo
Memória para as longas caches KV que os modelos de raciocínio e os prompts muito longos acumulam.
Treino limitado pela memória
Fine-tunings e treinos que ficam sem memória numa B200.
Pouco adequado: modelos pequenos ou médios
Um modelo que caiba em 80 a 141 GB custa menos por hora numa H100 ou H200.
Precisa das oito GPUs de um servidor? Veja o servidor 8× B300.
O que cabe em 288 GB
Apenas os pesos: memória dividida pelos bytes por parâmetro. Deixe margem para a cache KV, as ativações e o runtime, muitas vezes 10 a 30% a mais.
| Precisão | Por parâmetro | Maior modelo, só pesos |
|---|---|---|
| FP16 / BF16 | 2 bytes | cerca de 144B parâmetros |
| FP8 | 1 byte | cerca de 288B parâmetros |
| FP4 (nativo na Blackwell Ultra) | 0,5 bytes | cerca de 576B parâmetros |
Faturação
| Tarifa | $ 6,49 por hora, faturado ao minuto |
|---|---|
| Faturação | Ao minuto, a partir de um saldo de crédito pré-pago |
| Taxas | Sem taxas de saída de dados |
| Compromisso | Nenhum |
Os preços são em USD, sem impostos aplicáveis. Toda a mecânica de faturação, incluindo o que faz parar versus terminar, está na página de preços.
FAQ
Posso alugar uma B300 já?
Implemente-a a partir da consola quando houver capacidade livre; enquanto não houver, a consola oferece uma lista de espera e as pessoas na fila são avisadas por email uma de cada vez, da mais antiga para a mais recente. A capacidade não fica reservada para ninguém: quem implementar primeiro fica com ela.
Como funciona a faturação neste nível?
Igual a todos os níveis da GPUwerk: ao minuto, a partir de um saldo de crédito pré-pago, em USD, sem impostos aplicáveis, sem taxas de saída de dados e sem compromisso.
Precisa de GPU hoje?
Um DGX Spark tem 128 GB de memória unificada e pode ser alugado já, a $ 0,79/hora faturado ao minuto. Primeiro carregamento: pague $ 20 e receba $ 30 em crédito. Ou implemente uma B300.