Cloud de GPUs
H200, dedicada.
Uma única GPU NVIDIA H200, 141 GB HBM3e na arquitetura Hopper, num anfitrião x86. $ 3,49 por hora, faturado ao minuto, nas mesmas condições que todos os outros níveis da GPUwerk.
Alugada por ordem de chegada: implemente uma H200 quando houver capacidade livre, ou entre na respetiva lista de espera na consola.
Especificações
Por GPU. A GPU e a respetiva memória são só suas durante o aluguer.
| GPU | H200 SXM, arquitetura Hopper |
|---|---|
| Memória | 141 GB HBM3e |
| Largura de banda de memória | 4,8 TB/s |
| Potência máxima | Até 700 W |
| MIG | Até 7 instâncias de 18 GB |
| Alojar | Anfitrião x86 |
| Arrendamento | A GPU é só sua enquanto a aluga, nunca partilhada |
Valores de GPU da NVIDIA H200. A GPUwerk publica valores de tok/s e de débito de treino apenas para execuções no seu próprio hardware. Veja os benchmarks da frota DGX Spark para saber como são reportados.
O que executaria nele?
A computação da H100 com 76% mais memória: modelos maiores numa GPU e mais espaço para a cache KV.
Modelos da classe 70B com contexto longo
Um modelo de 70B em FP8 cabe com cerca de 70 GB livres para a cache KV, ou seja, prompts mais longos e mais pedidos simultâneos.
Modelos até cerca de 140B em FP8
Pesos que precisam de duas H100 cabem numa H200.
Fine-tuning
Fine-tunings completos e execuções LoRA em modelos que não cabem em 80 GB.
Pouco adequado: FP4 nativo
A Hopper não tem FP4; para inferência a 4 bits à velocidade da Blackwell, alugue uma B200 ou B300.
Precisa de várias GPUs ligadas por NVLink? Veja o servidor 8× H200.
O que cabe em 141 GB
Apenas os pesos: memória dividida pelos bytes por parâmetro. Deixe margem para a cache KV, as ativações e o runtime, muitas vezes 10 a 30% a mais.
| Precisão | Por parâmetro | Maior modelo, só pesos |
|---|---|---|
| FP16 / BF16 | 2 bytes | cerca de 70B parâmetros |
| FP8 | 1 byte | cerca de 141B parâmetros |
| Quantizado a 4 bits | 0,5 bytes | cerca de 282B parâmetros (sem FP4 nativo na Hopper; o runtime desquantiza) |
Faturação
| Tarifa | $ 3,49 por hora, faturado ao minuto |
|---|---|
| Faturação | Ao minuto, a partir de um saldo de crédito pré-pago |
| Taxas | Sem taxas de saída de dados |
| Compromisso | Nenhum |
Os preços são em USD, sem impostos aplicáveis. Toda a mecânica de faturação, incluindo o que faz parar versus terminar, está na página de preços.
FAQ
Posso alugar uma H200 já?
Implemente-a a partir da consola quando houver capacidade livre; enquanto não houver, a consola oferece uma lista de espera e as pessoas na fila são avisadas por email uma de cada vez, da mais antiga para a mais recente. A capacidade não fica reservada para ninguém: quem implementar primeiro fica com ela.
Como funciona a faturação neste nível?
Igual a todos os níveis da GPUwerk: ao minuto, a partir de um saldo de crédito pré-pago, em USD, sem impostos aplicáveis, sem taxas de saída de dados e sem compromisso.
Precisa de GPU hoje?
Um DGX Spark tem 128 GB de memória unificada e pode ser alugado já, a $ 0,79/hora faturado ao minuto. Primeiro carregamento: pague $ 20 e receba $ 30 em crédito. Ou implemente uma H200.