GPU Cloud
H200, dedicata.
Una singola GPU NVIDIA H200, 141 GB HBM3e su architettura Hopper, su un host x86. 3 $,49 all'ora, fatturati al minuto, alle stesse condizioni di ogni altro livello GPUwerk.
Noleggiate in ordine di arrivo: avvia una H200 quando c'è capacità libera, oppure iscriviti alla sua lista d'attesa nella console.
Specifiche
Per GPU. La GPU e la sua memoria sono solo tue per tutto il noleggio.
| GPU | H200 SXM, architettura Hopper |
|---|---|
| Memoria | 141 GB HBM3e |
| Banda di memoria | 4,8 TB/s |
| Potenza massima | Fino a 700 W |
| MIG | Fino a 7 istanze da 18 GB |
| Host | Host x86 |
| Locazione | La GPU è solo tua finché la noleggi, mai condivisa |
Dati GPU da NVIDIA H200. GPUwerk pubblica dati di tok/s e throughput di training solo per prove sul proprio hardware. Vedi i benchmark della flotta DGX Spark per come vengono riportati.
Cosa ci eseguiresti?
Il calcolo della H100 con il 76% di memoria in più: modelli più grandi su una sola GPU e più spazio per la KV cache.
Modelli di classe 70B con contesto lungo
Un modello 70B in FP8 ci sta con circa 70 GB liberi per la KV cache, quindi prompt più lunghi e più richieste simultanee.
Modelli fino a circa 140B in FP8
Pesi che richiedono due H100 entrano in una sola H200.
Fine-tuning
Fine-tuning completi e LoRA su modelli che non entrano in 80 GB.
Poco adatta: FP4 nativo
Hopper non ha FP4; per l'inferenza a 4 bit alla velocità di Blackwell, noleggia una B200 o B300.
Ti servono più GPU collegate tramite NVLink? Vedi il server 8× H200.
Cosa ci sta in 141 GB
Solo pesi: memoria divisa per byte per parametro. Lascia margine per KV cache, attivazioni e runtime, spesso dal 10 al 30% in più.
| Precisione | Per parametro | Modello più grande, solo pesi |
|---|---|---|
| FP16 / BF16 | 2 byte | circa 70B parametri |
| FP8 | 1 byte | circa 141B parametri |
| Quantizzato a 4 bit | 0,5 byte | circa 282B parametri (nessun FP4 nativo su Hopper; il runtime dequantizza) |
Fatturazione
| Tariffa | 3 $,49 all'ora, fatturati al minuto |
|---|---|
| Fatturazione | Al minuto, da un saldo di credito prepagato |
| Commissioni | Nessun costo di egress |
| Impegno | Nessuno |
Prezzi in USD, imposte applicabili escluse. Tutti i meccanismi di fatturazione, compreso cosa fa un arresto rispetto a una terminazione, sono nella pagina dei prezzi.
FAQ
Posso noleggiare una H200 adesso?
Avviala dalla console quando c'è capacità libera; finché non ce n'è, la console offre una lista d'attesa e le persone in coda ricevono un'email una alla volta, partendo dalla più vecchia. La capacità non viene riservata a nessuno: chi l'avvia per primo se la prende.
Come funziona la fatturazione su questo livello?
Come per ogni livello GPUwerk: al minuto, da un saldo di credito prepagato, in USD, imposte applicabili escluse, senza costi di egress e senza vincoli.
Ti serve tempo GPU oggi?
Una DGX Spark ha 128 GB di memoria unificata ed è noleggiabile subito, a 0 $,79/ora fatturati al minuto. Prima ricarica: paghi 20 $, ricevi 30 $ di credito. Oppure avvia una H200.