GPU Cloud
RTX PRO 6000, dedicata.
Una macchina con una sola GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, 96 GB di GDDR7 con ECC su architettura Blackwell, su un host x86. 1 $,89 all'ora, fatturati al minuto, alle stesse condizioni di ogni altro livello GPUwerk.
Noleggiate in ordine di arrivo: avvia una RTX PRO 6000 quando c'è capacità libera, oppure iscriviti alla sua lista d'attesa nella console.
Specifiche
Per nodo. Ogni istanza GPUwerk, su qualsiasi livello, è un'intera macchina tutta per te.
| GPU | RTX PRO 6000 Blackwell Server Edition, architettura Blackwell |
|---|---|
| Memoria | 96 GB GDDR7 con ECC |
| Banda di memoria | 1.597 GB/s |
| Core CUDA | 24.064 |
| Potenza massima | Fino a 600 W, configurabile |
| MIG | Fino a 4 istanze da 24 GB |
| Host | Host x86 |
| Locazione | Un cliente per macchina, mai condivisa |
Dati GPU da NVIDIA RTX PRO 6000 Blackwell Server Edition. GPUwerk pubblica dati di tok/s e throughput di training solo per prove sul proprio hardware. Vedi i benchmark della flotta DGX Spark per come vengono riportati.
Cosa ci eseguiresti?
96 GB su una sola scheda, con Tensor Core di quinta generazione che eseguono FP4.
Modelli di classe 70B su una sola GPU
Un modello 70B in FP8 entra in 96 GB con un po' di spazio per la KV cache, senza suddividerlo tra più GPU.
Inferenza FP4
Blackwell esegue FP4 in modo nativo, quindi un modello a 4 bit fino a circa 192B parametri ci sta considerando solo i pesi.
Grafica e IA su una sola scheda
Core RT e un ampio frame buffer per rendering o simulazione accanto al lavoro sui modelli.
Poco adatta: training multi-GPU
Non ha NVLink, quindi un job che richiede più GPU che si scambiano dati rapidamente va su un server a 8 GPU.
Diversi lavori più piccoli
MIG divide la scheda in un massimo di quattro GPU isolate da 24 GB, per servire più di un modello alla volta.
Cosa ci sta in 96 GB
Solo pesi: memoria divisa per byte per parametro. Lascia margine per KV cache, attivazioni e runtime, spesso dal 10 al 30% in più.
| Precisione | Per parametro | Modello più grande, solo pesi |
|---|---|---|
| FP16 / BF16 | 2 byte | circa 48B parametri |
| FP8 | 1 byte | circa 96B parametri |
| FP4 (nativo su Blackwell) | 0,5 byte | circa 192B parametri |
Fatturazione
| Tariffa | 1 $,89 all'ora, fatturati al minuto |
|---|---|
| Fatturazione | Al minuto, da un saldo di credito prepagato |
| Commissioni | Nessun costo di egress |
| Impegno | Nessuno |
Prezzi in USD, imposte applicabili escluse. Tutti i meccanismi di fatturazione, compreso cosa fa un arresto rispetto a una terminazione, sono nella pagina dei prezzi.
FAQ
Posso noleggiare una RTX PRO 6000 adesso?
Avviala dalla console quando c'è capacità libera; finché non ce n'è, la console offre una lista d'attesa e le persone in coda ricevono un'email una alla volta, partendo dalla più vecchia. La capacità non viene riservata a nessuno: chi l'avvia per primo se la prende.
Come funziona la fatturazione su questo livello?
Come per ogni livello GPUwerk: al minuto, da un saldo di credito prepagato, in USD, imposte applicabili escluse, senza costi di egress e senza vincoli.
Ti serve tempo GPU oggi?
Una DGX Spark ha 128 GB di memoria unificata ed è noleggiabile subito, a 0 $,79/ora fatturati al minuto. Prima ricarica: paghi 20 $, ricevi 30 $ di credito. Vedi come si confronta una DGX Spark, oppure iscriviti alla lista d'attesa per la RTX PRO 6000.