GPU Cloud
RTX 6000 Ada, dedicata.
Una macchina con una sola GPU NVIDIA RTX 6000 Ada Generation, 48 GB di GDDR6 con ECC su architettura Ada Lovelace, su un host x86. 0 $,75 all'ora, fatturati al minuto, alle stesse condizioni di ogni altro livello GPUwerk.
Noleggiate in ordine di arrivo: avvia una RTX 6000 Ada quando c'è capacità libera, oppure iscriviti alla sua lista d'attesa nella console.
Specifiche
Per nodo. Ogni istanza GPUwerk, su qualsiasi livello, è un'intera macchina tutta per te.
| GPU | RTX 6000 Ada Generation, architettura Ada Lovelace |
|---|---|
| Memoria | 48 GB GDDR6 con ECC |
| Banda di memoria | 960 GB/s |
| Core CUDA | 18.176 |
| Potenza massima | 300 W |
| Host | Host x86 |
| Locazione | Un cliente per macchina, mai condivisa |
Dati GPU da NVIDIA RTX 6000 Ada. GPUwerk pubblica dati di tok/s e throughput di training solo per prove sul proprio hardware. Vedi i benchmark della flotta DGX Spark per come vengono riportati.
Cosa ci eseguiresti?
48 GB con ECC: la stessa memoria di una L40S, su una scheda di classe workstation.
Inferenza di modelli di medie dimensioni
Modelli fino a circa 40B parametri in FP8, o un modello di classe 30B con spazio per la KV cache.
Rendering e grafica
Core RT e un driver di classe workstation per rendering, simulazione o pipeline miste di grafica e IA.
Fine-tuning LoRA
Training di adapter su modelli di classe da 7B a 13B, che entrano in 48 GB con margine.
Poco adatta: training multi-GPU
Non ha NVLink, quindi un job che richiede più GPU che si scambiano dati rapidamente va su un server a 8 GPU.
Cosa ci sta in 48 GB
Solo pesi: memoria divisa per byte per parametro. Lascia margine per KV cache, attivazioni e runtime, spesso dal 10 al 30% in più.
| Precisione | Per parametro | Modello più grande, solo pesi |
|---|---|---|
| FP16 / BF16 | 2 byte | circa 24B parametri |
| FP8 | 1 byte | circa 48B parametri |
| Quantizzato a 4 bit | 0,5 byte | circa 96B parametri (nessun FP4 nativo su Ada; il runtime dequantizza) |
Fatturazione
| Tariffa | 0 $,75 all'ora, fatturati al minuto |
|---|---|
| Fatturazione | Al minuto, da un saldo di credito prepagato |
| Commissioni | Nessun costo di egress |
| Impegno | Nessuno |
Prezzi in USD, imposte applicabili escluse. Tutti i meccanismi di fatturazione, compreso cosa fa un arresto rispetto a una terminazione, sono nella pagina dei prezzi.
FAQ
Posso noleggiare una RTX 6000 Ada adesso?
Avviala dalla console quando c'è capacità libera; finché non ce n'è, la console offre una lista d'attesa e le persone in coda ricevono un'email una alla volta, partendo dalla più vecchia. La capacità non viene riservata a nessuno: chi l'avvia per primo se la prende.
Come funziona la fatturazione su questo livello?
Come per ogni livello GPUwerk: al minuto, da un saldo di credito prepagato, in USD, imposte applicabili escluse, senza costi di egress e senza vincoli.
Ti serve tempo GPU oggi?
Una DGX Spark ha 128 GB di memoria unificata ed è noleggiabile subito, a 0 $,79/ora fatturati al minuto. Prima ricarica: paghi 20 $, ricevi 30 $ di credito. Confrontala con la L40S, oppure iscriviti alla lista d'attesa per la RTX 6000 Ada.