GPU Cloud
L40S, dedicata.
Una macchina con una sola GPU L40S, 48 GB di GDDR6 su architettura NVIDIA Ada Lovelace, su un host x86. 0 $,99 all'ora, fatturati al minuto, alle stesse condizioni di ogni altro livello GPUwerk.
Noleggiate in ordine di arrivo: avvia una L40S quando c'è capacità libera, oppure iscriviti alla sua lista d'attesa nella console.
Specifiche
Per nodo. Ogni istanza GPUwerk, su qualsiasi livello, è un'intera macchina tutta per te.
| GPU | L40S, architettura Ada Lovelace |
|---|---|
| Memoria | 48 GB GDDR6 |
| Host | Host x86 |
| Locazione | Un cliente per macchina, mai condivisa |
GPUwerk pubblica dati di tok/s e throughput di training solo per prove sul proprio hardware. Vedi i benchmark della flotta DGX Spark per come vengono riportati.
Cosa ci eseguiresti?
Con 48 GB la L40S si colloca tra i 32 GB della 5090 e i 128 GB di una Spark, con memoria ECC di classe data center.
Inferenza di modelli di medie dimensioni
Modelli fino a circa 40B parametri in FP8, o un modello di classe 30B con spazio per la KV cache.
Grafica e IA insieme
Core RT e un motore multimediale accanto ai tensor core FP8, per pipeline che eseguono rendering e inferenza su una sola scheda.
Fine-tuning LoRA
Training di adapter su modelli di classe da 7B a 13B, che entrano in 48 GB con margine.
Poco adatta: training multi-GPU
Non ha NVLink, quindi un job che richiede più GPU che si scambiano dati rapidamente va su un server a 8 GPU.
Cosa ci sta in 48 GB
Solo pesi: memoria divisa per byte per parametro. Lascia margine per KV cache, attivazioni e runtime, spesso dal 10 al 30% in più.
| Precisione | Per parametro | Modello più grande, solo pesi |
|---|---|---|
| FP16 / BF16 | 2 byte | circa 24B parametri |
| FP8 | 1 byte | circa 48B parametri |
| Quantizzato a 4 bit | 0,5 byte | circa 96B parametri (nessun FP4 nativo su Ada; il runtime dequantizza) |
Fatturazione
| Tariffa | 0 $,99 all'ora, fatturati al minuto |
|---|---|
| Fatturazione | Al minuto, da un saldo di credito prepagato |
| Commissioni | Nessun costo di egress |
| Impegno | Nessuno |
Prezzi in USD, imposte applicabili escluse. Tutti i meccanismi di fatturazione, compreso cosa fa un arresto rispetto a una terminazione, sono nella pagina dei prezzi.
FAQ
Posso noleggiare una L40S adesso?
Avviala dalla console quando c'è capacità libera; finché non ce n'è, la console offre una lista d'attesa e le persone in coda ricevono un'email una alla volta, partendo dalla più vecchia. La capacità non viene riservata a nessuno: chi l'avvia per primo se la prende.
Come funziona la fatturazione su questo livello?
Come per ogni livello GPUwerk: al minuto, da un saldo di credito prepagato, in USD, imposte applicabili escluse, senza costi di egress e senza vincoli.
Ti serve tempo GPU oggi?
Una DGX Spark ha 128 GB di memoria unificata ed è noleggiabile subito, a 0 $,79/ora fatturati al minuto. Prima ricarica: paghi 20 $, ricevi 30 $ di credito. Vedi come si confronta una Spark con una scheda discreta, oppure iscriviti alla lista d'attesa per la L40S.