GPU Cloud

L40S, dedicata.

Una macchina con una sola GPU L40S, 48 GB di GDDR6 su architettura NVIDIA Ada Lovelace, su un host x86. 0 $,99 all'ora, fatturati al minuto, alle stesse condizioni di ogni altro livello GPUwerk.

Noleggiate in ordine di arrivo: avvia una L40S quando c'è capacità libera, oppure iscriviti alla sua lista d'attesa nella console.

Specifiche

Per nodo. Ogni istanza GPUwerk, su qualsiasi livello, è un'intera macchina tutta per te.

NVIDIA L40S
GPUL40S, architettura Ada Lovelace
Memoria48 GB GDDR6
HostHost x86
LocazioneUn cliente per macchina, mai condivisa

GPUwerk pubblica dati di tok/s e throughput di training solo per prove sul proprio hardware. Vedi i benchmark della flotta DGX Spark per come vengono riportati.

Cosa ci eseguiresti?

Con 48 GB la L40S si colloca tra i 32 GB della 5090 e i 128 GB di una Spark, con memoria ECC di classe data center.

Inferenza di modelli di medie dimensioni

Modelli fino a circa 40B parametri in FP8, o un modello di classe 30B con spazio per la KV cache.

Grafica e IA insieme

Core RT e un motore multimediale accanto ai tensor core FP8, per pipeline che eseguono rendering e inferenza su una sola scheda.

Fine-tuning LoRA

Training di adapter su modelli di classe da 7B a 13B, che entrano in 48 GB con margine.

Poco adatta: training multi-GPU

Non ha NVLink, quindi un job che richiede più GPU che si scambiano dati rapidamente va su un server a 8 GPU.

Cosa ci sta in 48 GB

Solo pesi: memoria divisa per byte per parametro. Lascia margine per KV cache, attivazioni e runtime, spesso dal 10 al 30% in più.

Modello più grande considerando solo i pesi su una L40S
PrecisionePer parametroModello più grande, solo pesi
FP16 / BF162 bytecirca 24B parametri
FP81 bytecirca 48B parametri
Quantizzato a 4 bit0,5 bytecirca 96B parametri (nessun FP4 nativo su Ada; il runtime dequantizza)

Fatturazione

Tariffa0 $,99 all'ora, fatturati al minuto
FatturazioneAl minuto, da un saldo di credito prepagato
CommissioniNessun costo di egress
ImpegnoNessuno

Prezzi in USD, imposte applicabili escluse. Tutti i meccanismi di fatturazione, compreso cosa fa un arresto rispetto a una terminazione, sono nella pagina dei prezzi.

FAQ

Posso noleggiare una L40S adesso?

Avviala dalla console quando c'è capacità libera; finché non ce n'è, la console offre una lista d'attesa e le persone in coda ricevono un'email una alla volta, partendo dalla più vecchia. La capacità non viene riservata a nessuno: chi l'avvia per primo se la prende.

Come funziona la fatturazione su questo livello?

Come per ogni livello GPUwerk: al minuto, da un saldo di credito prepagato, in USD, imposte applicabili escluse, senza costi di egress e senza vincoli.

Ti serve tempo GPU oggi?

Una DGX Spark ha 128 GB di memoria unificata ed è noleggiabile subito, a 0 $,79/ora fatturati al minuto. Prima ricarica: paghi 20 $, ricevi 30 $ di credito. Vedi come si confronta una Spark con una scheda discreta, oppure iscriviti alla lista d'attesa per la L40S.