GPU Cloud

L40S, dediziert.

Eine Maschine mit einer L40S-GPU, 48 GB GDDR6 auf NVIDIAs Ada-Lovelace-Architektur, auf einem x86-Host. 0,99 $ pro Stunde, minutengenau abgerechnet, zu denselben Bedingungen wie jeder andere GPUwerk-Tarif.

Vermietung in der Reihenfolge des Eingangs: stellen Sie eine L40S bereit, wenn Kapazität frei ist, oder setzen Sie sich in der Konsole auf ihre Warteliste.

Technische Daten

Pro Node. Jede GPUwerk-Instanz, auf jedem Tarif, ist eine ganze Maschine für Sie allein.

NVIDIA L40S
GPUL40S, Ada-Lovelace-Architektur
Speicher48 GB GDDR6
Hostenx86-Host
MandantenmodellEin Kunde pro Maschine, nie geteilt

GPUwerk veröffentlicht tok/s- und Trainingsdurchsatzwerte nur für Läufe auf eigener Hardware. Wie sie angegeben werden, zeigen die Flotten-Benchmarks der DGX Spark.

Was würden Sie darauf ausführen?

Mit 48 GB liegt die L40S zwischen den 32 GB der 5090 und den 128 GB einer Spark, mit ECC-Speicher auf Rechenzentrumsniveau.

Inference mittelgroßer Modelle

Modelle bis etwa 40B Parameter in FP8 oder ein Modell der 30B-Klasse mit Platz für den KV-Cache.

Gemischt: Grafik und KI

RT-Kerne und eine Media-Engine neben FP8-Tensor-Kernen, für Pipelines, die auf einer Karte rendern und Inference ausführen.

LoRA-Fine-Tunes

Adapter-Training auf Modellen der 7B- bis 13B-Klasse, das mit Reserve in 48 GB passt.

Passt schlecht: Multi-GPU-Training

Sie hat kein NVLink; ein Job, bei dem mehrere GPUs schnell Daten austauschen müssen, gehört also auf einen 8-GPU-Server.

Was in 48 GB passt

Nur Gewichte: Speicher geteilt durch Byte pro Parameter. Lassen Sie Reserve für KV-Cache, Aktivierungen und die Runtime, oft 10 bis 30 % mehr.

Größtes Modell allein nach Gewichten auf einer L40S
PräzisionPro ParameterGrößtes Modell, nur Gewichte
FP16 / BF162 Byteetwa 24B Parameter
FP81 Byteetwa 48B Parameter
4-Bit-quantisiert0,5 Byteetwa 96B Parameter (kein natives FP4 auf Ada; die Runtime dequantisiert)

Abrechnung

Satz0,99 $ pro Stunde, minutengenau abgerechnet
AbrechnungMinutengenau, gegen ein Prepaid-Guthaben
GebührenKeine Gebühren für ausgehenden Datenverkehr
BindungKeine

Preise in USD, zzgl. anfallender Steuern. Die vollständige Abrechnungslogik, einschließlich dessen, was Stoppen gegenüber Beenden bewirkt, steht auf der Preisseite.

FAQ

Kann ich jetzt eine L40S mieten?

Stellen Sie sie über die Konsole bereit, wenn Kapazität frei ist; solange keine frei ist, bietet die Konsole eine Warteliste an, und die Wartenden werden einzeln per E-Mail benachrichtigt, die ältesten zuerst. Kapazität wird für niemanden zurückgehalten: Wer zuerst bereitstellt, bekommt sie.

Wie funktioniert die Abrechnung bei diesem Tarif?

Wie bei jedem GPUwerk-Tarif: minutengenau, gegen ein Prepaid-Guthaben, in USD, zzgl. anfallender Steuern, ohne Gebühren für ausgehenden Datenverkehr und ohne Bindung.

Brauchen Sie GPU-Zeit noch heute?

Eine DGX Spark hat 128 GB Unified Memory und ist jetzt mietbar, für 0,79 $/Stunde, minutengenau abgerechnet. Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben. Sehen Sie, wie eine Spark im Vergleich zu einer dedizierten Grafikkarte abschneidet, oder setzen Sie sich auf die L40S-Warteliste.