GPU Cloud

L4, dediziert.

Eine einzelne NVIDIA L4-GPU, 24 GB GDDR6 auf der Ada-Lovelace-Architektur, auf einem x86-Host. 0,49 $ pro Stunde, minutengenau abgerechnet, zu denselben Bedingungen wie jeder andere GPUwerk-Tarif.

Vermietung in der Reihenfolge des Eingangs: stellen Sie eine L4 bereit, wenn Kapazität frei ist, oder setzen Sie sich in der Konsole auf ihre Warteliste.

Technische Daten

Pro GPU. Die GPU und ihr Speicher gehören für die Dauer der Miete Ihnen allein.

NVIDIA L4
GPUL4, Ada-Lovelace-Architektur
Speicher24 GB GDDR6
Speicherbandbreite300 GB/s
CUDA-Kerne7.424
Max. LeistungBis zu 72 W
Hostenx86-Host
MandantenmodellDie GPU gehört Ihnen allein, solange Sie sie mieten, nie geteilt

GPU-Werte von NVIDIA L4. GPUwerk veröffentlicht tok/s- und Trainingsdurchsatzwerte nur für Läufe auf eigener Hardware. Wie sie angegeben werden, zeigen die Flotten-Benchmarks der DGX Spark.

Was würden Sie darauf ausführen?

Eine stromsparende Inference-Karte: 24 GB bei 72 W, für Modelle, die passen, und Traffic, der keine H100 braucht.

Inference kleiner Modelle

Chat- oder Completion-Modelle bis etwa 14B Parameter in FP8 sowie Embedding- oder Reranking-Modelle hinter einer API, wo 24 GB genügen.

Video- und Vision-Pipelines

Hardware-Videokodierung und -dekodierung neben der GPU, für Transcoding oder für Vision-Modelle, die Videoframes lesen.

Günstige Entwicklung

Einen Serving-Stack auf einer günstigen GPU bauen und testen, bevor er auf eine größere umzieht.

Passt schlecht: Training und große Fine-Tunes

24 GB lassen wenig Platz für Gradienten und Optimizer-State; alles über ein kleines LoRA hinaus gehört auf eine H100 oder größer.

Brauchen Sie mehr Speicher? Siehe die L40S (48 GB) oder die H100 (80 GB).

Was in 24 GB passt

Nur Gewichte: Speicher geteilt durch Byte pro Parameter. Lassen Sie Reserve für KV-Cache, Aktivierungen und die Runtime, oft 10 bis 30 % mehr.

Größtes Modell allein nach Gewichten auf einer L4
PräzisionPro ParameterGrößtes Modell, nur Gewichte
FP16 / BF162 Byteetwa 12B Parameter
FP81 Byteetwa 24B Parameter
4-Bit-quantisiert0,5 Byteetwa 48B Parameter (kein natives FP4 auf Ada; die Runtime dequantisiert)

Abrechnung

Satz0,49 $ pro Stunde, minutengenau abgerechnet
AbrechnungMinutengenau, gegen ein Prepaid-Guthaben
GebührenKeine Gebühren für ausgehenden Datenverkehr
BindungKeine

Preise in USD, zzgl. anfallender Steuern. Die vollständige Abrechnungslogik, einschließlich dessen, was Stoppen gegenüber Beenden bewirkt, steht auf der Preisseite.

FAQ

Kann ich jetzt eine L4 mieten?

Stellen Sie sie über die Konsole bereit, wenn Kapazität frei ist; solange keine frei ist, bietet die Konsole eine Warteliste an, und die Wartenden werden einzeln per E-Mail benachrichtigt, die ältesten zuerst. Kapazität wird für niemanden zurückgehalten: Wer zuerst bereitstellt, bekommt sie.

Wie funktioniert die Abrechnung bei diesem Tarif?

Wie bei jedem GPUwerk-Tarif: minutengenau, gegen ein Prepaid-Guthaben, in USD, zzgl. anfallender Steuern, ohne Gebühren für ausgehenden Datenverkehr und ohne Bindung.

Brauchen Sie GPU-Zeit noch heute?

Eine DGX Spark hat 128 GB Unified Memory und ist jetzt mietbar, für 0,79 $/Stunde, minutengenau abgerechnet. Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben. Oder stellen Sie eine L4 bereit.