Chmura GPU

L4, dedykowany.

Pojedyncze GPU NVIDIA L4, 24 GB GDDR6 w architekturze Ada Lovelace, na hoście x86. 0,49 USD za godzinę, rozliczane co minutę, na tych samych warunkach co każdy inny poziom GPUwerk.

Wynajem według kolejności zgłoszeń: wdróż L4, gdy jest wolny, albo zapisz się w konsoli na jego listę oczekujących.

Specyfikacja

Za GPU. GPU i jego pamięć należą na czas wynajmu wyłącznie do ciebie.

NVIDIA L4
GPUL4, architektura Ada Lovelace
Pamięć24 GB GDDR6
Przepustowość pamięci300 GB/s
Rdzenie CUDA7 424
Maks. mocDo 72 W
HostujHost x86
NajemGPU należy wyłącznie do ciebie na czas wynajmu, nigdy nie jest współdzielone

Dane GPU z NVIDIA L4. GPUwerk publikuje wyniki tok/s i przepustowości treningu wyłącznie dla pomiarów na własnym sprzęcie. Sposób ich raportowania opisuje strona benchmarki floty DGX Spark.

Co byś na nim uruchomił?

Energooszczędna karta do inferencji: 24 GB przy 72 W, dla modeli, które się mieszczą, i ruchu, który nie wymaga H100.

Inferencja małych modeli

Modele czatu lub uzupełniania do około 14B parametrów w FP8 oraz modele embeddingów lub rerankingu za API, gdzie wystarczy 24 GB.

Potoki wideo i wizyjne

Sprzętowe kodowanie i dekodowanie wideo obok GPU, do transkodowania lub dla modeli wizyjnych czytających klatki wideo.

Tani development

Budowanie i testowanie stacku do serwowania na tanim GPU przed przeniesieniem go na większe.

Słabo się nadaje: trening i duży fine-tuning

24 GB zostawia niewiele miejsca na gradienty i stan optymalizatora, więc wszystko poza małą LoRA należy uruchamiać na H100 lub większym.

Potrzebujesz więcej pamięci? Zobacz L40S (48 GB) lub H100 (80 GB).

Co mieści się w 24 GB

Same wagi: pamięć podzielona przez bajty na parametr. Zostaw zapas na pamięć podręczną KV, aktywacje i środowisko uruchomieniowe, często o 10–30% więcej.

Największy model (same wagi) na jednym L4
PrecyzjaNa parametrNajwiększy model, same wagi
FP16 / BF162 bajtyokoło 12B parametrów
FP81 bajtokoło 24B parametrów
kwantyzacja 4-bitowa0,5 bajtaokoło 48B parametrów (brak natywnego FP4 w Ada; środowisko uruchomieniowe dekwantyzuje)

Rozliczenia

Stawka0,49 USD za godzinę, rozliczane co minutę
RozliczeniaCo minutę, z przedpłaconego salda środków
OpłatyBez opłat za ruch wychodzący
ZobowiązanieBrak

Ceny są w USD, bez należnych podatków. Pełne zasady rozliczania, w tym czym różni się zatrzymanie od zakończenia, są na stronie z cennikiem.

FAQ

Czy mogę teraz wynająć L4?

Wdróż go z konsoli, gdy jest dostępny; gdy nie ma wolnych maszyn, konsola oferuje listę oczekujących, a osoby w kolejce dostają e-maile po kolei, od najdłużej czekających. Dostępność nie jest dla nikogo rezerwowana: dostaje ją ten, kto pierwszy wdroży.

Jak działa rozliczanie na tym poziomie?

Tak samo jak każdy poziom GPUwerk: co minutę, z przedpłaconego salda środków, w USD, bez należnych podatków, bez opłat za ruch wychodzący i bez zobowiązań.

Potrzebujesz GPU już dziś?

DGX Spark ma 128 GB pamięci zunifikowanej i można go wynająć już teraz za 0,79 USD/godz., rozliczane co minutę. Pierwsze doładowanie: zapłać 20 USD, otrzymasz 30 USD środków. Albo wdróż L4.