Chmura GPU
L4, dedykowany.
Pojedyncze GPU NVIDIA L4, 24 GB GDDR6 w architekturze Ada Lovelace, na hoście x86. 0,49 USD za godzinę, rozliczane co minutę, na tych samych warunkach co każdy inny poziom GPUwerk.
Wynajem według kolejności zgłoszeń: wdróż L4, gdy jest wolny, albo zapisz się w konsoli na jego listę oczekujących.
Specyfikacja
Za GPU. GPU i jego pamięć należą na czas wynajmu wyłącznie do ciebie.
| GPU | L4, architektura Ada Lovelace |
|---|---|
| Pamięć | 24 GB GDDR6 |
| Przepustowość pamięci | 300 GB/s |
| Rdzenie CUDA | 7 424 |
| Maks. moc | Do 72 W |
| Hostuj | Host x86 |
| Najem | GPU należy wyłącznie do ciebie na czas wynajmu, nigdy nie jest współdzielone |
Dane GPU z NVIDIA L4. GPUwerk publikuje wyniki tok/s i przepustowości treningu wyłącznie dla pomiarów na własnym sprzęcie. Sposób ich raportowania opisuje strona benchmarki floty DGX Spark.
Co byś na nim uruchomił?
Energooszczędna karta do inferencji: 24 GB przy 72 W, dla modeli, które się mieszczą, i ruchu, który nie wymaga H100.
Inferencja małych modeli
Modele czatu lub uzupełniania do około 14B parametrów w FP8 oraz modele embeddingów lub rerankingu za API, gdzie wystarczy 24 GB.
Potoki wideo i wizyjne
Sprzętowe kodowanie i dekodowanie wideo obok GPU, do transkodowania lub dla modeli wizyjnych czytających klatki wideo.
Tani development
Budowanie i testowanie stacku do serwowania na tanim GPU przed przeniesieniem go na większe.
Słabo się nadaje: trening i duży fine-tuning
24 GB zostawia niewiele miejsca na gradienty i stan optymalizatora, więc wszystko poza małą LoRA należy uruchamiać na H100 lub większym.
Potrzebujesz więcej pamięci? Zobacz L40S (48 GB) lub H100 (80 GB).
Co mieści się w 24 GB
Same wagi: pamięć podzielona przez bajty na parametr. Zostaw zapas na pamięć podręczną KV, aktywacje i środowisko uruchomieniowe, często o 10–30% więcej.
| Precyzja | Na parametr | Największy model, same wagi |
|---|---|---|
| FP16 / BF16 | 2 bajty | około 12B parametrów |
| FP8 | 1 bajt | około 24B parametrów |
| kwantyzacja 4-bitowa | 0,5 bajta | około 48B parametrów (brak natywnego FP4 w Ada; środowisko uruchomieniowe dekwantyzuje) |
Rozliczenia
| Stawka | 0,49 USD za godzinę, rozliczane co minutę |
|---|---|
| Rozliczenia | Co minutę, z przedpłaconego salda środków |
| Opłaty | Bez opłat za ruch wychodzący |
| Zobowiązanie | Brak |
Ceny są w USD, bez należnych podatków. Pełne zasady rozliczania, w tym czym różni się zatrzymanie od zakończenia, są na stronie z cennikiem.
FAQ
Czy mogę teraz wynająć L4?
Wdróż go z konsoli, gdy jest dostępny; gdy nie ma wolnych maszyn, konsola oferuje listę oczekujących, a osoby w kolejce dostają e-maile po kolei, od najdłużej czekających. Dostępność nie jest dla nikogo rezerwowana: dostaje ją ten, kto pierwszy wdroży.
Jak działa rozliczanie na tym poziomie?
Tak samo jak każdy poziom GPUwerk: co minutę, z przedpłaconego salda środków, w USD, bez należnych podatków, bez opłat za ruch wychodzący i bez zobowiązań.
Potrzebujesz GPU już dziś?
DGX Spark ma 128 GB pamięci zunifikowanej i można go wynająć już teraz za 0,79 USD/godz., rozliczane co minutę. Pierwsze doładowanie: zapłać 20 USD, otrzymasz 30 USD środków. Albo wdróż L4.