Chmura GPU
L40S, dedykowany.
Maszyna z jednym GPU L40S, 48 GB GDDR6 w architekturze NVIDIA Ada Lovelace, na hoście x86. 0,99 USD za godzinę, rozliczane co minutę, na tych samych warunkach co każdy inny poziom GPUwerk.
Wynajem według kolejności zgłoszeń: wdróż L40S, gdy jest wolny, albo zapisz się w konsoli na jego listę oczekujących.
Specyfikacja
Na węzeł. Każda instancja GPUwerk, na dowolnym poziomie, to jedna cała maszyna tylko dla ciebie.
| GPU | L40S, architektura Ada Lovelace |
|---|---|
| Pamięć | 48 GB GDDR6 |
| Hostuj | Host x86 |
| Najem | Jeden klient na maszynę, nigdy współdzielona |
GPUwerk publikuje wyniki tok/s i przepustowości treningu wyłącznie dla pomiarów na własnym sprzęcie. Sposób ich raportowania opisuje strona benchmarki floty DGX Spark.
Co byś na nim uruchomił?
48 GB stawia L40S pomiędzy 32 GB karty 5090 a 128 GB Sparka, z pamięcią ECC klasy centrum danych.
Inferencja modeli średniej wielkości
Modele do około 40B parametrów w FP8 albo model klasy 30B z zapasem na pamięć podręczną KV.
Grafika i AI razem
Rdzenie RT i silnik multimedialny obok rdzeni tensorowych FP8, dla potoków, które renderują i wykonują inferencję na jednej karcie.
Fine-tuning LoRA
Trening adapterów na modelach klasy od 7B do 13B, który mieści się w 48 GB z zapasem.
Słabo się nadaje: trening na wielu GPU
Nie ma NVLink, więc zadanie wymagające szybkiej wymiany danych między kilkoma GPU powinno trafić na serwer 8-GPU.
Co mieści się w 48 GB
Same wagi: pamięć podzielona przez bajty na parametr. Zostaw zapas na pamięć podręczną KV, aktywacje i środowisko uruchomieniowe, często o 10–30% więcej.
| Precyzja | Na parametr | Największy model, same wagi |
|---|---|---|
| FP16 / BF16 | 2 bajty | około 24B parametrów |
| FP8 | 1 bajt | około 48B parametrów |
| kwantyzacja 4-bitowa | 0,5 bajta | około 96B parametrów (brak natywnego FP4 w Ada; środowisko uruchomieniowe dekwantyzuje) |
Rozliczenia
| Stawka | 0,99 USD za godzinę, rozliczane co minutę |
|---|---|
| Rozliczenia | Co minutę, z przedpłaconego salda środków |
| Opłaty | Bez opłat za ruch wychodzący |
| Zobowiązanie | Brak |
Ceny są w USD, bez należnych podatków. Pełne zasady rozliczania, w tym czym różni się zatrzymanie od zakończenia, są na stronie z cennikiem.
FAQ
Czy mogę teraz wynająć L40S?
Wdróż go z konsoli, gdy jest dostępny; gdy nie ma wolnych maszyn, konsola oferuje listę oczekujących, a osoby w kolejce dostają e-maile po kolei, od najdłużej czekających. Dostępność nie jest dla nikogo rezerwowana: dostaje ją ten, kto pierwszy wdroży.
Jak działa rozliczanie na tym poziomie?
Tak samo jak każdy poziom GPUwerk: co minutę, z przedpłaconego salda środków, w USD, bez należnych podatków, bez opłat za ruch wychodzący i bez zobowiązań.
Potrzebujesz GPU już dziś?
DGX Spark ma 128 GB pamięci zunifikowanej i można go wynająć już teraz za 0,79 USD/godz., rozliczane co minutę. Pierwsze doładowanie: zapłać 20 USD, otrzymasz 30 USD środków. Zobacz, jak Spark wypada na tle osobnej karty, albo zapisz się na listę oczekujących na L40S.