Chmura GPU

L40S, dedykowany.

Maszyna z jednym GPU L40S, 48 GB GDDR6 w architekturze NVIDIA Ada Lovelace, na hoście x86. 0,99 USD za godzinę, rozliczane co minutę, na tych samych warunkach co każdy inny poziom GPUwerk.

Wynajem według kolejności zgłoszeń: wdróż L40S, gdy jest wolny, albo zapisz się w konsoli na jego listę oczekujących.

Specyfikacja

Na węzeł. Każda instancja GPUwerk, na dowolnym poziomie, to jedna cała maszyna tylko dla ciebie.

NVIDIA L40S
GPUL40S, architektura Ada Lovelace
Pamięć48 GB GDDR6
HostujHost x86
NajemJeden klient na maszynę, nigdy współdzielona

GPUwerk publikuje wyniki tok/s i przepustowości treningu wyłącznie dla pomiarów na własnym sprzęcie. Sposób ich raportowania opisuje strona benchmarki floty DGX Spark.

Co byś na nim uruchomił?

48 GB stawia L40S pomiędzy 32 GB karty 5090 a 128 GB Sparka, z pamięcią ECC klasy centrum danych.

Inferencja modeli średniej wielkości

Modele do około 40B parametrów w FP8 albo model klasy 30B z zapasem na pamięć podręczną KV.

Grafika i AI razem

Rdzenie RT i silnik multimedialny obok rdzeni tensorowych FP8, dla potoków, które renderują i wykonują inferencję na jednej karcie.

Fine-tuning LoRA

Trening adapterów na modelach klasy od 7B do 13B, który mieści się w 48 GB z zapasem.

Słabo się nadaje: trening na wielu GPU

Nie ma NVLink, więc zadanie wymagające szybkiej wymiany danych między kilkoma GPU powinno trafić na serwer 8-GPU.

Co mieści się w 48 GB

Same wagi: pamięć podzielona przez bajty na parametr. Zostaw zapas na pamięć podręczną KV, aktywacje i środowisko uruchomieniowe, często o 10–30% więcej.

Największy model (same wagi) na jednym L40S
PrecyzjaNa parametrNajwiększy model, same wagi
FP16 / BF162 bajtyokoło 24B parametrów
FP81 bajtokoło 48B parametrów
kwantyzacja 4-bitowa0,5 bajtaokoło 96B parametrów (brak natywnego FP4 w Ada; środowisko uruchomieniowe dekwantyzuje)

Rozliczenia

Stawka0,99 USD za godzinę, rozliczane co minutę
RozliczeniaCo minutę, z przedpłaconego salda środków
OpłatyBez opłat za ruch wychodzący
ZobowiązanieBrak

Ceny są w USD, bez należnych podatków. Pełne zasady rozliczania, w tym czym różni się zatrzymanie od zakończenia, są na stronie z cennikiem.

FAQ

Czy mogę teraz wynająć L40S?

Wdróż go z konsoli, gdy jest dostępny; gdy nie ma wolnych maszyn, konsola oferuje listę oczekujących, a osoby w kolejce dostają e-maile po kolei, od najdłużej czekających. Dostępność nie jest dla nikogo rezerwowana: dostaje ją ten, kto pierwszy wdroży.

Jak działa rozliczanie na tym poziomie?

Tak samo jak każdy poziom GPUwerk: co minutę, z przedpłaconego salda środków, w USD, bez należnych podatków, bez opłat za ruch wychodzący i bez zobowiązań.

Potrzebujesz GPU już dziś?

DGX Spark ma 128 GB pamięci zunifikowanej i można go wynająć już teraz za 0,79 USD/godz., rozliczane co minutę. Pierwsze doładowanie: zapłać 20 USD, otrzymasz 30 USD środków. Zobacz, jak Spark wypada na tle osobnej karty, albo zapisz się na listę oczekujących na L40S.