Chmura GPU

RTX PRO 6000, dedykowany.

Maszyna z jednym GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, 96 GB GDDR7 z ECC w architekturze Blackwell, na hoście x86. 1,89 USD za godzinę, rozliczane co minutę, na tych samych warunkach co każdy inny poziom GPUwerk.

Wynajem według kolejności zgłoszeń: wdróż RTX PRO 6000, gdy jest wolny, albo zapisz się w konsoli na jego listę oczekujących.

Specyfikacja

Na węzeł. Każda instancja GPUwerk, na dowolnym poziomie, to jedna cała maszyna tylko dla ciebie.

NVIDIA RTX PRO 6000 Blackwell Server Edition
GPURTX PRO 6000 Blackwell Server Edition, architektura Blackwell
Pamięć96 GB GDDR7 z ECC
Przepustowość pamięci1597 GB/s
Rdzenie CUDA24 064
Maks. mocDo 600 W, konfigurowalne
MIGDo 4 instancji po 24 GB
HostujHost x86
NajemJeden klient na maszynę, nigdy współdzielona

Dane GPU z NVIDIA RTX PRO 6000 Blackwell Server Edition. GPUwerk publikuje wyniki tok/s i przepustowości treningu wyłącznie dla pomiarów na własnym sprzęcie. Sposób ich raportowania opisuje strona benchmarki floty DGX Spark.

Co byś na nim uruchomił?

96 GB na jednej karcie, z rdzeniami Tensor piątej generacji obsługującymi FP4.

Modele klasy 70B na jednym GPU

Model 70B w FP8 mieści się w 96 GB z pewnym zapasem na pamięć podręczną KV, bez dzielenia go między GPU.

Inferencja FP4

Blackwell obsługuje FP4 natywnie, więc 4-bitowy model do około 192B parametrów mieści się, licząc same wagi.

Grafika i AI na jednej karcie

Rdzenie RT i duży bufor ramki do renderowania lub symulacji obok pracy z modelami.

Słabo się nadaje: trening na wielu GPU

Nie ma NVLink, więc zadanie wymagające szybkiej wymiany danych między kilkoma GPU powinno trafić na serwer 8-GPU.

Kilka mniejszych zadań

MIG dzieli kartę na maksymalnie cztery odizolowane GPU po 24 GB, aby serwować więcej niż jeden model naraz.

Co mieści się w 96 GB

Same wagi: pamięć podzielona przez bajty na parametr. Zostaw zapas na pamięć podręczną KV, aktywacje i środowisko uruchomieniowe, często o 10–30% więcej.

Największy model (same wagi) na jednym RTX PRO 6000
PrecyzjaNa parametrNajwiększy model, same wagi
FP16 / BF162 bajtyokoło 48B parametrów
FP81 bajtokoło 96B parametrów
FP4 (natywnie w Blackwell)0,5 bajtaokoło 192B parametrów

Rozliczenia

Stawka1,89 USD za godzinę, rozliczane co minutę
RozliczeniaCo minutę, z przedpłaconego salda środków
OpłatyBez opłat za ruch wychodzący
ZobowiązanieBrak

Ceny są w USD, bez należnych podatków. Pełne zasady rozliczania, w tym czym różni się zatrzymanie od zakończenia, są na stronie z cennikiem.

FAQ

Czy mogę teraz wynająć RTX PRO 6000?

Wdróż go z konsoli, gdy jest dostępny; gdy nie ma wolnych maszyn, konsola oferuje listę oczekujących, a osoby w kolejce dostają e-maile po kolei, od najdłużej czekających. Dostępność nie jest dla nikogo rezerwowana: dostaje ją ten, kto pierwszy wdroży.

Jak działa rozliczanie na tym poziomie?

Tak samo jak każdy poziom GPUwerk: co minutę, z przedpłaconego salda środków, w USD, bez należnych podatków, bez opłat za ruch wychodzący i bez zobowiązań.

Potrzebujesz GPU już dziś?

DGX Spark ma 128 GB pamięci zunifikowanej i można go wynająć już teraz za 0,79 USD/godz., rozliczane co minutę. Pierwsze doładowanie: zapłać 20 USD, otrzymasz 30 USD środków. Zobacz, jak wypada DGX Spark, albo zapisz się na listę oczekujących na RTX PRO 6000.