Chmura GPU
RTX PRO 6000, dedykowany.
Maszyna z jednym GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, 96 GB GDDR7 z ECC w architekturze Blackwell, na hoście x86. 1,89 USD za godzinę, rozliczane co minutę, na tych samych warunkach co każdy inny poziom GPUwerk.
Wynajem według kolejności zgłoszeń: wdróż RTX PRO 6000, gdy jest wolny, albo zapisz się w konsoli na jego listę oczekujących.
Specyfikacja
Na węzeł. Każda instancja GPUwerk, na dowolnym poziomie, to jedna cała maszyna tylko dla ciebie.
| GPU | RTX PRO 6000 Blackwell Server Edition, architektura Blackwell |
|---|---|
| Pamięć | 96 GB GDDR7 z ECC |
| Przepustowość pamięci | 1597 GB/s |
| Rdzenie CUDA | 24 064 |
| Maks. moc | Do 600 W, konfigurowalne |
| MIG | Do 4 instancji po 24 GB |
| Hostuj | Host x86 |
| Najem | Jeden klient na maszynę, nigdy współdzielona |
Dane GPU z NVIDIA RTX PRO 6000 Blackwell Server Edition. GPUwerk publikuje wyniki tok/s i przepustowości treningu wyłącznie dla pomiarów na własnym sprzęcie. Sposób ich raportowania opisuje strona benchmarki floty DGX Spark.
Co byś na nim uruchomił?
96 GB na jednej karcie, z rdzeniami Tensor piątej generacji obsługującymi FP4.
Modele klasy 70B na jednym GPU
Model 70B w FP8 mieści się w 96 GB z pewnym zapasem na pamięć podręczną KV, bez dzielenia go między GPU.
Inferencja FP4
Blackwell obsługuje FP4 natywnie, więc 4-bitowy model do około 192B parametrów mieści się, licząc same wagi.
Grafika i AI na jednej karcie
Rdzenie RT i duży bufor ramki do renderowania lub symulacji obok pracy z modelami.
Słabo się nadaje: trening na wielu GPU
Nie ma NVLink, więc zadanie wymagające szybkiej wymiany danych między kilkoma GPU powinno trafić na serwer 8-GPU.
Kilka mniejszych zadań
MIG dzieli kartę na maksymalnie cztery odizolowane GPU po 24 GB, aby serwować więcej niż jeden model naraz.
Co mieści się w 96 GB
Same wagi: pamięć podzielona przez bajty na parametr. Zostaw zapas na pamięć podręczną KV, aktywacje i środowisko uruchomieniowe, często o 10–30% więcej.
| Precyzja | Na parametr | Największy model, same wagi |
|---|---|---|
| FP16 / BF16 | 2 bajty | około 48B parametrów |
| FP8 | 1 bajt | około 96B parametrów |
| FP4 (natywnie w Blackwell) | 0,5 bajta | około 192B parametrów |
Rozliczenia
| Stawka | 1,89 USD za godzinę, rozliczane co minutę |
|---|---|
| Rozliczenia | Co minutę, z przedpłaconego salda środków |
| Opłaty | Bez opłat za ruch wychodzący |
| Zobowiązanie | Brak |
Ceny są w USD, bez należnych podatków. Pełne zasady rozliczania, w tym czym różni się zatrzymanie od zakończenia, są na stronie z cennikiem.
FAQ
Czy mogę teraz wynająć RTX PRO 6000?
Wdróż go z konsoli, gdy jest dostępny; gdy nie ma wolnych maszyn, konsola oferuje listę oczekujących, a osoby w kolejce dostają e-maile po kolei, od najdłużej czekających. Dostępność nie jest dla nikogo rezerwowana: dostaje ją ten, kto pierwszy wdroży.
Jak działa rozliczanie na tym poziomie?
Tak samo jak każdy poziom GPUwerk: co minutę, z przedpłaconego salda środków, w USD, bez należnych podatków, bez opłat za ruch wychodzący i bez zobowiązań.
Potrzebujesz GPU już dziś?
DGX Spark ma 128 GB pamięci zunifikowanej i można go wynająć już teraz za 0,79 USD/godz., rozliczane co minutę. Pierwsze doładowanie: zapłać 20 USD, otrzymasz 30 USD środków. Zobacz, jak wypada DGX Spark, albo zapisz się na listę oczekujących na RTX PRO 6000.