GPU Cloud

RTX PRO 6000, dediziert.

Eine Maschine mit einer NVIDIA RTX PRO 6000 Blackwell Server Edition, 96 GB GDDR7 mit ECC auf der Blackwell-Architektur, auf einem x86-Host. 1,89 $ pro Stunde, minutengenau abgerechnet, zu denselben Bedingungen wie jeder andere GPUwerk-Tarif.

Vermietung in der Reihenfolge des Eingangs: stellen Sie eine RTX PRO 6000 bereit, wenn Kapazität frei ist, oder setzen Sie sich in der Konsole auf ihre Warteliste.

Technische Daten

Pro Node. Jede GPUwerk-Instanz, auf jedem Tarif, ist eine ganze Maschine für Sie allein.

NVIDIA RTX PRO 6000 Blackwell Server Edition
GPURTX PRO 6000 Blackwell Server Edition, Blackwell-Architektur
Speicher96 GB GDDR7 mit ECC
Speicherbandbreite1.597 GB/s
CUDA-Kerne24.064
Max. LeistungBis zu 600 W, konfigurierbar
MIGBis zu 4 Instanzen mit 24 GB
Hostenx86-Host
MandantenmodellEin Kunde pro Maschine, nie geteilt

GPU-Werte von NVIDIA RTX PRO 6000 Blackwell Server Edition. GPUwerk veröffentlicht tok/s- und Trainingsdurchsatzwerte nur für Läufe auf eigener Hardware. Wie sie angegeben werden, zeigen die Flotten-Benchmarks der DGX Spark.

Was würden Sie darauf ausführen?

96 GB auf einer Karte, mit Tensor Cores der fünften Generation, die FP4 ausführen.

Modelle der 70B-Klasse auf einer GPU

Ein 70B-Modell in FP8 passt in 96 GB, mit etwas Platz für den KV-Cache, ohne es auf mehrere GPUs aufzuteilen.

FP4-Inference

Blackwell führt FP4 nativ aus, ein 4-Bit-Modell mit bis zu etwa 192B Parametern passt also allein von den Gewichten her.

Grafik und KI auf einer Karte

RT-Kerne und ein großer Framebuffer für Rendering oder Simulation neben der Modellarbeit.

Passt schlecht: Multi-GPU-Training

Sie hat kein NVLink; ein Job, bei dem mehrere GPUs schnell Daten austauschen müssen, gehört also auf einen 8-GPU-Server.

Mehrere kleinere Jobs

MIG teilt die Karte in bis zu vier isolierte 24-GB-GPUs auf, um mehr als ein Modell gleichzeitig auszuliefern.

Was in 96 GB passt

Nur Gewichte: Speicher geteilt durch Byte pro Parameter. Lassen Sie Reserve für KV-Cache, Aktivierungen und die Runtime, oft 10 bis 30 % mehr.

Größtes Modell allein nach Gewichten auf einer RTX PRO 6000
PräzisionPro ParameterGrößtes Modell, nur Gewichte
FP16 / BF162 Byteetwa 48B Parameter
FP81 Byteetwa 96B Parameter
FP4 (nativ auf Blackwell)0,5 Byteetwa 192B Parameter

Abrechnung

Satz1,89 $ pro Stunde, minutengenau abgerechnet
AbrechnungMinutengenau, gegen ein Prepaid-Guthaben
GebührenKeine Gebühren für ausgehenden Datenverkehr
BindungKeine

Preise in USD, zzgl. anfallender Steuern. Die vollständige Abrechnungslogik, einschließlich dessen, was Stoppen gegenüber Beenden bewirkt, steht auf der Preisseite.

FAQ

Kann ich jetzt eine RTX PRO 6000 mieten?

Stellen Sie sie über die Konsole bereit, wenn Kapazität frei ist; solange keine frei ist, bietet die Konsole eine Warteliste an, und die Wartenden werden einzeln per E-Mail benachrichtigt, die ältesten zuerst. Kapazität wird für niemanden zurückgehalten: Wer zuerst bereitstellt, bekommt sie.

Wie funktioniert die Abrechnung bei diesem Tarif?

Wie bei jedem GPUwerk-Tarif: minutengenau, gegen ein Prepaid-Guthaben, in USD, zzgl. anfallender Steuern, ohne Gebühren für ausgehenden Datenverkehr und ohne Bindung.

Brauchen Sie GPU-Zeit noch heute?

Eine DGX Spark hat 128 GB Unified Memory und ist jetzt mietbar, für 0,79 $/Stunde, minutengenau abgerechnet. Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben. Sehen Sie, wie eine DGX Spark abschneidet, oder setzen Sie sich auf die RTX-PRO-6000-Warteliste.