GPU Cloud
RTX PRO 6000, dediziert.
Eine Maschine mit einer NVIDIA RTX PRO 6000 Blackwell Server Edition, 96 GB GDDR7 mit ECC auf der Blackwell-Architektur, auf einem x86-Host. 1,89 $ pro Stunde, minutengenau abgerechnet, zu denselben Bedingungen wie jeder andere GPUwerk-Tarif.
Vermietung in der Reihenfolge des Eingangs: stellen Sie eine RTX PRO 6000 bereit, wenn Kapazität frei ist, oder setzen Sie sich in der Konsole auf ihre Warteliste.
Technische Daten
Pro Node. Jede GPUwerk-Instanz, auf jedem Tarif, ist eine ganze Maschine für Sie allein.
| GPU | RTX PRO 6000 Blackwell Server Edition, Blackwell-Architektur |
|---|---|
| Speicher | 96 GB GDDR7 mit ECC |
| Speicherbandbreite | 1.597 GB/s |
| CUDA-Kerne | 24.064 |
| Max. Leistung | Bis zu 600 W, konfigurierbar |
| MIG | Bis zu 4 Instanzen mit 24 GB |
| Hosten | x86-Host |
| Mandantenmodell | Ein Kunde pro Maschine, nie geteilt |
GPU-Werte von NVIDIA RTX PRO 6000 Blackwell Server Edition. GPUwerk veröffentlicht tok/s- und Trainingsdurchsatzwerte nur für Läufe auf eigener Hardware. Wie sie angegeben werden, zeigen die Flotten-Benchmarks der DGX Spark.
Was würden Sie darauf ausführen?
96 GB auf einer Karte, mit Tensor Cores der fünften Generation, die FP4 ausführen.
Modelle der 70B-Klasse auf einer GPU
Ein 70B-Modell in FP8 passt in 96 GB, mit etwas Platz für den KV-Cache, ohne es auf mehrere GPUs aufzuteilen.
FP4-Inference
Blackwell führt FP4 nativ aus, ein 4-Bit-Modell mit bis zu etwa 192B Parametern passt also allein von den Gewichten her.
Grafik und KI auf einer Karte
RT-Kerne und ein großer Framebuffer für Rendering oder Simulation neben der Modellarbeit.
Passt schlecht: Multi-GPU-Training
Sie hat kein NVLink; ein Job, bei dem mehrere GPUs schnell Daten austauschen müssen, gehört also auf einen 8-GPU-Server.
Mehrere kleinere Jobs
MIG teilt die Karte in bis zu vier isolierte 24-GB-GPUs auf, um mehr als ein Modell gleichzeitig auszuliefern.
Was in 96 GB passt
Nur Gewichte: Speicher geteilt durch Byte pro Parameter. Lassen Sie Reserve für KV-Cache, Aktivierungen und die Runtime, oft 10 bis 30 % mehr.
| Präzision | Pro Parameter | Größtes Modell, nur Gewichte |
|---|---|---|
| FP16 / BF16 | 2 Byte | etwa 48B Parameter |
| FP8 | 1 Byte | etwa 96B Parameter |
| FP4 (nativ auf Blackwell) | 0,5 Byte | etwa 192B Parameter |
Abrechnung
| Satz | 1,89 $ pro Stunde, minutengenau abgerechnet |
|---|---|
| Abrechnung | Minutengenau, gegen ein Prepaid-Guthaben |
| Gebühren | Keine Gebühren für ausgehenden Datenverkehr |
| Bindung | Keine |
Preise in USD, zzgl. anfallender Steuern. Die vollständige Abrechnungslogik, einschließlich dessen, was Stoppen gegenüber Beenden bewirkt, steht auf der Preisseite.
FAQ
Kann ich jetzt eine RTX PRO 6000 mieten?
Stellen Sie sie über die Konsole bereit, wenn Kapazität frei ist; solange keine frei ist, bietet die Konsole eine Warteliste an, und die Wartenden werden einzeln per E-Mail benachrichtigt, die ältesten zuerst. Kapazität wird für niemanden zurückgehalten: Wer zuerst bereitstellt, bekommt sie.
Wie funktioniert die Abrechnung bei diesem Tarif?
Wie bei jedem GPUwerk-Tarif: minutengenau, gegen ein Prepaid-Guthaben, in USD, zzgl. anfallender Steuern, ohne Gebühren für ausgehenden Datenverkehr und ohne Bindung.
Brauchen Sie GPU-Zeit noch heute?
Eine DGX Spark hat 128 GB Unified Memory und ist jetzt mietbar, für 0,79 $/Stunde, minutengenau abgerechnet. Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben. Sehen Sie, wie eine DGX Spark abschneidet, oder setzen Sie sich auf die RTX-PRO-6000-Warteliste.