GPU Cloud

H200, dediziert.

Eine einzelne NVIDIA H200-GPU, 141 GB HBM3e auf der Hopper-Architektur, auf einem x86-Host. 3,49 $ pro Stunde, minutengenau abgerechnet, zu denselben Bedingungen wie jeder andere GPUwerk-Tarif.

Vermietung in der Reihenfolge des Eingangs: stellen Sie eine H200 bereit, wenn Kapazität frei ist, oder setzen Sie sich in der Konsole auf ihre Warteliste.

Technische Daten

Pro GPU. Die GPU und ihr Speicher gehören für die Dauer der Miete Ihnen allein.

NVIDIA H200
GPUH200 SXM, Hopper-Architektur
Speicher141 GB HBM3e
Speicherbandbreite4,8 TB/s
Max. LeistungBis zu 700 W
MIGBis zu 7 Instanzen mit 18 GB
Hostenx86-Host
MandantenmodellDie GPU gehört Ihnen allein, solange Sie sie mieten, nie geteilt

GPU-Werte von NVIDIA H200. GPUwerk veröffentlicht tok/s- und Trainingsdurchsatzwerte nur für Läufe auf eigener Hardware. Wie sie angegeben werden, zeigen die Flotten-Benchmarks der DGX Spark.

Was würden Sie darauf ausführen?

Die Rechenleistung der H100 mit 76 % mehr Speicher: größere Modelle auf einer GPU und mehr Platz für den KV-Cache.

Modelle der 70B-Klasse mit langem Kontext

Ein 70B-Modell in FP8 passt, und es bleiben etwa 70 GB für den KV-Cache, also längere Prompts und mehr gleichzeitige Anfragen.

Modelle bis etwa 140B in FP8

Gewichte, die zwei H100 brauchen, passen auf eine H200.

Fine-Tuning

Vollständige Fine-Tunes und LoRA-Läufe auf Modellen, die nicht in 80 GB passen.

Passt schlecht: natives FP4

Hopper hat kein FP4; für 4-Bit-Inference mit Blackwell-Tempo mieten Sie eine B200 oder B300.

Brauchen Sie mehrere über NVLink verbundene GPUs? Siehe den 8× H200-Server.

Was in 141 GB passt

Nur Gewichte: Speicher geteilt durch Byte pro Parameter. Lassen Sie Reserve für KV-Cache, Aktivierungen und die Runtime, oft 10 bis 30 % mehr.

Größtes Modell allein nach Gewichten auf einer H200
PräzisionPro ParameterGrößtes Modell, nur Gewichte
FP16 / BF162 Byteetwa 70B Parameter
FP81 Byteetwa 141B Parameter
4-Bit-quantisiert0,5 Byteetwa 282B Parameter (kein natives FP4 auf Hopper; die Runtime dequantisiert)

Abrechnung

Satz3,49 $ pro Stunde, minutengenau abgerechnet
AbrechnungMinutengenau, gegen ein Prepaid-Guthaben
GebührenKeine Gebühren für ausgehenden Datenverkehr
BindungKeine

Preise in USD, zzgl. anfallender Steuern. Die vollständige Abrechnungslogik, einschließlich dessen, was Stoppen gegenüber Beenden bewirkt, steht auf der Preisseite.

FAQ

Kann ich jetzt eine H200 mieten?

Stellen Sie sie über die Konsole bereit, wenn Kapazität frei ist; solange keine frei ist, bietet die Konsole eine Warteliste an, und die Wartenden werden einzeln per E-Mail benachrichtigt, die ältesten zuerst. Kapazität wird für niemanden zurückgehalten: Wer zuerst bereitstellt, bekommt sie.

Wie funktioniert die Abrechnung bei diesem Tarif?

Wie bei jedem GPUwerk-Tarif: minutengenau, gegen ein Prepaid-Guthaben, in USD, zzgl. anfallender Steuern, ohne Gebühren für ausgehenden Datenverkehr und ohne Bindung.

Brauchen Sie GPU-Zeit noch heute?

Eine DGX Spark hat 128 GB Unified Memory und ist jetzt mietbar, für 0,79 $/Stunde, minutengenau abgerechnet. Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben. Oder stellen Sie eine H200 bereit.