GPU Cloud

H100 SXM, dediziert.

Eine einzelne NVIDIA H100-SXM-GPU, 80 GB HBM3 mit 3,35 TB/s auf der Hopper-Architektur, auf einem x86-Host. 2,69 $ pro Stunde, minutengenau abgerechnet, zu denselben Bedingungen wie jeder andere GPUwerk-Tarif.

Vermietung in der Reihenfolge des Eingangs: stellen Sie eine H100 bereit, wenn Kapazität frei ist, oder setzen Sie sich in der Konsole auf ihre Warteliste.

Technische Daten

Pro Node. Jede GPUwerk-Instanz, auf jedem Tarif, ist eine ganze Maschine für Sie allein.

NVIDIA H100 SXM
GPUH100 SXM5, Hopper-Architektur
Speicher80 GB HBM3
Speicherbandbreite3,35 TB/s
CUDA-Kerne16.896
Max. LeistungBis zu 700 W
MIGBis zu 7 Instanzen mit 10 GB
Hostenx86-Host
MandantenmodellEin Kunde pro Maschine, nie geteilt

GPU-Werte von NVIDIA H100 und dem Whitepaper zur H100-Architektur. GPUwerk veröffentlicht tok/s- und Trainingsdurchsatzwerte nur für Läufe auf eigener Hardware. Wie sie angegeben werden, zeigen die Flotten-Benchmarks der DGX Spark.

Was würden Sie darauf ausführen?

HBM3 mit 3,35 TB/s, für Durchsatz statt Kapazität.

Serving mit hohem Durchsatz

Gebündelte Inference für viele gleichzeitige Nutzer, bei der die HBM-Bandbreite die Tokens pro Sekunde bestimmt.

Training und Fine-Tuning

Vollständige Fine-Tunes und Trainingsläufe von Modellen, die in 80 GB passen, mit FP8 auf der Transformer Engine.

Modelle bis etwa 70B in FP8

Die Gewichte eines 70B-Modells passen, doch für den KV-Cache bleibt wenig Speicher.

Passt schlecht: natives FP4 und die größten Modelle

Hopper hat kein FP4, und ein Modell größer als etwa 70B in FP8 braucht eine H200, eine Blackwell-GPU oder mehrere GPUs.

Brauchen Sie mehrere über NVLink verbundene GPUs? Siehe den 8× H100-Server.

Was in 80 GB passt

Nur Gewichte: Speicher geteilt durch Byte pro Parameter. Lassen Sie Reserve für KV-Cache, Aktivierungen und die Runtime, oft 10 bis 30 % mehr.

Größtes Modell allein nach Gewichten auf einer H100
PräzisionPro ParameterGrößtes Modell, nur Gewichte
FP16 / BF162 Byteetwa 40B Parameter
FP81 Byteetwa 80B Parameter
4-Bit-quantisiert0,5 Byteetwa 160B Parameter (kein natives FP4 auf Hopper; die Runtime dequantisiert)

Abrechnung

Satz2,69 $ pro Stunde, minutengenau abgerechnet
AbrechnungMinutengenau, gegen ein Prepaid-Guthaben
GebührenKeine Gebühren für ausgehenden Datenverkehr
BindungKeine

Preise in USD, zzgl. anfallender Steuern. Die vollständige Abrechnungslogik, einschließlich dessen, was Stoppen gegenüber Beenden bewirkt, steht auf der Preisseite.

FAQ

Kann ich jetzt eine H100 mieten?

Stellen Sie sie über die Konsole bereit, wenn Kapazität frei ist; solange keine frei ist, bietet die Konsole eine Warteliste an, und die Wartenden werden einzeln per E-Mail benachrichtigt, die ältesten zuerst. Kapazität wird für niemanden zurückgehalten: Wer zuerst bereitstellt, bekommt sie.

Wie funktioniert die Abrechnung bei diesem Tarif?

Wie bei jedem GPUwerk-Tarif: minutengenau, gegen ein Prepaid-Guthaben, in USD, zzgl. anfallender Steuern, ohne Gebühren für ausgehenden Datenverkehr und ohne Bindung.

Brauchen Sie GPU-Zeit noch heute?

Eine DGX Spark hat 128 GB Unified Memory und ist jetzt mietbar, für 0,79 $/Stunde, minutengenau abgerechnet. Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben. Sehen Sie, wie eine DGX Spark abschneidet, oder setzen Sie sich auf die H100-Warteliste.