GPU Cloud
H100 SXM, dediziert.
Eine einzelne NVIDIA H100-SXM-GPU, 80 GB HBM3 mit 3,35 TB/s auf der Hopper-Architektur, auf einem x86-Host. 2,69 $ pro Stunde, minutengenau abgerechnet, zu denselben Bedingungen wie jeder andere GPUwerk-Tarif.
Vermietung in der Reihenfolge des Eingangs: stellen Sie eine H100 bereit, wenn Kapazität frei ist, oder setzen Sie sich in der Konsole auf ihre Warteliste.
Technische Daten
Pro Node. Jede GPUwerk-Instanz, auf jedem Tarif, ist eine ganze Maschine für Sie allein.
| GPU | H100 SXM5, Hopper-Architektur |
|---|---|
| Speicher | 80 GB HBM3 |
| Speicherbandbreite | 3,35 TB/s |
| CUDA-Kerne | 16.896 |
| Max. Leistung | Bis zu 700 W |
| MIG | Bis zu 7 Instanzen mit 10 GB |
| Hosten | x86-Host |
| Mandantenmodell | Ein Kunde pro Maschine, nie geteilt |
GPU-Werte von NVIDIA H100 und dem Whitepaper zur H100-Architektur. GPUwerk veröffentlicht tok/s- und Trainingsdurchsatzwerte nur für Läufe auf eigener Hardware. Wie sie angegeben werden, zeigen die Flotten-Benchmarks der DGX Spark.
Was würden Sie darauf ausführen?
HBM3 mit 3,35 TB/s, für Durchsatz statt Kapazität.
Serving mit hohem Durchsatz
Gebündelte Inference für viele gleichzeitige Nutzer, bei der die HBM-Bandbreite die Tokens pro Sekunde bestimmt.
Training und Fine-Tuning
Vollständige Fine-Tunes und Trainingsläufe von Modellen, die in 80 GB passen, mit FP8 auf der Transformer Engine.
Modelle bis etwa 70B in FP8
Die Gewichte eines 70B-Modells passen, doch für den KV-Cache bleibt wenig Speicher.
Passt schlecht: natives FP4 und die größten Modelle
Hopper hat kein FP4, und ein Modell größer als etwa 70B in FP8 braucht eine H200, eine Blackwell-GPU oder mehrere GPUs.
Brauchen Sie mehrere über NVLink verbundene GPUs? Siehe den 8× H100-Server.
Was in 80 GB passt
Nur Gewichte: Speicher geteilt durch Byte pro Parameter. Lassen Sie Reserve für KV-Cache, Aktivierungen und die Runtime, oft 10 bis 30 % mehr.
| Präzision | Pro Parameter | Größtes Modell, nur Gewichte |
|---|---|---|
| FP16 / BF16 | 2 Byte | etwa 40B Parameter |
| FP8 | 1 Byte | etwa 80B Parameter |
| 4-Bit-quantisiert | 0,5 Byte | etwa 160B Parameter (kein natives FP4 auf Hopper; die Runtime dequantisiert) |
Abrechnung
| Satz | 2,69 $ pro Stunde, minutengenau abgerechnet |
|---|---|
| Abrechnung | Minutengenau, gegen ein Prepaid-Guthaben |
| Gebühren | Keine Gebühren für ausgehenden Datenverkehr |
| Bindung | Keine |
Preise in USD, zzgl. anfallender Steuern. Die vollständige Abrechnungslogik, einschließlich dessen, was Stoppen gegenüber Beenden bewirkt, steht auf der Preisseite.
FAQ
Kann ich jetzt eine H100 mieten?
Stellen Sie sie über die Konsole bereit, wenn Kapazität frei ist; solange keine frei ist, bietet die Konsole eine Warteliste an, und die Wartenden werden einzeln per E-Mail benachrichtigt, die ältesten zuerst. Kapazität wird für niemanden zurückgehalten: Wer zuerst bereitstellt, bekommt sie.
Wie funktioniert die Abrechnung bei diesem Tarif?
Wie bei jedem GPUwerk-Tarif: minutengenau, gegen ein Prepaid-Guthaben, in USD, zzgl. anfallender Steuern, ohne Gebühren für ausgehenden Datenverkehr und ohne Bindung.
Brauchen Sie GPU-Zeit noch heute?
Eine DGX Spark hat 128 GB Unified Memory und ist jetzt mietbar, für 0,79 $/Stunde, minutengenau abgerechnet. Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben. Sehen Sie, wie eine DGX Spark abschneidet, oder setzen Sie sich auf die H100-Warteliste.