GPU Cloud
H200, dediziert.
Eine einzelne NVIDIA H200-GPU, 141 GB HBM3e auf der Hopper-Architektur, auf einem x86-Host. 3,49 $ pro Stunde, minutengenau abgerechnet, zu denselben Bedingungen wie jeder andere GPUwerk-Tarif.
Vermietung in der Reihenfolge des Eingangs: stellen Sie eine H200 bereit, wenn Kapazität frei ist, oder setzen Sie sich in der Konsole auf ihre Warteliste.
Technische Daten
Pro GPU. Die GPU und ihr Speicher gehören für die Dauer der Miete Ihnen allein.
| GPU | H200 SXM, Hopper-Architektur |
|---|---|
| Speicher | 141 GB HBM3e |
| Speicherbandbreite | 4,8 TB/s |
| Max. Leistung | Bis zu 700 W |
| MIG | Bis zu 7 Instanzen mit 18 GB |
| Hosten | x86-Host |
| Mandantenmodell | Die GPU gehört Ihnen allein, solange Sie sie mieten, nie geteilt |
GPU-Werte von NVIDIA H200. GPUwerk veröffentlicht tok/s- und Trainingsdurchsatzwerte nur für Läufe auf eigener Hardware. Wie sie angegeben werden, zeigen die Flotten-Benchmarks der DGX Spark.
Was würden Sie darauf ausführen?
Die Rechenleistung der H100 mit 76 % mehr Speicher: größere Modelle auf einer GPU und mehr Platz für den KV-Cache.
Modelle der 70B-Klasse mit langem Kontext
Ein 70B-Modell in FP8 passt, und es bleiben etwa 70 GB für den KV-Cache, also längere Prompts und mehr gleichzeitige Anfragen.
Modelle bis etwa 140B in FP8
Gewichte, die zwei H100 brauchen, passen auf eine H200.
Fine-Tuning
Vollständige Fine-Tunes und LoRA-Läufe auf Modellen, die nicht in 80 GB passen.
Passt schlecht: natives FP4
Hopper hat kein FP4; für 4-Bit-Inference mit Blackwell-Tempo mieten Sie eine B200 oder B300.
Brauchen Sie mehrere über NVLink verbundene GPUs? Siehe den 8× H200-Server.
Was in 141 GB passt
Nur Gewichte: Speicher geteilt durch Byte pro Parameter. Lassen Sie Reserve für KV-Cache, Aktivierungen und die Runtime, oft 10 bis 30 % mehr.
| Präzision | Pro Parameter | Größtes Modell, nur Gewichte |
|---|---|---|
| FP16 / BF16 | 2 Byte | etwa 70B Parameter |
| FP8 | 1 Byte | etwa 141B Parameter |
| 4-Bit-quantisiert | 0,5 Byte | etwa 282B Parameter (kein natives FP4 auf Hopper; die Runtime dequantisiert) |
Abrechnung
| Satz | 3,49 $ pro Stunde, minutengenau abgerechnet |
|---|---|
| Abrechnung | Minutengenau, gegen ein Prepaid-Guthaben |
| Gebühren | Keine Gebühren für ausgehenden Datenverkehr |
| Bindung | Keine |
Preise in USD, zzgl. anfallender Steuern. Die vollständige Abrechnungslogik, einschließlich dessen, was Stoppen gegenüber Beenden bewirkt, steht auf der Preisseite.
FAQ
Kann ich jetzt eine H200 mieten?
Stellen Sie sie über die Konsole bereit, wenn Kapazität frei ist; solange keine frei ist, bietet die Konsole eine Warteliste an, und die Wartenden werden einzeln per E-Mail benachrichtigt, die ältesten zuerst. Kapazität wird für niemanden zurückgehalten: Wer zuerst bereitstellt, bekommt sie.
Wie funktioniert die Abrechnung bei diesem Tarif?
Wie bei jedem GPUwerk-Tarif: minutengenau, gegen ein Prepaid-Guthaben, in USD, zzgl. anfallender Steuern, ohne Gebühren für ausgehenden Datenverkehr und ohne Bindung.
Brauchen Sie GPU-Zeit noch heute?
Eine DGX Spark hat 128 GB Unified Memory und ist jetzt mietbar, für 0,79 $/Stunde, minutengenau abgerechnet. Erste Aufladung: Sie zahlen 20 $ und erhalten 30 $ Guthaben. Oder stellen Sie eine H200 bereit.