GPU Cloud

H200, αποκλειστική.

Μία GPU NVIDIA H200, 141 GB HBM3e στην αρχιτεκτονική Hopper, σε host x86. 3,49 $ την ώρα, με χρέωση ανά λεπτό, με τους ίδιους όρους που ισχύουν και για κάθε άλλη βαθμίδα του GPUwerk.

Νοικιάζεται με σειρά προτεραιότητας: αναπτύξτε μια H200 όταν υπάρχει ελεύθερη χωρητικότητα, ή μπείτε στη λίστα αναμονής της στην κονσόλα.

Προδιαγραφές

Ανά GPU. Η GPU και η μνήμη της είναι μόνο δικές σας για την ενοικίαση.

NVIDIA H200
GPUH200 SXM, αρχιτεκτονική Hopper
Μνήμη141 GB HBM3e
Εύρος ζώνης μνήμης4,8 TB/s
Μέγιστη ισχύςΈως 700 W
MIGΈως 7 instances των 18 GB
ΟικοδεσπότηςHost x86
ΧρήσηΗ GPU είναι μόνο δική σας όσο τη νοικιάζετε, ποτέ κοινόχρηστη

Στοιχεία GPU από το NVIDIA H200. Το GPUwerk δημοσιεύει tok/s και απόδοση εκπαίδευσης μόνο για εκτελέσεις στο δικό του υλικό. Δείτε τα benchmarks του στόλου DGX Spark για το πώς αναφέρονται.

Τι θα εκτελούσατε σε αυτό;

Η υπολογιστική ισχύς της H100 με 76% περισσότερη μνήμη: μεγαλύτερα μοντέλα σε μία GPU και περισσότερος χώρος για την KV cache.

Μοντέλα κατηγορίας 70B με μεγάλο context

Ένα μοντέλο 70B σε FP8 χωρά με περίπου 70 GB να απομένουν για την KV cache, άρα μεγαλύτερα prompts και περισσότερα ταυτόχρονα αιτήματα.

Μοντέλα έως περίπου 140B σε FP8

Βάρη που χρειάζονται δύο H100 χωράνε σε μία H200.

Fine-tuning

Πλήρη fine-tunes και εκτελέσεις LoRA σε μοντέλα που δεν χωράνε στα 80 GB.

Δεν ταιριάζει: εγγενές FP4

Η Hopper δεν έχει FP4· για inference 4-bit με ταχύτητα Blackwell, νοικιάστε B200 ή B300.

Χρειάζεστε πολλές GPU συνδεδεμένες με NVLink; Δείτε τον server 8× H200.

Τι χωρά στα 141 GB

Μόνο βάρη: μνήμη διαιρεμένη με byte ανά παράμετρο. Αφήστε περιθώριο για KV cache, activations και runtime, συχνά 10 έως 30% επιπλέον.

Μεγαλύτερο μοντέλο μόνο με βάση τα βάρη σε μία H200
ΑκρίβειαΑνά παράμετροΜεγαλύτερο μοντέλο, μόνο βάρη
FP16 / BF162 byteπερίπου 70B παράμετροι
FP81 byteπερίπου 141B παράμετροι
Quantized σε 4-bit0,5 byteπερίπου 282B παράμετροι (χωρίς εγγενές FP4 στο Hopper· το runtime κάνει αποκβαντοποίηση)

Χρέωση

Τιμή3,49 $ την ώρα, με χρέωση ανά λεπτό
ΧρέωσηΑνά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης
ΧρεώσειςΧωρίς χρεώσεις εξερχόμενης κίνησης
ΔέσμευσηΚανένα

Οι τιμές είναι σε USD, χωρίς τους ισχύοντες φόρους. Όλος ο μηχανισμός χρέωσης, μαζί με το τι κάνει η διακοπή σε σχέση με τον τερματισμό, βρίσκεται στη σελίδα τιμών.

Συχνές ερωτήσεις

Μπορώ να νοικιάσω H200 τώρα;

Αναπτύξτε το από την κονσόλα όταν υπάρχει ελεύθερη χωρητικότητα· όσο δεν υπάρχει, η κονσόλα προσφέρει λίστα αναμονής και όσοι περιμένουν ειδοποιούνται με email ένας-ένας, με σειρά προτεραιότητας. Η χωρητικότητα δεν κρατιέται για κανέναν: όποιος κάνει πρώτος ανάπτυξη την παίρνει.

Πώς λειτουργεί η χρέωση σε αυτή τη βαθμίδα;

Όπως κάθε βαθμίδα του GPUwerk: ανά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης, σε USD, χωρίς τους ισχύοντες φόρους, χωρίς χρεώσεις εξερχόμενης κίνησης και χωρίς δέσμευση.

Χρειάζεστε χρόνο GPU σήμερα;

Ένα DGX Spark έχει 128 GB ενοποιημένης μνήμης και είναι διαθέσιμο για ενοικίαση τώρα, με 0,79 $/ώρα και χρέωση ανά λεπτό. Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση. Ή αναπτύξτε μια H200.