GPU Cloud
B200, αποκλειστική.
Μία GPU NVIDIA B200, 180 GB HBM3e στην αρχιτεκτονική Blackwell, σε host x86. 5,49 $ την ώρα, με χρέωση ανά λεπτό, με τους ίδιους όρους που ισχύουν και για κάθε άλλη βαθμίδα του GPUwerk.
Νοικιάζεται με σειρά προτεραιότητας: αναπτύξτε μια B200 όταν υπάρχει ελεύθερη χωρητικότητα, ή μπείτε στη λίστα αναμονής της στην κονσόλα.
Προδιαγραφές
Ανά GPU. Η GPU και η μνήμη της είναι μόνο δικές σας για την ενοικίαση.
| GPU | B200, αρχιτεκτονική Blackwell |
|---|---|
| Μνήμη | 180 GB HBM3e |
| Εύρος ζώνης μνήμης | 8 TB/s |
| Ακρίβεια | FP4 και FP8 με τη Transformer Engine δεύτερης γενιάς |
| Οικοδεσπότης | Host x86 |
| Χρήση | Η GPU είναι μόνο δική σας όσο τη νοικιάζετε, ποτέ κοινόχρηστη |
Στοιχεία GPU από το NVIDIA DGX B200. Το GPUwerk δημοσιεύει tok/s και απόδοση εκπαίδευσης μόνο για εκτελέσεις στο δικό του υλικό. Δείτε τα benchmarks του στόλου DGX Spark για το πώς αναφέρονται.
Τι θα εκτελούσατε σε αυτό;
Blackwell με 180 GB ανά GPU και υποστήριξη FP4: το βήμα πάνω από τη Hopper για εκπαίδευση και inference μεγάλων μοντέλων.
Inference σε FP4 και FP8
Το εγγενές FP4 χωρά μοντέλο έως περίπου 360B παραμέτρων μόνο με βάση τα βάρη· το FP8 έως περίπου 180B.
Εκπαίδευση και fine-tuning
Εκτελέσεις που χρειάζονται περισσότερη μνήμη και εύρος ζώνης ανά GPU από όσα προσφέρει η Hopper.
Μία GPU αντί για δύο
Μοντέλα που αλλιώς θα μοιράζονταν σε δύο H100 ή H200.
Δεν ταιριάζει: μικρά μοντέλα
Ένα μοντέλο που χωρά σε 24 ή 48 GB εκτελείται σε L4 ή L40S με ένα κλάσμα της ωριαίας τιμής.
Χρειάζεστε και τις οκτώ GPU ενός server; Δείτε τον server 8× B200.
Τι χωρά στα 180 GB
Μόνο βάρη: μνήμη διαιρεμένη με byte ανά παράμετρο. Αφήστε περιθώριο για KV cache, activations και runtime, συχνά 10 έως 30% επιπλέον.
| Ακρίβεια | Ανά παράμετρο | Μεγαλύτερο μοντέλο, μόνο βάρη |
|---|---|---|
| FP16 / BF16 | 2 byte | περίπου 90B παράμετροι |
| FP8 | 1 byte | περίπου 180B παράμετροι |
| FP4 (εγγενώς στη Blackwell) | 0,5 byte | περίπου 360B παράμετροι |
Χρέωση
| Τιμή | 5,49 $ την ώρα, με χρέωση ανά λεπτό |
|---|---|
| Χρέωση | Ανά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης |
| Χρεώσεις | Χωρίς χρεώσεις εξερχόμενης κίνησης |
| Δέσμευση | Κανένα |
Οι τιμές είναι σε USD, χωρίς τους ισχύοντες φόρους. Όλος ο μηχανισμός χρέωσης, μαζί με το τι κάνει η διακοπή σε σχέση με τον τερματισμό, βρίσκεται στη σελίδα τιμών.
Συχνές ερωτήσεις
Μπορώ να νοικιάσω B200 τώρα;
Αναπτύξτε το από την κονσόλα όταν υπάρχει ελεύθερη χωρητικότητα· όσο δεν υπάρχει, η κονσόλα προσφέρει λίστα αναμονής και όσοι περιμένουν ειδοποιούνται με email ένας-ένας, με σειρά προτεραιότητας. Η χωρητικότητα δεν κρατιέται για κανέναν: όποιος κάνει πρώτος ανάπτυξη την παίρνει.
Πώς λειτουργεί η χρέωση σε αυτή τη βαθμίδα;
Όπως κάθε βαθμίδα του GPUwerk: ανά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης, σε USD, χωρίς τους ισχύοντες φόρους, χωρίς χρεώσεις εξερχόμενης κίνησης και χωρίς δέσμευση.
Χρειάζεστε χρόνο GPU σήμερα;
Ένα DGX Spark έχει 128 GB ενοποιημένης μνήμης και είναι διαθέσιμο για ενοικίαση τώρα, με 0,79 $/ώρα και χρέωση ανά λεπτό. Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση. Ή αναπτύξτε μια B200.