GPU Cloud
B300, αποκλειστική.
Μία GPU NVIDIA B300, 288 GB HBM3e στην αρχιτεκτονική Blackwell Ultra, σε host x86. 6,49 $ την ώρα, με χρέωση ανά λεπτό, με τους ίδιους όρους που ισχύουν και για κάθε άλλη βαθμίδα του GPUwerk.
Νοικιάζεται με σειρά προτεραιότητας: αναπτύξτε μια B300 όταν υπάρχει ελεύθερη χωρητικότητα, ή μπείτε στη λίστα αναμονής της στην κονσόλα.
Προδιαγραφές
Ανά GPU. Η GPU και η μνήμη της είναι μόνο δικές σας για την ενοικίαση.
| GPU | B300, αρχιτεκτονική Blackwell Ultra |
|---|---|
| Μνήμη | 288 GB HBM3e |
| Εύρος ζώνης μνήμης | 8 TB/s |
| Ακρίβεια | FP4 και FP8 με τη Transformer Engine δεύτερης γενιάς |
| Οικοδεσπότης | Host x86 |
| Χρήση | Η GPU είναι μόνο δική σας όσο τη νοικιάζετε, ποτέ κοινόχρηστη |
Στοιχεία GPU από το NVIDIA HGX. Το GPUwerk δημοσιεύει tok/s και απόδοση εκπαίδευσης μόνο για εκτελέσεις στο δικό του υλικό. Δείτε τα benchmarks του στόλου DGX Spark για το πώς αναφέρονται.
Τι θα εκτελούσατε σε αυτό;
Blackwell Ultra με 288 GB ανά GPU: η περισσότερη μνήμη σε μία GPU στον κατάλογο του GPUwerk.
Τα μεγαλύτερα μοντέλα σε μία GPU
Έως περίπου 288B παραμέτρους σε FP8, ή περίπου 576B σε FP4, μόνο με βάση τα βάρη, σε μία GPU.
Συλλογισμός και μεγάλο context
Μνήμη για τις μεγάλες KV caches που δημιουργούν τα μοντέλα συλλογισμού και τα πολύ μεγάλα prompts.
Εκπαίδευση περιορισμένη από τη μνήμη
Fine-tuning και εκπαιδεύσεις που εξαντλούν τη μνήμη σε μια B200.
Δεν ταιριάζει: μικρά ή μεσαίου μεγέθους μοντέλα
Ένα μοντέλο που χωρά σε 80 έως 141 GB κοστίζει λιγότερο την ώρα σε H100 ή H200.
Χρειάζεστε και τις οκτώ GPU ενός server; Δείτε τον server 8× B300.
Τι χωρά στα 288 GB
Μόνο βάρη: μνήμη διαιρεμένη με byte ανά παράμετρο. Αφήστε περιθώριο για KV cache, activations και runtime, συχνά 10 έως 30% επιπλέον.
| Ακρίβεια | Ανά παράμετρο | Μεγαλύτερο μοντέλο, μόνο βάρη |
|---|---|---|
| FP16 / BF16 | 2 byte | περίπου 144B παράμετροι |
| FP8 | 1 byte | περίπου 288B παράμετροι |
| FP4 (εγγενώς στη Blackwell Ultra) | 0,5 byte | περίπου 576B παράμετροι |
Χρέωση
| Τιμή | 6,49 $ την ώρα, με χρέωση ανά λεπτό |
|---|---|
| Χρέωση | Ανά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης |
| Χρεώσεις | Χωρίς χρεώσεις εξερχόμενης κίνησης |
| Δέσμευση | Κανένα |
Οι τιμές είναι σε USD, χωρίς τους ισχύοντες φόρους. Όλος ο μηχανισμός χρέωσης, μαζί με το τι κάνει η διακοπή σε σχέση με τον τερματισμό, βρίσκεται στη σελίδα τιμών.
Συχνές ερωτήσεις
Μπορώ να νοικιάσω B300 τώρα;
Αναπτύξτε το από την κονσόλα όταν υπάρχει ελεύθερη χωρητικότητα· όσο δεν υπάρχει, η κονσόλα προσφέρει λίστα αναμονής και όσοι περιμένουν ειδοποιούνται με email ένας-ένας, με σειρά προτεραιότητας. Η χωρητικότητα δεν κρατιέται για κανέναν: όποιος κάνει πρώτος ανάπτυξη την παίρνει.
Πώς λειτουργεί η χρέωση σε αυτή τη βαθμίδα;
Όπως κάθε βαθμίδα του GPUwerk: ανά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης, σε USD, χωρίς τους ισχύοντες φόρους, χωρίς χρεώσεις εξερχόμενης κίνησης και χωρίς δέσμευση.
Χρειάζεστε χρόνο GPU σήμερα;
Ένα DGX Spark έχει 128 GB ενοποιημένης μνήμης και είναι διαθέσιμο για ενοικίαση τώρα, με 0,79 $/ώρα και χρέωση ανά λεπτό. Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση. Ή αναπτύξτε μια B300.