GPU Cloud

B300, αποκλειστική.

Μία GPU NVIDIA B300, 288 GB HBM3e στην αρχιτεκτονική Blackwell Ultra, σε host x86. 6,49 $ την ώρα, με χρέωση ανά λεπτό, με τους ίδιους όρους που ισχύουν και για κάθε άλλη βαθμίδα του GPUwerk.

Νοικιάζεται με σειρά προτεραιότητας: αναπτύξτε μια B300 όταν υπάρχει ελεύθερη χωρητικότητα, ή μπείτε στη λίστα αναμονής της στην κονσόλα.

Προδιαγραφές

Ανά GPU. Η GPU και η μνήμη της είναι μόνο δικές σας για την ενοικίαση.

NVIDIA B300
GPUB300, αρχιτεκτονική Blackwell Ultra
Μνήμη288 GB HBM3e
Εύρος ζώνης μνήμης8 TB/s
ΑκρίβειαFP4 και FP8 με τη Transformer Engine δεύτερης γενιάς
ΟικοδεσπότηςHost x86
ΧρήσηΗ GPU είναι μόνο δική σας όσο τη νοικιάζετε, ποτέ κοινόχρηστη

Στοιχεία GPU από το NVIDIA HGX. Το GPUwerk δημοσιεύει tok/s και απόδοση εκπαίδευσης μόνο για εκτελέσεις στο δικό του υλικό. Δείτε τα benchmarks του στόλου DGX Spark για το πώς αναφέρονται.

Τι θα εκτελούσατε σε αυτό;

Blackwell Ultra με 288 GB ανά GPU: η περισσότερη μνήμη σε μία GPU στον κατάλογο του GPUwerk.

Τα μεγαλύτερα μοντέλα σε μία GPU

Έως περίπου 288B παραμέτρους σε FP8, ή περίπου 576B σε FP4, μόνο με βάση τα βάρη, σε μία GPU.

Συλλογισμός και μεγάλο context

Μνήμη για τις μεγάλες KV caches που δημιουργούν τα μοντέλα συλλογισμού και τα πολύ μεγάλα prompts.

Εκπαίδευση περιορισμένη από τη μνήμη

Fine-tuning και εκπαιδεύσεις που εξαντλούν τη μνήμη σε μια B200.

Δεν ταιριάζει: μικρά ή μεσαίου μεγέθους μοντέλα

Ένα μοντέλο που χωρά σε 80 έως 141 GB κοστίζει λιγότερο την ώρα σε H100 ή H200.

Χρειάζεστε και τις οκτώ GPU ενός server; Δείτε τον server 8× B300.

Τι χωρά στα 288 GB

Μόνο βάρη: μνήμη διαιρεμένη με byte ανά παράμετρο. Αφήστε περιθώριο για KV cache, activations και runtime, συχνά 10 έως 30% επιπλέον.

Μεγαλύτερο μοντέλο μόνο με βάση τα βάρη σε μία B300
ΑκρίβειαΑνά παράμετροΜεγαλύτερο μοντέλο, μόνο βάρη
FP16 / BF162 byteπερίπου 144B παράμετροι
FP81 byteπερίπου 288B παράμετροι
FP4 (εγγενώς στη Blackwell Ultra)0,5 byteπερίπου 576B παράμετροι

Χρέωση

Τιμή6,49 $ την ώρα, με χρέωση ανά λεπτό
ΧρέωσηΑνά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης
ΧρεώσειςΧωρίς χρεώσεις εξερχόμενης κίνησης
ΔέσμευσηΚανένα

Οι τιμές είναι σε USD, χωρίς τους ισχύοντες φόρους. Όλος ο μηχανισμός χρέωσης, μαζί με το τι κάνει η διακοπή σε σχέση με τον τερματισμό, βρίσκεται στη σελίδα τιμών.

Συχνές ερωτήσεις

Μπορώ να νοικιάσω B300 τώρα;

Αναπτύξτε το από την κονσόλα όταν υπάρχει ελεύθερη χωρητικότητα· όσο δεν υπάρχει, η κονσόλα προσφέρει λίστα αναμονής και όσοι περιμένουν ειδοποιούνται με email ένας-ένας, με σειρά προτεραιότητας. Η χωρητικότητα δεν κρατιέται για κανέναν: όποιος κάνει πρώτος ανάπτυξη την παίρνει.

Πώς λειτουργεί η χρέωση σε αυτή τη βαθμίδα;

Όπως κάθε βαθμίδα του GPUwerk: ανά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης, σε USD, χωρίς τους ισχύοντες φόρους, χωρίς χρεώσεις εξερχόμενης κίνησης και χωρίς δέσμευση.

Χρειάζεστε χρόνο GPU σήμερα;

Ένα DGX Spark έχει 128 GB ενοποιημένης μνήμης και είναι διαθέσιμο για ενοικίαση τώρα, με 0,79 $/ώρα και χρέωση ανά λεπτό. Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση. Ή αναπτύξτε μια B300.