GPU Cloud

B200, αποκλειστική.

Μία GPU NVIDIA B200, 180 GB HBM3e στην αρχιτεκτονική Blackwell, σε host x86. 5,49 $ την ώρα, με χρέωση ανά λεπτό, με τους ίδιους όρους που ισχύουν και για κάθε άλλη βαθμίδα του GPUwerk.

Νοικιάζεται με σειρά προτεραιότητας: αναπτύξτε μια B200 όταν υπάρχει ελεύθερη χωρητικότητα, ή μπείτε στη λίστα αναμονής της στην κονσόλα.

Προδιαγραφές

Ανά GPU. Η GPU και η μνήμη της είναι μόνο δικές σας για την ενοικίαση.

NVIDIA B200
GPUB200, αρχιτεκτονική Blackwell
Μνήμη180 GB HBM3e
Εύρος ζώνης μνήμης8 TB/s
ΑκρίβειαFP4 και FP8 με τη Transformer Engine δεύτερης γενιάς
ΟικοδεσπότηςHost x86
ΧρήσηΗ GPU είναι μόνο δική σας όσο τη νοικιάζετε, ποτέ κοινόχρηστη

Στοιχεία GPU από το NVIDIA DGX B200. Το GPUwerk δημοσιεύει tok/s και απόδοση εκπαίδευσης μόνο για εκτελέσεις στο δικό του υλικό. Δείτε τα benchmarks του στόλου DGX Spark για το πώς αναφέρονται.

Τι θα εκτελούσατε σε αυτό;

Blackwell με 180 GB ανά GPU και υποστήριξη FP4: το βήμα πάνω από τη Hopper για εκπαίδευση και inference μεγάλων μοντέλων.

Inference σε FP4 και FP8

Το εγγενές FP4 χωρά μοντέλο έως περίπου 360B παραμέτρων μόνο με βάση τα βάρη· το FP8 έως περίπου 180B.

Εκπαίδευση και fine-tuning

Εκτελέσεις που χρειάζονται περισσότερη μνήμη και εύρος ζώνης ανά GPU από όσα προσφέρει η Hopper.

Μία GPU αντί για δύο

Μοντέλα που αλλιώς θα μοιράζονταν σε δύο H100 ή H200.

Δεν ταιριάζει: μικρά μοντέλα

Ένα μοντέλο που χωρά σε 24 ή 48 GB εκτελείται σε L4 ή L40S με ένα κλάσμα της ωριαίας τιμής.

Χρειάζεστε και τις οκτώ GPU ενός server; Δείτε τον server 8× B200.

Τι χωρά στα 180 GB

Μόνο βάρη: μνήμη διαιρεμένη με byte ανά παράμετρο. Αφήστε περιθώριο για KV cache, activations και runtime, συχνά 10 έως 30% επιπλέον.

Μεγαλύτερο μοντέλο μόνο με βάση τα βάρη σε μία B200
ΑκρίβειαΑνά παράμετροΜεγαλύτερο μοντέλο, μόνο βάρη
FP16 / BF162 byteπερίπου 90B παράμετροι
FP81 byteπερίπου 180B παράμετροι
FP4 (εγγενώς στη Blackwell)0,5 byteπερίπου 360B παράμετροι

Χρέωση

Τιμή5,49 $ την ώρα, με χρέωση ανά λεπτό
ΧρέωσηΑνά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης
ΧρεώσειςΧωρίς χρεώσεις εξερχόμενης κίνησης
ΔέσμευσηΚανένα

Οι τιμές είναι σε USD, χωρίς τους ισχύοντες φόρους. Όλος ο μηχανισμός χρέωσης, μαζί με το τι κάνει η διακοπή σε σχέση με τον τερματισμό, βρίσκεται στη σελίδα τιμών.

Συχνές ερωτήσεις

Μπορώ να νοικιάσω B200 τώρα;

Αναπτύξτε το από την κονσόλα όταν υπάρχει ελεύθερη χωρητικότητα· όσο δεν υπάρχει, η κονσόλα προσφέρει λίστα αναμονής και όσοι περιμένουν ειδοποιούνται με email ένας-ένας, με σειρά προτεραιότητας. Η χωρητικότητα δεν κρατιέται για κανέναν: όποιος κάνει πρώτος ανάπτυξη την παίρνει.

Πώς λειτουργεί η χρέωση σε αυτή τη βαθμίδα;

Όπως κάθε βαθμίδα του GPUwerk: ανά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης, σε USD, χωρίς τους ισχύοντες φόρους, χωρίς χρεώσεις εξερχόμενης κίνησης και χωρίς δέσμευση.

Χρειάζεστε χρόνο GPU σήμερα;

Ένα DGX Spark έχει 128 GB ενοποιημένης μνήμης και είναι διαθέσιμο για ενοικίαση τώρα, με 0,79 $/ώρα και χρέωση ανά λεπτό. Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση. Ή αναπτύξτε μια B200.