GPU Cloud
RTX PRO 6000, αποκλειστική.
Ένα μηχάνημα με μία GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, 96 GB GDDR7 με ECC στην αρχιτεκτονική Blackwell, σε host x86. 1,89 $ την ώρα, με χρέωση ανά λεπτό, με τους ίδιους όρους που ισχύουν και για κάθε άλλη βαθμίδα του GPUwerk.
Νοικιάζεται με σειρά προτεραιότητας: αναπτύξτε μια RTX PRO 6000 όταν υπάρχει ελεύθερη χωρητικότητα, ή μπείτε στη λίστα αναμονής της στην κονσόλα.
Προδιαγραφές
Ανά κόμβο. Κάθε instance του GPUwerk, σε οποιαδήποτε βαθμίδα, είναι ένα ολόκληρο μηχάνημα μόνο για εσάς.
| GPU | RTX PRO 6000 Blackwell Server Edition, αρχιτεκτονική Blackwell |
|---|---|
| Μνήμη | 96 GB GDDR7 με ECC |
| Εύρος ζώνης μνήμης | 1.597 GB/s |
| Πυρήνες CUDA | 24.064 |
| Μέγιστη ισχύς | Έως 600 W, ρυθμιζόμενο |
| MIG | Έως 4 instances των 24 GB |
| Οικοδεσπότης | Host x86 |
| Χρήση | Ένας πελάτης ανά μηχάνημα, ποτέ κοινόχρηστο |
Στοιχεία GPU από το NVIDIA RTX PRO 6000 Blackwell Server Edition. Το GPUwerk δημοσιεύει tok/s και απόδοση εκπαίδευσης μόνο για εκτελέσεις στο δικό του υλικό. Δείτε τα benchmarks του στόλου DGX Spark για το πώς αναφέρονται.
Τι θα εκτελούσατε σε αυτό;
96 GB σε μία κάρτα, με Tensor Cores πέμπτης γενιάς που εκτελούν FP4.
Μοντέλα κατηγορίας 70B σε μία GPU
Ένα μοντέλο 70B σε FP8 χωρά στα 96 GB με λίγο χώρο για την KV cache, χωρίς να μοιραστεί σε πολλές GPU.
Inference σε FP4
Η Blackwell εκτελεί FP4 εγγενώς, οπότε ένα μοντέλο 4-bit έως περίπου 192B παραμέτρων χωρά μόνο με βάση τα βάρη.
Γραφικά και AI σε μία κάρτα
RT cores και μεγάλο frame buffer για rendering ή προσομοίωση δίπλα σε εργασία με μοντέλα.
Δεν ταιριάζει: εκπαίδευση με πολλές GPU
Δεν έχει NVLink, οπότε μια εργασία που χρειάζεται πολλές GPU να ανταλλάσσουν δεδομένα γρήγορα ανήκει σε server 8 GPU.
Αρκετές μικρότερες εργασίες
Το MIG χωρίζει την κάρτα σε έως τέσσερις απομονωμένες GPU των 24 GB, για εξυπηρέτηση περισσότερων από ένα μοντέλων ταυτόχρονα.
Τι χωρά στα 96 GB
Μόνο βάρη: μνήμη διαιρεμένη με byte ανά παράμετρο. Αφήστε περιθώριο για KV cache, activations και runtime, συχνά 10 έως 30% επιπλέον.
| Ακρίβεια | Ανά παράμετρο | Μεγαλύτερο μοντέλο, μόνο βάρη |
|---|---|---|
| FP16 / BF16 | 2 byte | περίπου 48B παράμετροι |
| FP8 | 1 byte | περίπου 96B παράμετροι |
| FP4 (εγγενώς στη Blackwell) | 0,5 byte | περίπου 192B παράμετροι |
Χρέωση
| Τιμή | 1,89 $ την ώρα, με χρέωση ανά λεπτό |
|---|---|
| Χρέωση | Ανά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης |
| Χρεώσεις | Χωρίς χρεώσεις εξερχόμενης κίνησης |
| Δέσμευση | Κανένα |
Οι τιμές είναι σε USD, χωρίς τους ισχύοντες φόρους. Όλος ο μηχανισμός χρέωσης, μαζί με το τι κάνει η διακοπή σε σχέση με τον τερματισμό, βρίσκεται στη σελίδα τιμών.
Συχνές ερωτήσεις
Μπορώ να νοικιάσω RTX PRO 6000 τώρα;
Αναπτύξτε το από την κονσόλα όταν υπάρχει ελεύθερη χωρητικότητα· όσο δεν υπάρχει, η κονσόλα προσφέρει λίστα αναμονής και όσοι περιμένουν ειδοποιούνται με email ένας-ένας, με σειρά προτεραιότητας. Η χωρητικότητα δεν κρατιέται για κανέναν: όποιος κάνει πρώτος ανάπτυξη την παίρνει.
Πώς λειτουργεί η χρέωση σε αυτή τη βαθμίδα;
Όπως κάθε βαθμίδα του GPUwerk: ανά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης, σε USD, χωρίς τους ισχύοντες φόρους, χωρίς χρεώσεις εξερχόμενης κίνησης και χωρίς δέσμευση.
Χρειάζεστε χρόνο GPU σήμερα;
Ένα DGX Spark έχει 128 GB ενοποιημένης μνήμης και είναι διαθέσιμο για ενοικίαση τώρα, με 0,79 $/ώρα και χρέωση ανά λεπτό. Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση. Δείτε πώς συγκρίνεται ένα DGX Spark, ή μπείτε στη λίστα αναμονής για RTX PRO 6000.