GPU Cloud

RTX PRO 6000, αποκλειστική.

Ένα μηχάνημα με μία GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, 96 GB GDDR7 με ECC στην αρχιτεκτονική Blackwell, σε host x86. 1,89 $ την ώρα, με χρέωση ανά λεπτό, με τους ίδιους όρους που ισχύουν και για κάθε άλλη βαθμίδα του GPUwerk.

Νοικιάζεται με σειρά προτεραιότητας: αναπτύξτε μια RTX PRO 6000 όταν υπάρχει ελεύθερη χωρητικότητα, ή μπείτε στη λίστα αναμονής της στην κονσόλα.

Προδιαγραφές

Ανά κόμβο. Κάθε instance του GPUwerk, σε οποιαδήποτε βαθμίδα, είναι ένα ολόκληρο μηχάνημα μόνο για εσάς.

NVIDIA RTX PRO 6000 Blackwell Server Edition
GPURTX PRO 6000 Blackwell Server Edition, αρχιτεκτονική Blackwell
Μνήμη96 GB GDDR7 με ECC
Εύρος ζώνης μνήμης1.597 GB/s
Πυρήνες CUDA24.064
Μέγιστη ισχύςΈως 600 W, ρυθμιζόμενο
MIGΈως 4 instances των 24 GB
ΟικοδεσπότηςHost x86
ΧρήσηΈνας πελάτης ανά μηχάνημα, ποτέ κοινόχρηστο

Στοιχεία GPU από το NVIDIA RTX PRO 6000 Blackwell Server Edition. Το GPUwerk δημοσιεύει tok/s και απόδοση εκπαίδευσης μόνο για εκτελέσεις στο δικό του υλικό. Δείτε τα benchmarks του στόλου DGX Spark για το πώς αναφέρονται.

Τι θα εκτελούσατε σε αυτό;

96 GB σε μία κάρτα, με Tensor Cores πέμπτης γενιάς που εκτελούν FP4.

Μοντέλα κατηγορίας 70B σε μία GPU

Ένα μοντέλο 70B σε FP8 χωρά στα 96 GB με λίγο χώρο για την KV cache, χωρίς να μοιραστεί σε πολλές GPU.

Inference σε FP4

Η Blackwell εκτελεί FP4 εγγενώς, οπότε ένα μοντέλο 4-bit έως περίπου 192B παραμέτρων χωρά μόνο με βάση τα βάρη.

Γραφικά και AI σε μία κάρτα

RT cores και μεγάλο frame buffer για rendering ή προσομοίωση δίπλα σε εργασία με μοντέλα.

Δεν ταιριάζει: εκπαίδευση με πολλές GPU

Δεν έχει NVLink, οπότε μια εργασία που χρειάζεται πολλές GPU να ανταλλάσσουν δεδομένα γρήγορα ανήκει σε server 8 GPU.

Αρκετές μικρότερες εργασίες

Το MIG χωρίζει την κάρτα σε έως τέσσερις απομονωμένες GPU των 24 GB, για εξυπηρέτηση περισσότερων από ένα μοντέλων ταυτόχρονα.

Τι χωρά στα 96 GB

Μόνο βάρη: μνήμη διαιρεμένη με byte ανά παράμετρο. Αφήστε περιθώριο για KV cache, activations και runtime, συχνά 10 έως 30% επιπλέον.

Μεγαλύτερο μοντέλο μόνο με βάση τα βάρη σε μία RTX PRO 6000
ΑκρίβειαΑνά παράμετροΜεγαλύτερο μοντέλο, μόνο βάρη
FP16 / BF162 byteπερίπου 48B παράμετροι
FP81 byteπερίπου 96B παράμετροι
FP4 (εγγενώς στη Blackwell)0,5 byteπερίπου 192B παράμετροι

Χρέωση

Τιμή1,89 $ την ώρα, με χρέωση ανά λεπτό
ΧρέωσηΑνά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης
ΧρεώσειςΧωρίς χρεώσεις εξερχόμενης κίνησης
ΔέσμευσηΚανένα

Οι τιμές είναι σε USD, χωρίς τους ισχύοντες φόρους. Όλος ο μηχανισμός χρέωσης, μαζί με το τι κάνει η διακοπή σε σχέση με τον τερματισμό, βρίσκεται στη σελίδα τιμών.

Συχνές ερωτήσεις

Μπορώ να νοικιάσω RTX PRO 6000 τώρα;

Αναπτύξτε το από την κονσόλα όταν υπάρχει ελεύθερη χωρητικότητα· όσο δεν υπάρχει, η κονσόλα προσφέρει λίστα αναμονής και όσοι περιμένουν ειδοποιούνται με email ένας-ένας, με σειρά προτεραιότητας. Η χωρητικότητα δεν κρατιέται για κανέναν: όποιος κάνει πρώτος ανάπτυξη την παίρνει.

Πώς λειτουργεί η χρέωση σε αυτή τη βαθμίδα;

Όπως κάθε βαθμίδα του GPUwerk: ανά λεπτό, από προπληρωμένο υπόλοιπο πίστωσης, σε USD, χωρίς τους ισχύοντες φόρους, χωρίς χρεώσεις εξερχόμενης κίνησης και χωρίς δέσμευση.

Χρειάζεστε χρόνο GPU σήμερα;

Ένα DGX Spark έχει 128 GB ενοποιημένης μνήμης και είναι διαθέσιμο για ενοικίαση τώρα, με 0,79 $/ώρα και χρέωση ανά λεπτό. Πρώτη ανανέωση υπολοίπου: πληρώνετε 20 $, παίρνετε 30 $ σε πίστωση. Δείτε πώς συγκρίνεται ένα DGX Spark, ή μπείτε στη λίστα αναμονής για RTX PRO 6000.