GPU mākonis
B300, tikai jums.
Viens NVIDIA B300 GPU, 288 GB HBM3e ar Blackwell Ultra arhitektūru, x86 resursdatorā. 6,49 $ stundā, maksa par katru minūti, ar tādiem pašiem noteikumiem kā visiem citiem GPUwerk līmeņiem.
Tiek iznomāts rindas kārtībā: izvietojiet B300, kad ir brīva jauda, vai pievienojieties tā gaidīšanas sarakstam konsolē.
Specifikācijas
Par GPU. Nomas laikā GPU un tā atmiņa pieder tikai jums.
| GPU | B300, Blackwell Ultra arhitektūra |
|---|---|
| Atmiņa | 288 GB HBM3e |
| Atmiņas joslas platums | 8 TB/s |
| Precizitāte | FP4 un FP8 ar otrās paaudzes Transformer Engine |
| Mitināt | x86 resursdators |
| Nomas modelis | Kamēr to nomājat, GPU pieder tikai jums, tas nekad netiek koplietots |
GPU skaitļi no NVIDIA HGX. GPUwerk publicē tok/s un apmācības caurlaidspējas skaitļus tikai mērījumiem savā aparatūrā. Kā tie tiek ziņoti, skatiet DGX Spark flotes etalontestos.
Ko jūs tajā darbinātu?
Blackwell Ultra ar 288 GB uz GPU: visvairāk atmiņas vienā GPU GPUwerk katalogā.
Lielākie viena GPU modeļi
Līdz aptuveni 288B parametriem ar FP8 vai aptuveni 576B ar FP4, ņemot vērā tikai svarus, vienā GPU.
Spriešana un garš konteksts
Atmiņa garajām KV kešatmiņām, ko veido spriešanas modeļi un ļoti gari prompti.
Atmiņas ierobežota apmācība
Pielāgošana un apmācības izpildes, kurām nepietiek atmiņas uz B200.
Nav piemērots: mazi vai vidēja izmēra modeļi
Modelis, kas ietilpst 80 līdz 141 GB, stundā izmaksā mazāk uz H100 vai H200.
Vajag visus astoņus viena servera GPU? Skatiet 8× B300 serveri.
Kas ietilpst 288 GB
Tikai svari: atmiņa, dalīta ar baitiem uz parametru. Atstājiet rezervi KV kešatmiņai, aktivācijām un izpildvidei, bieži par 10 līdz 30% vairāk.
| Precizitāte | Uz parametru | Lielākais modelis, tikai svari |
|---|---|---|
| FP16 / BF16 | 2 baiti | aptuveni 144B parametri |
| FP8 | 1 baits | aptuveni 288B parametri |
| FP4 (aparatūras atbalsts Blackwell Ultra) | 0,5 baita | aptuveni 576B parametri |
Norēķini
| Likme | 6,49 $ stundā, maksa par katru minūti |
|---|---|
| Norēķini | Par katru minūti no priekšapmaksas kredīta atlikuma |
| Maksas | Bez maksas par izejošo datplūsmu |
| Saistības | Nav |
Cenas norādītas USD bez piemērojamiem nodokļiem. Pilns norēķinu mehānisms, ieskaitot to, ko dara apturēšana un ko izbeigšana, ir cenu lapā.
BUJ
Vai B300 var nomāt jau tagad?
Izvietojiet to no konsoles, kad ir brīva jauda; kamēr tādas nav, konsole piedāvā gaidīšanas sarakstu, un rindā esošajiem tiek nosūtīts e-pasts pa vienam, sākot ar senākajiem. Jauda netiek nevienam turēta: to saņem tas, kurš izvieto pirmais.
Kā šajā līmenī darbojas norēķini?
Tāpat kā visos GPUwerk līmeņos: par katru minūti no priekšapmaksas kredīta atlikuma, USD, bez piemērojamiem nodokļiem, bez maksas par izejošo datplūsmu un bez saistībām.
Vajag GPU laiku šodien?
DGX Spark ir 128 GB vienotās atmiņas, un to var nomāt jau tagad par 0,79 $/stundā, maksa par katru minūti. Pirmā papildināšana: samaksājiet 20 $, saņemiet 30 $ kredītā. Vai izvietojiet B300.