GPU mākonis

B300, tikai jums.

Viens NVIDIA B300 GPU, 288 GB HBM3e ar Blackwell Ultra arhitektūru, x86 resursdatorā. 6,49 $ stundā, maksa par katru minūti, ar tādiem pašiem noteikumiem kā visiem citiem GPUwerk līmeņiem.

Tiek iznomāts rindas kārtībā: izvietojiet B300, kad ir brīva jauda, vai pievienojieties tā gaidīšanas sarakstam konsolē.

Specifikācijas

Par GPU. Nomas laikā GPU un tā atmiņa pieder tikai jums.

NVIDIA B300
GPUB300, Blackwell Ultra arhitektūra
Atmiņa288 GB HBM3e
Atmiņas joslas platums8 TB/s
PrecizitāteFP4 un FP8 ar otrās paaudzes Transformer Engine
Mitinātx86 resursdators
Nomas modelisKamēr to nomājat, GPU pieder tikai jums, tas nekad netiek koplietots

GPU skaitļi no NVIDIA HGX. GPUwerk publicē tok/s un apmācības caurlaidspējas skaitļus tikai mērījumiem savā aparatūrā. Kā tie tiek ziņoti, skatiet DGX Spark flotes etalontestos.

Ko jūs tajā darbinātu?

Blackwell Ultra ar 288 GB uz GPU: visvairāk atmiņas vienā GPU GPUwerk katalogā.

Lielākie viena GPU modeļi

Līdz aptuveni 288B parametriem ar FP8 vai aptuveni 576B ar FP4, ņemot vērā tikai svarus, vienā GPU.

Spriešana un garš konteksts

Atmiņa garajām KV kešatmiņām, ko veido spriešanas modeļi un ļoti gari prompti.

Atmiņas ierobežota apmācība

Pielāgošana un apmācības izpildes, kurām nepietiek atmiņas uz B200.

Nav piemērots: mazi vai vidēja izmēra modeļi

Modelis, kas ietilpst 80 līdz 141 GB, stundā izmaksā mazāk uz H100 vai H200.

Vajag visus astoņus viena servera GPU? Skatiet 8× B300 serveri.

Kas ietilpst 288 GB

Tikai svari: atmiņa, dalīta ar baitiem uz parametru. Atstājiet rezervi KV kešatmiņai, aktivācijām un izpildvidei, bieži par 10 līdz 30% vairāk.

Lielākais modelis, ņemot vērā tikai svarus, vienā B300
PrecizitāteUz parametruLielākais modelis, tikai svari
FP16 / BF162 baitiaptuveni 144B parametri
FP81 baitsaptuveni 288B parametri
FP4 (aparatūras atbalsts Blackwell Ultra)0,5 baitaaptuveni 576B parametri

Norēķini

Likme6,49 $ stundā, maksa par katru minūti
NorēķiniPar katru minūti no priekšapmaksas kredīta atlikuma
MaksasBez maksas par izejošo datplūsmu
SaistībasNav

Cenas norādītas USD bez piemērojamiem nodokļiem. Pilns norēķinu mehānisms, ieskaitot to, ko dara apturēšana un ko izbeigšana, ir cenu lapā.

BUJ

Vai B300 var nomāt jau tagad?

Izvietojiet to no konsoles, kad ir brīva jauda; kamēr tādas nav, konsole piedāvā gaidīšanas sarakstu, un rindā esošajiem tiek nosūtīts e-pasts pa vienam, sākot ar senākajiem. Jauda netiek nevienam turēta: to saņem tas, kurš izvieto pirmais.

Kā šajā līmenī darbojas norēķini?

Tāpat kā visos GPUwerk līmeņos: par katru minūti no priekšapmaksas kredīta atlikuma, USD, bez piemērojamiem nodokļiem, bez maksas par izejošo datplūsmu un bez saistībām.

Vajag GPU laiku šodien?

DGX Spark ir 128 GB vienotās atmiņas, un to var nomāt jau tagad par 0,79 $/stundā, maksa par katru minūti. Pirmā papildināšana: samaksājiet 20 $, saņemiet 30 $ kredītā. Vai izvietojiet B300.