GPU-pilv

B300, dedikeeritud.

Üks NVIDIA B300 GPU, 288 GB HBM3e Blackwell Ultra arhitektuuril, x86 hostil. 6,49 $ tunnis, arveldatakse minutipõhiselt, samadel tingimustel nagu iga teine GPUwerki tase.

Renditakse saabumise järjekorras: juuruta B300, kui mahtu on vaba, või liitu konsoolis selle ootenimekirjaga.

Spetsifikatsioonid

GPU kohta. GPU ja selle mälu on rendi ajal ainult sinu omad.

NVIDIA B300
GPUB300, Blackwell Ultra arhitektuur
Mälu288 GB HBM3e
Mälu ribalaius8 TB/s
TäpsusFP4 ja FP8 teise põlvkonna Transformer Engine'iga
Majutax86 host
RendisuheGPU on rentimise ajal ainult sinu oma, mitte kunagi jagatud

GPU-näitajad lehelt NVIDIA HGX. GPUwerk avaldab tok/s ja treeningu läbilaskevõime näitajaid ainult oma riistvaral tehtud käituste kohta. Kuidas neid esitatakse, vaata DGX Sparki pargi võrdlustestidest.

Mida sa sellel käitaksid?

Blackwell Ultra 288 GB-ga GPU kohta: GPUwerki kataloogis kõige rohkem mälu ühel GPU-l.

Suurimad ühe GPU mudelid

Kuni umbes 288B parameetrit FP8 täpsusega või umbes 576B FP4 täpsusega, ainult kaalude järgi, ühel GPU-l.

Arutlemine ja pikk kontekst

Mälu pikkade KV-vahemälude jaoks, mida arutlusmudelid ja väga pikad päringud kasvatavad.

Mälust piiratud treenimine

Peenhäälestused ja treeningud, millel B200-l mälu otsa saab.

Ei sobi hästi: väikesed või keskmise suurusega mudelid

Mudel, mis mahub 80 kuni 141 GB sisse, on tunnihinnalt odavam H100-l või H200-l.

Vajad ühe serveri kõiki kaheksat GPU-d? Vaata 8× B300 serverit.

Mis mahub 288 GB-sse

Ainult kaalud: mälu jagatud baitidega parameetri kohta. Jäta varu KV-vahemälule, aktivatsioonidele ja käituskeskkonnale, sageli 10 kuni 30% rohkem.

Suurim mudel ainult kaalude järgi ühel B300-l
TäpsusParameetri kohtaSuurim mudel, ainult kaalud
FP16 / BF162 baitiumbes 144B parameetrit
FP81 baitumbes 288B parameetrit
FP4 (natiivne Blackwell Ultral)0,5 baitiumbes 576B parameetrit

Arveldus

Hind6,49 $ tunnis, arveldatakse minutipõhiselt
ArveldusMinutipõhiselt ettemakstud krediidi saldost
TasudVäljuva liikluse tasusid pole
KohustusPuudub

Hinnad on USD-s, ilma kohalduvate maksudeta. Kogu arvelduse mehhanism, sealhulgas mida teeb peatamine võrreldes lõpetamisega, on hinnalehel.

KKK

Kas saan B300 kohe rentida?

Juuruta see konsoolist, kui mahtu on vaba; kui pole, pakub konsool ootenimekirja ja järjekorras olijatele saadetakse e-kiri ükshaaval, vanimast alates. Mahtu kellelegi ei hoita: kes esimesena juurutab, see selle saab.

Kuidas arveldus sellel tasemel toimib?

Sama mis igal GPUwerki tasemel: minutipõhiselt ettemakstud krediidi saldost, USD-s, ilma kohalduvate maksudeta, ilma väljuva liikluse tasude ja kohustuseta.

Vajad GPU aega täna?

DGX Sparkil on 128 GB ühismälu ja seda saab kohe rentida hinnaga 0,79 $/tund, arveldatakse minutipõhiselt. Esimene krediidi lisamine: maksa 20 $, saad 30 $ krediiti. Või juuruta B300.