GPU-pilv
B300, dedikeeritud.
Üks NVIDIA B300 GPU, 288 GB HBM3e Blackwell Ultra arhitektuuril, x86 hostil. 6,49 $ tunnis, arveldatakse minutipõhiselt, samadel tingimustel nagu iga teine GPUwerki tase.
Renditakse saabumise järjekorras: juuruta B300, kui mahtu on vaba, või liitu konsoolis selle ootenimekirjaga.
Spetsifikatsioonid
GPU kohta. GPU ja selle mälu on rendi ajal ainult sinu omad.
| GPU | B300, Blackwell Ultra arhitektuur |
|---|---|
| Mälu | 288 GB HBM3e |
| Mälu ribalaius | 8 TB/s |
| Täpsus | FP4 ja FP8 teise põlvkonna Transformer Engine'iga |
| Majuta | x86 host |
| Rendisuhe | GPU on rentimise ajal ainult sinu oma, mitte kunagi jagatud |
GPU-näitajad lehelt NVIDIA HGX. GPUwerk avaldab tok/s ja treeningu läbilaskevõime näitajaid ainult oma riistvaral tehtud käituste kohta. Kuidas neid esitatakse, vaata DGX Sparki pargi võrdlustestidest.
Mida sa sellel käitaksid?
Blackwell Ultra 288 GB-ga GPU kohta: GPUwerki kataloogis kõige rohkem mälu ühel GPU-l.
Suurimad ühe GPU mudelid
Kuni umbes 288B parameetrit FP8 täpsusega või umbes 576B FP4 täpsusega, ainult kaalude järgi, ühel GPU-l.
Arutlemine ja pikk kontekst
Mälu pikkade KV-vahemälude jaoks, mida arutlusmudelid ja väga pikad päringud kasvatavad.
Mälust piiratud treenimine
Peenhäälestused ja treeningud, millel B200-l mälu otsa saab.
Ei sobi hästi: väikesed või keskmise suurusega mudelid
Mudel, mis mahub 80 kuni 141 GB sisse, on tunnihinnalt odavam H100-l või H200-l.
Vajad ühe serveri kõiki kaheksat GPU-d? Vaata 8× B300 serverit.
Mis mahub 288 GB-sse
Ainult kaalud: mälu jagatud baitidega parameetri kohta. Jäta varu KV-vahemälule, aktivatsioonidele ja käituskeskkonnale, sageli 10 kuni 30% rohkem.
| Täpsus | Parameetri kohta | Suurim mudel, ainult kaalud |
|---|---|---|
| FP16 / BF16 | 2 baiti | umbes 144B parameetrit |
| FP8 | 1 bait | umbes 288B parameetrit |
| FP4 (natiivne Blackwell Ultral) | 0,5 baiti | umbes 576B parameetrit |
Arveldus
| Hind | 6,49 $ tunnis, arveldatakse minutipõhiselt |
|---|---|
| Arveldus | Minutipõhiselt ettemakstud krediidi saldost |
| Tasud | Väljuva liikluse tasusid pole |
| Kohustus | Puudub |
Hinnad on USD-s, ilma kohalduvate maksudeta. Kogu arvelduse mehhanism, sealhulgas mida teeb peatamine võrreldes lõpetamisega, on hinnalehel.
KKK
Kas saan B300 kohe rentida?
Juuruta see konsoolist, kui mahtu on vaba; kui pole, pakub konsool ootenimekirja ja järjekorras olijatele saadetakse e-kiri ükshaaval, vanimast alates. Mahtu kellelegi ei hoita: kes esimesena juurutab, see selle saab.
Kuidas arveldus sellel tasemel toimib?
Sama mis igal GPUwerki tasemel: minutipõhiselt ettemakstud krediidi saldost, USD-s, ilma kohalduvate maksudeta, ilma väljuva liikluse tasude ja kohustuseta.
Vajad GPU aega täna?
DGX Sparkil on 128 GB ühismälu ja seda saab kohe rentida hinnaga 0,79 $/tund, arveldatakse minutipõhiselt. Esimene krediidi lisamine: maksa 20 $, saad 30 $ krediiti. Või juuruta B300.