GPU-pilvi

B300, dedikoitu.

Yksi NVIDIA B300 -GPU, 288 GB HBM3e-muistia Blackwell Ultra -arkkitehtuurilla, x86-isännällä. 6,49 $ tunnilta, laskutus minuutin tarkkuudella, samoin ehdoin kuin kaikilla muilla GPUwerkin tasoilla.

Vuokrataan saapumisjärjestyksessä: ota B300 käyttöön, kun kapasiteettia on vapaana, tai liity sen jonotuslistalle konsolissa.

Tekniset tiedot

GPU:ta kohden. GPU ja sen muisti ovat vain sinun vuokrauksen ajan.

NVIDIA B300
GPUB300, Blackwell Ultra -arkkitehtuuri
Muisti288 GB HBM3e
Muistikaista8 TB/s
TarkkuusFP4 ja FP8 toisen sukupolven Transformer Enginellä
Ylläpitäjäx86-isäntä
VuokralaisuusGPU on vain sinun vuokrauksen ajan, ei koskaan jaettu

GPU-luvut lähteestä NVIDIA HGX. GPUwerk julkaisee tok/s- ja koulutuksen läpäisykykyluvut vain omalla laitteistollaan tehdyistä ajoista. Katso DGX Spark -kaluston vertailutestit, miten ne raportoidaan.

Mitä ajaisit sillä?

Blackwell Ultra 288 GB:llä GPU:ta kohden: GPUwerkin valikoiman eniten muistia yhdellä GPU:lla.

Suurimmat yhden GPU:n mallit

Noin 288B parametriin asti FP8:lla tai noin 576B:hen asti FP4:llä, pelkkien painojen perusteella, yhdellä GPU:lla.

Päättely ja pitkä konteksti

Muistia pitkille KV-välimuisteille, joita päättelymallit ja hyvin pitkät kehotteet kerryttävät.

Muistisidonnainen koulutus

Hienosäädöt ja koulutusajot, joilta loppuu muisti B200:lla.

Huono valinta: pienet tai keskikokoiset mallit

Malli, joka mahtuu 80–141 GB:hen, maksaa tunnilta vähemmän H100:lla tai H200:lla.

Tarvitsetko yhden palvelimen kaikki kahdeksan GPU:ta? Katso 8× B300 -palvelin.

Mikä mahtuu 288 GB:hen

Vain painot: muisti jaettuna tavuilla parametria kohden. Jätä pelivaraa KV-välimuistille, aktivaatioille ja ajoympäristölle, usein 10–30 % enemmän.

Suurin malli pelkkien painojen perusteella yhdellä B300:lla
TarkkuusParametria kohdenSuurin malli, vain painot
FP16 / BF162 tavuanoin 144B parametria
FP81 tavunoin 288B parametria
FP4 (natiivi Blackwell Ultrassa)0,5 tavuanoin 576B parametria

Laskutus

Hinta6,49 $ tunnilta, laskutus minuutin tarkkuudella
LaskutusMinuutin tarkkuudella ennakkoon maksetusta saldosta
MaksutEi tiedonsiirtomaksuja
SitoumusEi mitään

Hinnat ovat USD:nä ilman sovellettavia veroja. Koko laskutusmekaniikka, mukaan lukien mitä pysäyttäminen ja lopettaminen tekevät, on hinnoittelusivulla.

UKK

Voinko vuokrata B300:n nyt?

Ota se käyttöön konsolista, kun kapasiteettia on vapaana; kun sitä ei ole, konsoli tarjoaa jonotuslistan, ja jonossa oleville lähetetään sähköposti yksi kerrallaan, vanhimmasta alkaen. Kapasiteettia ei pidetä kenellekään: se, joka ottaa käyttöön ensin, saa sen.

Miten laskutus toimii tällä tasolla?

Sama kuin kaikilla GPUwerkin tasoilla: minuutin tarkkuudella ennakkoon maksetusta saldosta, USD:nä, ilman sovellettavia veroja, ilman tiedonsiirtomaksuja ja ilman sitoumusta.

Tarvitsetko GPU-aikaa tänään?

DGX Sparkissa on 128 GB yhtenäistä muistia, ja sen voi vuokrata nyt hintaan 0,79 $/tunti, laskutus minuutin tarkkuudella. Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa. Tai ota B300 käyttöön.