GPU-pilvi

B200, dedikoitu.

Yksi NVIDIA B200 -GPU, 180 GB HBM3e-muistia Blackwell-arkkitehtuurilla, x86-isännällä. 5,49 $ tunnilta, laskutus minuutin tarkkuudella, samoin ehdoin kuin kaikilla muilla GPUwerkin tasoilla.

Vuokrataan saapumisjärjestyksessä: ota B200 käyttöön, kun kapasiteettia on vapaana, tai liity sen jonotuslistalle konsolissa.

Tekniset tiedot

GPU:ta kohden. GPU ja sen muisti ovat vain sinun vuokrauksen ajan.

NVIDIA B200
GPUB200, Blackwell-arkkitehtuuri
Muisti180 GB HBM3e
Muistikaista8 TB/s
TarkkuusFP4 ja FP8 toisen sukupolven Transformer Enginellä
Ylläpitäjäx86-isäntä
VuokralaisuusGPU on vain sinun vuokrauksen ajan, ei koskaan jaettu

GPU-luvut lähteestä NVIDIA DGX B200. GPUwerk julkaisee tok/s- ja koulutuksen läpäisykykyluvut vain omalla laitteistollaan tehdyistä ajoista. Katso DGX Spark -kaluston vertailutestit, miten ne raportoidaan.

Mitä ajaisit sillä?

Blackwell 180 GB:llä GPU:ta kohden ja FP4-tuella: askel ylöspäin Hopperista koulutukseen ja suurten mallien päättelyyn.

FP4- ja FP8-päättely

Natiivi FP4 mahduttaa pelkkien painojen perusteella mallin noin 360B parametriin asti; FP8 noin 180B:hen asti.

Koulutus ja hienosäätö

Ajot, jotka tarvitsevat enemmän muistia ja kaistaa GPU:ta kohden kuin Hopper tarjoaa.

Yksi GPU kahden sijaan

Mallit, jotka muuten jaettaisiin kahdelle H100:lle tai H200:lle.

Huono valinta: pienet mallit

Malli, joka mahtuu 24 tai 48 GB:hen, toimii L4:llä tai L40S:llä murto-osalla tuntihinnasta.

Tarvitsetko yhden palvelimen kaikki kahdeksan GPU:ta? Katso 8× B200 -palvelin.

Mikä mahtuu 180 GB:hen

Vain painot: muisti jaettuna tavuilla parametria kohden. Jätä pelivaraa KV-välimuistille, aktivaatioille ja ajoympäristölle, usein 10–30 % enemmän.

Suurin malli pelkkien painojen perusteella yhdellä B200:lla
TarkkuusParametria kohdenSuurin malli, vain painot
FP16 / BF162 tavuanoin 90B parametria
FP81 tavunoin 180B parametria
FP4 (natiivi Blackwellissa)0,5 tavuanoin 360B parametria

Laskutus

Hinta5,49 $ tunnilta, laskutus minuutin tarkkuudella
LaskutusMinuutin tarkkuudella ennakkoon maksetusta saldosta
MaksutEi tiedonsiirtomaksuja
SitoumusEi mitään

Hinnat ovat USD:nä ilman sovellettavia veroja. Koko laskutusmekaniikka, mukaan lukien mitä pysäyttäminen ja lopettaminen tekevät, on hinnoittelusivulla.

UKK

Voinko vuokrata B200:n nyt?

Ota se käyttöön konsolista, kun kapasiteettia on vapaana; kun sitä ei ole, konsoli tarjoaa jonotuslistan, ja jonossa oleville lähetetään sähköposti yksi kerrallaan, vanhimmasta alkaen. Kapasiteettia ei pidetä kenellekään: se, joka ottaa käyttöön ensin, saa sen.

Miten laskutus toimii tällä tasolla?

Sama kuin kaikilla GPUwerkin tasoilla: minuutin tarkkuudella ennakkoon maksetusta saldosta, USD:nä, ilman sovellettavia veroja, ilman tiedonsiirtomaksuja ja ilman sitoumusta.

Tarvitsetko GPU-aikaa tänään?

DGX Sparkissa on 128 GB yhtenäistä muistia, ja sen voi vuokrata nyt hintaan 0,79 $/tunti, laskutus minuutin tarkkuudella. Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa. Tai ota B200 käyttöön.