GPU-pilvi
B200, dedikoitu.
Yksi NVIDIA B200 -GPU, 180 GB HBM3e-muistia Blackwell-arkkitehtuurilla, x86-isännällä. 5,49 $ tunnilta, laskutus minuutin tarkkuudella, samoin ehdoin kuin kaikilla muilla GPUwerkin tasoilla.
Vuokrataan saapumisjärjestyksessä: ota B200 käyttöön, kun kapasiteettia on vapaana, tai liity sen jonotuslistalle konsolissa.
Tekniset tiedot
GPU:ta kohden. GPU ja sen muisti ovat vain sinun vuokrauksen ajan.
| GPU | B200, Blackwell-arkkitehtuuri |
|---|---|
| Muisti | 180 GB HBM3e |
| Muistikaista | 8 TB/s |
| Tarkkuus | FP4 ja FP8 toisen sukupolven Transformer Enginellä |
| Ylläpitäjä | x86-isäntä |
| Vuokralaisuus | GPU on vain sinun vuokrauksen ajan, ei koskaan jaettu |
GPU-luvut lähteestä NVIDIA DGX B200. GPUwerk julkaisee tok/s- ja koulutuksen läpäisykykyluvut vain omalla laitteistollaan tehdyistä ajoista. Katso DGX Spark -kaluston vertailutestit, miten ne raportoidaan.
Mitä ajaisit sillä?
Blackwell 180 GB:llä GPU:ta kohden ja FP4-tuella: askel ylöspäin Hopperista koulutukseen ja suurten mallien päättelyyn.
FP4- ja FP8-päättely
Natiivi FP4 mahduttaa pelkkien painojen perusteella mallin noin 360B parametriin asti; FP8 noin 180B:hen asti.
Koulutus ja hienosäätö
Ajot, jotka tarvitsevat enemmän muistia ja kaistaa GPU:ta kohden kuin Hopper tarjoaa.
Yksi GPU kahden sijaan
Mallit, jotka muuten jaettaisiin kahdelle H100:lle tai H200:lle.
Huono valinta: pienet mallit
Malli, joka mahtuu 24 tai 48 GB:hen, toimii L4:llä tai L40S:llä murto-osalla tuntihinnasta.
Tarvitsetko yhden palvelimen kaikki kahdeksan GPU:ta? Katso 8× B200 -palvelin.
Mikä mahtuu 180 GB:hen
Vain painot: muisti jaettuna tavuilla parametria kohden. Jätä pelivaraa KV-välimuistille, aktivaatioille ja ajoympäristölle, usein 10–30 % enemmän.
| Tarkkuus | Parametria kohden | Suurin malli, vain painot |
|---|---|---|
| FP16 / BF16 | 2 tavua | noin 90B parametria |
| FP8 | 1 tavu | noin 180B parametria |
| FP4 (natiivi Blackwellissa) | 0,5 tavua | noin 360B parametria |
Laskutus
| Hinta | 5,49 $ tunnilta, laskutus minuutin tarkkuudella |
|---|---|
| Laskutus | Minuutin tarkkuudella ennakkoon maksetusta saldosta |
| Maksut | Ei tiedonsiirtomaksuja |
| Sitoumus | Ei mitään |
Hinnat ovat USD:nä ilman sovellettavia veroja. Koko laskutusmekaniikka, mukaan lukien mitä pysäyttäminen ja lopettaminen tekevät, on hinnoittelusivulla.
UKK
Voinko vuokrata B200:n nyt?
Ota se käyttöön konsolista, kun kapasiteettia on vapaana; kun sitä ei ole, konsoli tarjoaa jonotuslistan, ja jonossa oleville lähetetään sähköposti yksi kerrallaan, vanhimmasta alkaen. Kapasiteettia ei pidetä kenellekään: se, joka ottaa käyttöön ensin, saa sen.
Miten laskutus toimii tällä tasolla?
Sama kuin kaikilla GPUwerkin tasoilla: minuutin tarkkuudella ennakkoon maksetusta saldosta, USD:nä, ilman sovellettavia veroja, ilman tiedonsiirtomaksuja ja ilman sitoumusta.
Tarvitsetko GPU-aikaa tänään?
DGX Sparkissa on 128 GB yhtenäistä muistia, ja sen voi vuokrata nyt hintaan 0,79 $/tunti, laskutus minuutin tarkkuudella. Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa. Tai ota B200 käyttöön.