GPU-pilvi

RTX PRO 6000, dedikoitu.

Yhden GPU:n NVIDIA RTX PRO 6000 Blackwell Server Edition -kone, 96 GB GDDR7-muistia ECC:llä Blackwell-arkkitehtuurilla, x86-isännällä. 1,89 $ tunnilta, laskutus minuutin tarkkuudella, samoin ehdoin kuin kaikilla muilla GPUwerkin tasoilla.

Vuokrataan saapumisjärjestyksessä: ota RTX PRO 6000 käyttöön, kun kapasiteettia on vapaana, tai liity sen jonotuslistalle konsolissa.

Tekniset tiedot

Solmua kohden. Jokainen GPUwerk-instanssi millä tahansa tasolla on yksi kokonainen kone vain sinulle.

NVIDIA RTX PRO 6000 Blackwell Server Edition
GPURTX PRO 6000 Blackwell Server Edition, Blackwell-arkkitehtuuri
Muisti96 GB GDDR7, ECC
Muistikaista1 597 GB/s
CUDA-ytimet24 064
MaksimitehoEnintään 600 W, säädettävä
MIGEnintään 4 instanssia à 24 GB
Ylläpitäjäx86-isäntä
VuokralaisuusYksi asiakas konetta kohden, ei koskaan jaettu

GPU-luvut lähteestä NVIDIA RTX PRO 6000 Blackwell Server Edition. GPUwerk julkaisee tok/s- ja koulutuksen läpäisykykyluvut vain omalla laitteistollaan tehdyistä ajoista. Katso DGX Spark -kaluston vertailutestit, miten ne raportoidaan.

Mitä ajaisit sillä?

96 GB yhdellä kortilla, viidennen sukupolven Tensor-ytimillä, jotka ajavat FP4:ää.

70B-luokan mallit yhdellä GPU:lla

70B-malli FP8-tarkkuudella mahtuu 96 GB:hen, ja KV-välimuistille jää hieman tilaa, ilman että mallia jaetaan GPU:iden kesken.

FP4-päättely

Blackwell ajaa FP4:ää natiivisti, joten 4-bittinen malli noin 192B parametriin asti mahtuu pelkkien painojen osalta.

Grafiikka ja tekoäly yhdellä kortilla

RT-ytimet ja suuri kehyspuskuri renderöintiin tai simulaatioon mallityön rinnalla.

Huono valinta: moni-GPU-koulutus

Siinä ei ole NVLinkiä, joten työ, jossa useiden GPU:iden on vaihdettava dataa nopeasti, kuuluu 8 GPU:n palvelimelle.

Useita pienempiä töitä

MIG jakaa kortin enintään neljäksi eristetyksi 24 GB:n GPU:ksi useamman mallin samanaikaiseen palveluun.

Mikä mahtuu 96 GB:hen

Vain painot: muisti jaettuna tavuilla parametria kohden. Jätä pelivaraa KV-välimuistille, aktivaatioille ja ajoympäristölle, usein 10–30 % enemmän.

Suurin malli pelkkien painojen perusteella yhdellä RTX PRO 6000:lla
TarkkuusParametria kohdenSuurin malli, vain painot
FP16 / BF162 tavuanoin 48B parametria
FP81 tavunoin 96B parametria
FP4 (natiivi Blackwellissa)0,5 tavuanoin 192B parametria

Laskutus

Hinta1,89 $ tunnilta, laskutus minuutin tarkkuudella
LaskutusMinuutin tarkkuudella ennakkoon maksetusta saldosta
MaksutEi tiedonsiirtomaksuja
SitoumusEi mitään

Hinnat ovat USD:nä ilman sovellettavia veroja. Koko laskutusmekaniikka, mukaan lukien mitä pysäyttäminen ja lopettaminen tekevät, on hinnoittelusivulla.

UKK

Voinko vuokrata RTX PRO 6000:n nyt?

Ota se käyttöön konsolista, kun kapasiteettia on vapaana; kun sitä ei ole, konsoli tarjoaa jonotuslistan, ja jonossa oleville lähetetään sähköposti yksi kerrallaan, vanhimmasta alkaen. Kapasiteettia ei pidetä kenellekään: se, joka ottaa käyttöön ensin, saa sen.

Miten laskutus toimii tällä tasolla?

Sama kuin kaikilla GPUwerkin tasoilla: minuutin tarkkuudella ennakkoon maksetusta saldosta, USD:nä, ilman sovellettavia veroja, ilman tiedonsiirtomaksuja ja ilman sitoumusta.

Tarvitsetko GPU-aikaa tänään?

DGX Sparkissa on 128 GB yhtenäistä muistia, ja sen voi vuokrata nyt hintaan 0,79 $/tunti, laskutus minuutin tarkkuudella. Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa. Katso, miten DGX Spark vertautuu, tai liity RTX PRO 6000 -jonotuslistalle.