GPU-pilvi

RTX 6000 Ada, dedikoitu.

Yhden GPU:n NVIDIA RTX 6000 Ada Generation -kone, 48 GB GDDR6-muistia ECC:llä Ada Lovelace -arkkitehtuurilla, x86-isännällä. 0,75 $ tunnilta, laskutus minuutin tarkkuudella, samoin ehdoin kuin kaikilla muilla GPUwerkin tasoilla.

Vuokrataan saapumisjärjestyksessä: ota RTX 6000 Ada käyttöön, kun kapasiteettia on vapaana, tai liity sen jonotuslistalle konsolissa.

Tekniset tiedot

Solmua kohden. Jokainen GPUwerk-instanssi millä tahansa tasolla on yksi kokonainen kone vain sinulle.

NVIDIA RTX 6000 Ada Generation
GPURTX 6000 Ada Generation, Ada Lovelace -arkkitehtuuri
Muisti48 GB GDDR6, ECC
Muistikaista960 GB/s
CUDA-ytimet18 176
Maksimiteho300 W
Ylläpitäjäx86-isäntä
VuokralaisuusYksi asiakas konetta kohden, ei koskaan jaettu

GPU-luvut lähteestä NVIDIA RTX 6000 Ada. GPUwerk julkaisee tok/s- ja koulutuksen läpäisykykyluvut vain omalla laitteistollaan tehdyistä ajoista. Katso DGX Spark -kaluston vertailutestit, miten ne raportoidaan.

Mitä ajaisit sillä?

48 GB ECC:llä: sama muisti kuin L40S:ssä, työasemaluokan kortilla.

Keskikokoisten mallien päättely

Mallit noin 40B parametriin asti FP8-tarkkuudella tai 30B-luokan malli, jolloin KV-välimuistille jää tilaa.

Renderöinti ja grafiikka

RT-ytimet ja työasemaluokan ajuri renderöintiin, simulaatioon tai sekoitettuihin grafiikka- ja tekoälyputkiin.

LoRA-hienosäädöt

Adapterikoulutus 7B–13B-luokan malleilla, mikä mahtuu 48 GB:hen väljästi.

Huono valinta: moni-GPU-koulutus

Siinä ei ole NVLinkiä, joten työ, jossa useiden GPU:iden on vaihdettava dataa nopeasti, kuuluu 8 GPU:n palvelimelle.

Mikä mahtuu 48 GB:hen

Vain painot: muisti jaettuna tavuilla parametria kohden. Jätä pelivaraa KV-välimuistille, aktivaatioille ja ajoympäristölle, usein 10–30 % enemmän.

Suurin malli pelkkien painojen perusteella yhdellä RTX 6000 Adalla
TarkkuusParametria kohdenSuurin malli, vain painot
FP16 / BF162 tavuanoin 24B parametria
FP81 tavunoin 48B parametria
4-bittiseksi kvantisoitu0,5 tavuanoin 96B parametria (Adassa ei natiivia FP4:ää; ajonaikainen ympäristö purkaa kvantisoinnin)

Laskutus

Hinta0,75 $ tunnilta, laskutus minuutin tarkkuudella
LaskutusMinuutin tarkkuudella ennakkoon maksetusta saldosta
MaksutEi tiedonsiirtomaksuja
SitoumusEi mitään

Hinnat ovat USD:nä ilman sovellettavia veroja. Koko laskutusmekaniikka, mukaan lukien mitä pysäyttäminen ja lopettaminen tekevät, on hinnoittelusivulla.

UKK

Voinko vuokrata RTX 6000 Adan nyt?

Ota se käyttöön konsolista, kun kapasiteettia on vapaana; kun sitä ei ole, konsoli tarjoaa jonotuslistan, ja jonossa oleville lähetetään sähköposti yksi kerrallaan, vanhimmasta alkaen. Kapasiteettia ei pidetä kenellekään: se, joka ottaa käyttöön ensin, saa sen.

Miten laskutus toimii tällä tasolla?

Sama kuin kaikilla GPUwerkin tasoilla: minuutin tarkkuudella ennakkoon maksetusta saldosta, USD:nä, ilman sovellettavia veroja, ilman tiedonsiirtomaksuja ja ilman sitoumusta.

Tarvitsetko GPU-aikaa tänään?

DGX Sparkissa on 128 GB yhtenäistä muistia, ja sen voi vuokrata nyt hintaan 0,79 $/tunti, laskutus minuutin tarkkuudella. Ensimmäinen lataus: maksa 20 $, saat 30 $ saldoa. Vertaa sitä L40S:ään tai liity RTX 6000 Ada -jonotuslistalle.