GPU-moln

B300, dedikerad.

En enskild NVIDIA B300-GPU, 288 GB HBM3e på Blackwell Ultra-arkitekturen, på en x86-värd. 6,49 USD per timme, debiteras per minut, samma villkor som alla andra nivåer hos GPUwerk.

Hyrs ut efter principen först till kvarn: driftsätt en B300 när det finns ledig kapacitet, eller ställ dig på dess väntelista i konsolen.

Specifikationer

Per GPU. GPU:n och dess minne är bara dina under hyran.

NVIDIA B300
GPUB300, Blackwell Ultra-arkitektur
Minne288 GB HBM3e
Minnesbandbredd8 TB/s
PrecisionFP4 och FP8 med andra generationens Transformer Engine
Värdx86-värd
HyresformGPU:n är bara din medan du hyr den, aldrig delad

GPU-siffror från NVIDIA HGX. GPUwerk publicerar siffror för tok/s och träningsgenomströmning bara för körningar på sin egen hårdvara. Se benchmarks för DGX Spark-maskinparken för hur de rapporteras.

Vad skulle du köra på den?

Blackwell Ultra med 288 GB per GPU: mest minne på en GPU i GPUwerks katalog.

De största modellerna för en GPU

Upp till cirka 288B parametrar i FP8, eller cirka 576B i FP4, sett till vikterna enbart, på en GPU.

Resonemang och lång kontext

Minne för de långa KV-cachar som resonerande modeller och mycket långa prompter bygger upp.

Minnesbunden träning

Finjusteringar och träningskörningar som får slut på minne på en B200.

Passar dåligt: små eller medelstora modeller

En modell som får plats i 80 till 141 GB kostar mindre per timme på en H100 eller H200.

Behöver du alla åtta GPU:er i en server? Se 8× B300-servern.

Vad som får plats i 288 GB

Bara vikter: minne delat med byte per parameter. Lämna marginal för KV-cachen, aktiveringar och körmiljön, ofta 10 till 30 % mer.

Största modellen sett till vikterna enbart på en B300
PrecisionPer parameterStörsta modellen, bara vikter
FP16 / BF162 bytecirka 144B parametrar
FP81 bytecirka 288B parametrar
FP4 (inbyggt på Blackwell Ultra)0,5 bytecirka 576B parametrar

Fakturering

Pris6,49 USD per timme, debiteras per minut
FaktureringPer minut, mot ett förbetalt kreditsaldo
AvgifterInga avgifter för utgående trafik
BindningInga

Priserna är i USD, exkl. tillämplig skatt. Hela faktureringsmekaniken, inklusive vad ett stopp respektive ett avslut gör, finns på prissidan.

Vanliga frågor

Kan jag hyra en B300 nu?

Driftsätt den från konsolen när det finns ledig kapacitet; när det inte finns någon erbjuder konsolen en väntelista, och de som står i kön får e-post en i taget, äldst först. Kapacitet hålls inte för någon: den som driftsätter först får den.

Hur fungerar faktureringen på den här nivån?

Samma som alla nivåer hos GPUwerk: per minut, mot ett förbetalt kreditsaldo, i USD, exkl. tillämplig skatt, utan avgifter för utgående trafik och utan bindning.

Behöver du GPU-tid i dag?

En DGX Spark har 128 GB enhetligt minne och kan hyras nu, för 0,79 USD/timme debiterat per minut. Första påfyllningen: betala 20 USD, få 30 USD i kredit. Eller driftsätt en B300.