GPU-moln
B300, dedikerad.
En enskild NVIDIA B300-GPU, 288 GB HBM3e på Blackwell Ultra-arkitekturen, på en x86-värd. 6,49 USD per timme, debiteras per minut, samma villkor som alla andra nivåer hos GPUwerk.
Hyrs ut efter principen först till kvarn: driftsätt en B300 när det finns ledig kapacitet, eller ställ dig på dess väntelista i konsolen.
Specifikationer
Per GPU. GPU:n och dess minne är bara dina under hyran.
| GPU | B300, Blackwell Ultra-arkitektur |
|---|---|
| Minne | 288 GB HBM3e |
| Minnesbandbredd | 8 TB/s |
| Precision | FP4 och FP8 med andra generationens Transformer Engine |
| Värd | x86-värd |
| Hyresform | GPU:n är bara din medan du hyr den, aldrig delad |
GPU-siffror från NVIDIA HGX. GPUwerk publicerar siffror för tok/s och träningsgenomströmning bara för körningar på sin egen hårdvara. Se benchmarks för DGX Spark-maskinparken för hur de rapporteras.
Vad skulle du köra på den?
Blackwell Ultra med 288 GB per GPU: mest minne på en GPU i GPUwerks katalog.
De största modellerna för en GPU
Upp till cirka 288B parametrar i FP8, eller cirka 576B i FP4, sett till vikterna enbart, på en GPU.
Resonemang och lång kontext
Minne för de långa KV-cachar som resonerande modeller och mycket långa prompter bygger upp.
Minnesbunden träning
Finjusteringar och träningskörningar som får slut på minne på en B200.
Passar dåligt: små eller medelstora modeller
En modell som får plats i 80 till 141 GB kostar mindre per timme på en H100 eller H200.
Behöver du alla åtta GPU:er i en server? Se 8× B300-servern.
Vad som får plats i 288 GB
Bara vikter: minne delat med byte per parameter. Lämna marginal för KV-cachen, aktiveringar och körmiljön, ofta 10 till 30 % mer.
| Precision | Per parameter | Största modellen, bara vikter |
|---|---|---|
| FP16 / BF16 | 2 byte | cirka 144B parametrar |
| FP8 | 1 byte | cirka 288B parametrar |
| FP4 (inbyggt på Blackwell Ultra) | 0,5 byte | cirka 576B parametrar |
Fakturering
| Pris | 6,49 USD per timme, debiteras per minut |
|---|---|
| Fakturering | Per minut, mot ett förbetalt kreditsaldo |
| Avgifter | Inga avgifter för utgående trafik |
| Bindning | Inga |
Priserna är i USD, exkl. tillämplig skatt. Hela faktureringsmekaniken, inklusive vad ett stopp respektive ett avslut gör, finns på prissidan.
Vanliga frågor
Kan jag hyra en B300 nu?
Driftsätt den från konsolen när det finns ledig kapacitet; när det inte finns någon erbjuder konsolen en väntelista, och de som står i kön får e-post en i taget, äldst först. Kapacitet hålls inte för någon: den som driftsätter först får den.
Hur fungerar faktureringen på den här nivån?
Samma som alla nivåer hos GPUwerk: per minut, mot ett förbetalt kreditsaldo, i USD, exkl. tillämplig skatt, utan avgifter för utgående trafik och utan bindning.
Behöver du GPU-tid i dag?
En DGX Spark har 128 GB enhetligt minne och kan hyras nu, för 0,79 USD/timme debiterat per minut. Första påfyllningen: betala 20 USD, få 30 USD i kredit. Eller driftsätt en B300.