GPU-sky
B300, dedikert.
Én NVIDIA B300-GPU, 288 GB HBM3e på Blackwell Ultra-arkitekturen, på en x86-vert. 6 $,49 per time, fakturert per minutt, på samme vilkår som alle andre GPUwerk-nivåer.
Leies ut etter førstemann til mølla: deploy en B300 når kapasiteten er ledig, eller sett deg på ventelisten i konsollen.
Spesifikasjoner
Per GPU. GPU-en og minnet er bare ditt så lenge leien varer.
| GPU | B300, Blackwell Ultra-arkitektur |
|---|---|
| Minne | 288 GB HBM3e |
| Minnebåndbredde | 8 TB/s |
| Presisjon | FP4 og FP8 med andre generasjons Transformer Engine |
| Vert | x86-vert |
| Leieforhold | GPU-en er bare din mens du leier den, aldri delt |
GPU-tall fra NVIDIA HGX. GPUwerk publiserer tall for tok/s og treningsgjennomstrømning bare for kjøringer på egen maskinvare. Se benchmarker fra DGX Spark-flåten for hvordan de rapporteres.
Hva ville du kjørt på den?
Blackwell Ultra med 288 GB per GPU: mest minne på én GPU i GPUwerk-katalogen.
De største modellene for én GPU
Opptil omtrent 288B parametere i FP8, eller omtrent 576B i FP4, målt i vekter alene, på én GPU.
Resonnering og lang kontekst
Minne til de lange KV-cachene som resonneringsmodeller og svært lange prompter bygger opp.
Minnebegrenset trening
Finjusteringer og treningskjøringer som går tom for minne på en B200.
Passer dårlig: små eller mellomstore modeller
En modell som får plass i 80 til 141 GB, koster mindre per time på en H100 eller H200.
Trenger du alle åtte GPU-ene i én server? Se 8× B300-serveren.
Hva som får plass i 288 GB
Bare vekter: minnet delt på byte per parameter. Sett av margin til KV-cachen, aktiveringer og kjøretidsmiljøet, ofte 10 til 30 % mer.
| Presisjon | Per parameter | Største modell, bare vekter |
|---|---|---|
| FP16 / BF16 | 2 byte | omtrent 144B parametere |
| FP8 | 1 byte | omtrent 288B parametere |
| FP4 (innebygd på Blackwell Ultra) | 0,5 byte | omtrent 576B parametere |
Fakturering
| Pris | 6 $,49 per time, fakturert per minutt |
|---|---|
| Fakturering | Per minutt, mot en forhåndsbetalt kredittsaldo |
| Gebyrer | Ingen gebyrer for utgående trafikk |
| Binding | Ingen |
Prisene er i USD, eksklusive gjeldende avgifter. Hele faktureringsmekanikken, inkludert hva stopp og avslutning gjør, står på prissiden.
Spørsmål og svar
Kan jeg leie en B300 nå?
Deploy den fra konsollen når kapasiteten er ledig; mens det ikke er noe ledig, tilbyr konsollen en venteliste, og de som står i kø, får e-post én om gangen, eldste først. Kapasitet holdes ikke av for noen: den som deployer først, får den.
Hvordan fungerer faktureringen på dette nivået?
Det samme som alle GPUwerk-nivåer: per minutt, mot en forhåndsbetalt kredittsaldo, i USD, eksklusive gjeldende avgifter, uten gebyrer for utgående trafikk og uten binding.
Trenger du GPU-tid i dag?
En DGX Spark har 128 GB enhetlig minne og kan leies nå, for 0 $,79/time fakturert per minutt. Første påfylling: betal 20 $, få 30 $ i kreditt. Eller deploy en B300.