GPU-cloud
B300, dedikeret.
En enkelt NVIDIA B300-GPU, 288 GB HBM3e på Blackwell Ultra-arkitekturen, på en x86-host. 6 $,49 i timen, faktureret pr. minut, på samme vilkår som alle andre GPUwerk-niveauer.
Udlejes efter først-til-mølle: udrul en B300, når der er ledig kapacitet, eller skriv dig på ventelisten i konsollen.
Specifikationer
Pr. GPU. GPU'en og dens hukommelse er kun dine under lejen.
| GPU | B300, Blackwell Ultra-arkitektur |
|---|---|
| Hukommelse | 288 GB HBM3e |
| Hukommelsesbåndbredde | 8 TB/s |
| Præcision | FP4 og FP8 med anden generations Transformer Engine |
| Host | x86-vært |
| Lejemodel | GPU'en er kun din, mens du lejer den, aldrig delt |
GPU-tal fra NVIDIA HGX. GPUwerk offentliggør kun tal for tok/s og træningsgennemløb fra kørsler på egen hardware. Se benchmarks for DGX Spark-flåden for, hvordan de rapporteres.
Hvad ville du køre på den?
Blackwell Ultra med 288 GB pr. GPU: mest hukommelse på én GPU i GPUwerks katalog.
De største modeller på én GPU
Op til cirka 288B parametre ved FP8 eller cirka 576B ved FP4 på én GPU, når kun vægtene tælles med.
Ræsonnement og lang kontekst
Hukommelse til de lange KV-caches, som ræsonnementsmodeller og meget lange prompts opbygger.
Hukommelsesbunden træning
Finjusteringer og træningskørsler, der løber tør for hukommelse på en B200.
Passer dårligt: små eller mellemstore modeller
En model, der passer i 80 til 141 GB, koster mindre pr. time på en H100 eller H200.
Brug for alle otte GPU'er i én server? Se 8× B300-serveren.
Hvad passer i 288 GB
Kun vægte: hukommelse divideret med byte pr. parameter. Afsæt plads til KV-cachen, aktiveringer og runtime, ofte 10 til 30 % mere.
| Præcision | Pr. parameter | Største model, kun vægte |
|---|---|---|
| FP16 / BF16 | 2 byte | cirka 144B parametre |
| FP8 | 1 byte | cirka 288B parametre |
| FP4 (indbygget på Blackwell Ultra) | 0,5 byte | cirka 576B parametre |
Fakturering
| Pris | 6 $,49 i timen, faktureret pr. minut |
|---|---|
| Fakturering | Pr. minut fra en forudbetalt kreditsaldo |
| Gebyrer | Ingen gebyrer for udgående trafik |
| Binding | Ingen |
Priserne er i USD, ekskl. gældende skat. Hele faktureringsmekanikken, inklusive hvad et stop og en afslutning gør, står på prissiden.
FAQ
Kan jeg leje en B300 nu?
Udrul den fra konsollen, når der er ledig kapacitet; når der ikke er, tilbyder konsollen en venteliste, og folk i køen får en e-mail én ad gangen, ældste først. Kapacitet holdes ikke til nogen: den, der udruller først, får den.
Hvordan fungerer faktureringen på dette niveau?
Det samme som alle GPUwerk-niveauer: pr. minut fra en forudbetalt kreditsaldo i USD, ekskl. gældende skat, uden gebyrer for udgående trafik og uden binding.
Brug for GPU-tid i dag?
En DGX Spark har 128 GB unified memory og kan lejes nu til 0 $,79/time, faktureret pr. minut. Første optankning: betal 20 $, få 30 $ i kredit. Eller udrul en B300.