GPU-cloud

B200, dedikeret.

En enkelt NVIDIA B200-GPU, 180 GB HBM3e på Blackwell-arkitekturen, på en x86-host. 5 $,49 i timen, faktureret pr. minut, på samme vilkår som alle andre GPUwerk-niveauer.

Udlejes efter først-til-mølle: udrul en B200, når der er ledig kapacitet, eller skriv dig på ventelisten i konsollen.

Specifikationer

Pr. GPU. GPU'en og dens hukommelse er kun dine under lejen.

NVIDIA B200
GPUB200, Blackwell-arkitektur
Hukommelse180 GB HBM3e
Hukommelsesbåndbredde8 TB/s
PræcisionFP4 og FP8 med anden generations Transformer Engine
Hostx86-vært
LejemodelGPU'en er kun din, mens du lejer den, aldrig delt

GPU-tal fra NVIDIA DGX B200. GPUwerk offentliggør kun tal for tok/s og træningsgennemløb fra kørsler på egen hardware. Se benchmarks for DGX Spark-flåden for, hvordan de rapporteres.

Hvad ville du køre på den?

Blackwell med 180 GB pr. GPU og FP4-understøttelse: skridtet op fra Hopper til træning og inferens med store modeller.

FP4- og FP8-inferens

Indbygget FP4 rummer en model med op til cirka 360B parametre, når kun vægtene tælles med; FP8 op til cirka 180B.

Træning og finjustering

Kørsler, der kræver mere hukommelse og båndbredde pr. GPU, end Hopper tilbyder.

Én GPU i stedet for to

Modeller, der ellers skulle deles over to H100'er eller H200'er.

Passer dårligt: små modeller

En model, der passer i 24 eller 48 GB, kører på en L4 eller L40S til en brøkdel af timeprisen.

Brug for alle otte GPU'er i én server? Se 8× B200-serveren.

Hvad passer i 180 GB

Kun vægte: hukommelse divideret med byte pr. parameter. Afsæt plads til KV-cachen, aktiveringer og runtime, ofte 10 til 30 % mere.

Største model ud fra vægtene alene på én B200
PræcisionPr. parameterStørste model, kun vægte
FP16 / BF162 bytecirka 90B parametre
FP81 bytecirka 180B parametre
FP4 (indbygget på Blackwell)0,5 bytecirka 360B parametre

Fakturering

Pris5 $,49 i timen, faktureret pr. minut
FaktureringPr. minut fra en forudbetalt kreditsaldo
GebyrerIngen gebyrer for udgående trafik
BindingIngen

Priserne er i USD, ekskl. gældende skat. Hele faktureringsmekanikken, inklusive hvad et stop og en afslutning gør, står på prissiden.

FAQ

Kan jeg leje en B200 nu?

Udrul den fra konsollen, når der er ledig kapacitet; når der ikke er, tilbyder konsollen en venteliste, og folk i køen får en e-mail én ad gangen, ældste først. Kapacitet holdes ikke til nogen: den, der udruller først, får den.

Hvordan fungerer faktureringen på dette niveau?

Det samme som alle GPUwerk-niveauer: pr. minut fra en forudbetalt kreditsaldo i USD, ekskl. gældende skat, uden gebyrer for udgående trafik og uden binding.

Brug for GPU-tid i dag?

En DGX Spark har 128 GB unified memory og kan lejes nu til 0 $,79/time, faktureret pr. minut. Første optankning: betal 20 $, få 30 $ i kredit. Eller udrul en B200.