GPU cloud

B200, dedikovaná.

Jedna GPU NVIDIA B200, 180 GB HBM3e na architektuře Blackwell, na hostiteli x86. 5,49 $ za hodinu, účtováno po minutách, za stejných podmínek jako všechny ostatní úrovně GPUwerk.

Pronajímá se podle pořadí: nasaďte B200, když je kapacita volná, nebo se zapište do pořadníku v konzoli.

Specifikace

Za GPU. GPU a její paměť jsou po dobu pronájmu jen vaše.

NVIDIA B200
GPUB200, architektura Blackwell
Paměť180 GB HBM3e
Propustnost paměti8 TB/s
PřesnostFP4 a FP8 s Transformer Engine druhé generace
HostovatHostitel x86
NájemPo dobu pronájmu je GPU jen vaše, nikdy sdílená

Údaje o GPU z NVIDIA DGX B200. GPUwerk zveřejňuje údaje o tok/s a propustnosti trénování jen z měření na vlastním hardwaru. Jak se uvádějí, viz benchmarky flotily DGX Sparků.

Co byste na něm provozovali?

Blackwell se 180 GB na GPU a podporou FP4: krok nahoru od Hopperu pro trénování a inferenci velkých modelů.

Inference v FP4 a FP8

Nativní FP4 pojme model až do zhruba 360B parametrů podle samotných vah; FP8 až do zhruba 180B.

Trénování a fine-tuning

Běhy, které potřebují víc paměti a propustnosti na GPU, než nabízí Hopper.

Jedna GPU místo dvou

Modely, které by se jinak musely rozdělit mezi dvě H100 nebo H200.

Nevhodné: malé modely

Model, který se vejde do 24 nebo 48 GB, běží na L4 nebo L40S za zlomek hodinové sazby.

Potřebujete všech osm GPU jednoho serveru? Viz server 8× B200.

Co se vejde do 180 GB

Jen váhy: paměť dělená bajty na parametr. Nechte rezervu pro KV cache, aktivace a runtime, často o 10 až 30 % víc.

Největší model podle samotných vah na jedné B200
PřesnostNa parametrNejvětší model, jen váhy
FP16 / BF162 bajtyzhruba 90B parametrů
FP81 bajtzhruba 180B parametrů
FP4 (nativně na Blackwell)0,5 bajtuzhruba 360B parametrů

Fakturace

Sazba5,49 $ za hodinu, účtováno po minutách
FakturacePo minutách, z předplaceného kreditu
PoplatkyŽádné poplatky za odchozí data
ZávazekŽádné

Ceny jsou v USD, bez příslušné daně. Úplné fungování účtování, včetně toho, co dělá zastavení oproti ukončení, popisuje stránka s ceníkem.

FAQ

Mohu si B200 pronajmout hned?

Nasaďte ho z konzole, když je kapacita volná; dokud není, konzole nabízí pořadník a lidé ve frontě dostávají e-mail jeden po druhém, od nejstaršího. Kapacita se pro nikoho nedrží: dostane ji ten, kdo nasadí první.

Jak funguje účtování na této úrovni?

Stejně jako u každé úrovně GPUwerk: po minutách, z předplaceného kreditu, v USD, bez příslušné daně, bez poplatků za odchozí data a bez závazku.

Potřebujete GPU ještě dnes?

DGX Spark má 128 GB sjednocené paměti a je k pronájmu hned, za 0,79 $/hod účtováno po minutách. První dobití: zaplaťte 20 $, získejte 30 $ kreditu. Nebo nasaďte B200.