GPU cloud

B300, dedikovaná.

Jedna GPU NVIDIA B300, 288 GB HBM3e na architektuře Blackwell Ultra, na hostiteli x86. 6,49 $ za hodinu, účtováno po minutách, za stejných podmínek jako všechny ostatní úrovně GPUwerk.

Pronajímá se podle pořadí: nasaďte B300, když je kapacita volná, nebo se zapište do pořadníku v konzoli.

Specifikace

Za GPU. GPU a její paměť jsou po dobu pronájmu jen vaše.

NVIDIA B300
GPUB300, architektura Blackwell Ultra
Paměť288 GB HBM3e
Propustnost paměti8 TB/s
PřesnostFP4 a FP8 s Transformer Engine druhé generace
HostovatHostitel x86
NájemPo dobu pronájmu je GPU jen vaše, nikdy sdílená

Údaje o GPU z NVIDIA HGX. GPUwerk zveřejňuje údaje o tok/s a propustnosti trénování jen z měření na vlastním hardwaru. Jak se uvádějí, viz benchmarky flotily DGX Sparků.

Co byste na něm provozovali?

Blackwell Ultra s 288 GB na GPU: nejvíc paměti na jedné GPU v katalogu GPUwerk.

Největší modely na jedné GPU

Až zhruba 288B parametrů v FP8, nebo zhruba 576B v FP4, podle samotných vah, na jedné GPU.

Uvažování a dlouhý kontext

Paměť pro dlouhé KV cache, které vytvářejí modely s uvažováním a velmi dlouhé prompty.

Trénování omezené pamětí

Fine-tuning a trénování, kterým na B200 dochází paměť.

Nevhodné: malé nebo středně velké modely

Model, který se vejde do 80 až 141 GB, vyjde na hodinu levněji na H100 nebo H200.

Potřebujete všech osm GPU jednoho serveru? Viz server 8× B300.

Co se vejde do 288 GB

Jen váhy: paměť dělená bajty na parametr. Nechte rezervu pro KV cache, aktivace a runtime, často o 10 až 30 % víc.

Největší model podle samotných vah na jedné B300
PřesnostNa parametrNejvětší model, jen váhy
FP16 / BF162 bajtyzhruba 144B parametrů
FP81 bajtzhruba 288B parametrů
FP4 (nativně na Blackwell Ultra)0,5 bajtuzhruba 576B parametrů

Fakturace

Sazba6,49 $ za hodinu, účtováno po minutách
FakturacePo minutách, z předplaceného kreditu
PoplatkyŽádné poplatky za odchozí data
ZávazekŽádné

Ceny jsou v USD, bez příslušné daně. Úplné fungování účtování, včetně toho, co dělá zastavení oproti ukončení, popisuje stránka s ceníkem.

FAQ

Mohu si B300 pronajmout hned?

Nasaďte ho z konzole, když je kapacita volná; dokud není, konzole nabízí pořadník a lidé ve frontě dostávají e-mail jeden po druhém, od nejstaršího. Kapacita se pro nikoho nedrží: dostane ji ten, kdo nasadí první.

Jak funguje účtování na této úrovni?

Stejně jako u každé úrovně GPUwerk: po minutách, z předplaceného kreditu, v USD, bez příslušné daně, bez poplatků za odchozí data a bez závazku.

Potřebujete GPU ještě dnes?

DGX Spark má 128 GB sjednocené paměti a je k pronájmu hned, za 0,79 $/hod účtováno po minutách. První dobití: zaplaťte 20 $, získejte 30 $ kreditu. Nebo nasaďte B300.