GPU облак
B200, самостоятелен.
Един GPU NVIDIA B200, 180 GB HBM3e на архитектурата Blackwell, на x86 хост. 5,49 $ на час, таксуване на минута, при същите условия като всяко друго ниво на GPUwerk.
Наема се по реда на заявките: стартирайте B200, когато има свободен капацитет, или се запишете в списъка му с чакащи в конзолата.
Спецификации
На GPU. GPU и неговата памет са само ваши за времето на наема.
| GPU | B200, архитектура Blackwell |
|---|---|
| Памет | 180 GB HBM3e |
| Пропускателна способност на паметта | 8 TB/s |
| Точност | FP4 и FP8 с второ поколение Transformer Engine |
| Хост | x86 хост |
| Наемане | GPU е само ваш, докато го наемате, никога споделен |
Данните за GPU са от NVIDIA DGX B200. GPUwerk публикува стойности за tok/s и производителност при обучение само за изпълнения на собствения си хардуер. Вижте бенчмарковете на парка от DGX Spark за това как се отчитат.
Какво бихте пуснали на него?
Blackwell със 180 GB на GPU и поддръжка на FP4: следващата стъпка след Hopper за обучение и inference на големи модели.
FP4 и FP8 inference
Нативният FP4 побира модел до около 360B параметъра само по тегла; FP8 — до около 180B.
Обучение и fine-tuning
Задачи, които изискват повече памет и пропускателна способност на GPU, отколкото предлага Hopper.
Един GPU вместо два
Модели, които иначе биха се разделили между два H100 или H200.
Не е подходящ: малки модели
Модел, който се побира в 24 или 48 GB, работи на L4 или L40S за част от часовата цена.
Нужни са ви и осемте GPU на един сървър? Вижте сървъра с 8× B200.
Какво се побира в 180 GB
Само тегла: паметта, разделена на байтовете на параметър. Оставете резерв за KV кеша, активациите и средата за изпълнение, често с 10 до 30% повече.
| Точност | На параметър | Най-голям модел, само тегла |
|---|---|---|
| FP16 / BF16 | 2 байта | около 90B параметъра |
| FP8 | 1 байт | около 180B параметъра |
| FP4 (нативно на Blackwell) | 0,5 байта | около 360B параметъра |
Плащания
| Цена | 5,49 $ на час, таксуване на минута |
|---|---|
| Плащания | На минута, от предплатен кредитен баланс |
| Такси | Без такси за изходящ трафик |
| Обвързване | Няма |
Цените са в USD, без приложимите данъци. Пълната механика на таксуването, включително какво прави спирането спрямо прекратяването, е на страницата с цени.
ЧЗВ
Мога ли да наема B200 сега?
Стартирайте го от конзолата, когато има свободен капацитет; докато няма, конзолата предлага списък с чакащи и хората на опашката получават имейл един по един, като най-старите са първи. Капацитетът не се пази за никого: който стартира пръв, го получава.
Как работи таксуването при това ниво?
Същото като при всяко ниво на GPUwerk: на минута, от предплатен кредитен баланс, в USD, без приложимите данъци, без такси за изходящ трафик и без обвързване.
Трябва ви GPU време днес?
DGX Spark има 128 GB унифицирана памет и може да се наеме още сега за 0,79 $/час, таксуване на минута. Първо внасяне: платете 20 $, получете 30 $ кредит. Или стартирайте B200.