GPU облак
RTX 5090, самостоятелен.
Машина с един GPU RTX 5090, 32 GB GDDR7 на архитектурата Blackwell на NVIDIA, на x86 хост. Може да се наеме още сега за 0,89 $ на час, таксуване на минута, при същите условия като всяко друго ниво на GPUwerk. Работи в центъра за данни EU-Central на GPUwerk в Чехия и се свързвате през SSH със собствен ключ. Прекратете, когато приключите, и таксуването спира.
Може да се наеме сега, една машина. GPUwerk има един RTX 5090, който се наема по реда на заявките. Стартирайте го, когато е свободен; докато е зает, се запишете в списъка му с чакащи и GPUwerk ще ви изпрати имейл, когато се освободи.
Спецификации
На възел. Всяка инстанция на GPUwerk, във всяко ниво, е една цяла машина само за вас.
| GPU | RTX 5090, архитектура Blackwell |
|---|---|
| Памет | 32 GB GDDR7 |
| Хост | x86-64 Intel хост; до 48 GB системна RAM за инстанцията ви |
| Наемане | Един клиент на машина, никога споделена |
Все още не са публикувани стойности за tok/s или производителност при обучение: GPUwerk публикува стойности само след като ги е измерил на собствения си хардуер, а измерванията на RTX 5090 все още не са публикувани. Вижте бенчмарковете на парка от DGX Spark за това как се отчитат. Данни от трети страни за тази карта са събрани в LLM бенчмаркове на RTX 5090; кои модели се побират в 32 GB — в най-добрите LLM за RTX 5090, а ограниченията при обучение — във fine-tuning на RTX 5090.
Какво бихте пуснали на него?
32 GB бърза VRAM е оптималният избор при потребителските карти за един модел, който се побира без силна квантизация.
Генериране на изображения и видео
Diffusion конвейери, които искат сурова пропускателна способност на VRAM, а не капацитет на унифицирана памет: случаят, в който дискретен GPU обикновено побеждава Spark.
Обслужване на модели със среден размер
Модел от класа 13B до 32B при Q4 до Q8 се побира спокойно, с място за разумен размер на партидата.
Бърза итерация
CUDA изчисления от потребителски клас за fine-tuning или цикъл на оценка на един разработчик, където 128 GB на Spark са повече капацитет, отколкото задачата изисква.
Плащания
| Цена | 0,89 $ на час |
|---|---|
| Плащания | На минута, от предплатен кредитен баланс |
| Такси | Без такси за изходящ трафик |
| Обвързване | Няма |
Цените са в USD, без приложимите данъци. Пълната механика на таксуването, включително какво прави спирането спрямо прекратяването, е на страницата с цени.
ЧЗВ
Мога ли да наема RTX 5090 сега?
Да. GPUwerk има една машина RTX 5090, която се наема по реда на заявките за 0,89 $ на час. Влезте, изберете RTX 5090 при стартиране и добавете SSH ключ; получавате собствен публичен IP адрес със SSH. Когато е заета, се запишете в списъка ѝ с чакащи и GPUwerk изпраща имейл на хората на опашката един по един, когато се освободи.
Каква е конфигурацията на хоста около GPU?
Конфигурацията на хоста (CPU, системна RAM, хранилище) на инсталираната машина се показва в конзолата, когато стартирате. GPUwerk публикува стойности на тази страница само след като ги е измерил на собствения си хардуер.
Как работи таксуването при това ниво?
Същото като при всяко ниво на GPUwerk: на минута, от предплатен кредитен баланс, в USD, без приложимите данъци, без такси за изходящ трафик и без обвързване.
Трябва ви GPU време днес?
DGX Spark има 128 GB унифицирана памет и може да се наеме още сега за 0,79 $/час, таксуване на минута. Първо внасяне: платете 20 $, получете 30 $ кредит. Вижте как се сравнява Spark с дискретна карта или стартирайте RTX 5090.