Nube de GPU

RTX PRO 6000, dedicada.

Una máquina con una GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, 96 GB de GDDR7 con ECC y arquitectura Blackwell, en un host x86. 1,89 $ la hora, facturado por minuto, en las mismas condiciones que el resto de niveles de GPUwerk.

Se alquila por orden de llegada: despliega una RTX PRO 6000 cuando haya capacidad libre, o únete a su lista de espera en la consola.

Especificaciones

Por nodo. Cada instancia de GPUwerk, en cualquier nivel, es una máquina entera solo para ti.

NVIDIA RTX PRO 6000 Blackwell Server Edition
GPURTX PRO 6000 Blackwell Server Edition, arquitectura Blackwell
Memoria96 GB GDDR7 con ECC
Ancho de banda de memoria1597 GB/s
Núcleos CUDA24.064
Potencia máximaHasta 600 W, configurable
MIGHasta 4 instancias de 24 GB
AlojarHost x86
UsoUn cliente por máquina, nunca compartida

Cifras de GPU de NVIDIA RTX PRO 6000 Blackwell Server Edition. GPUwerk solo publica cifras de tok/s y de rendimiento de entrenamiento de ejecuciones en su propio hardware. Consulta los benchmarks de la flota de DGX Spark para ver cómo se presentan.

¿Qué ejecutarías en él?

96 GB en una sola tarjeta, con Tensor Cores de quinta generación que ejecutan FP4.

Modelos de clase 70B en una sola GPU

Un modelo de 70B en FP8 cabe en 96 GB con algo de margen para la caché KV, sin repartirlo entre varias GPU.

Inferencia en FP4

Blackwell ejecuta FP4 de forma nativa, así que un modelo de 4 bits de hasta unos 192B parámetros cabe solo por pesos.

Gráficos e IA en una sola tarjeta

RT cores y un gran búfer de fotogramas para renderizado o simulación junto al trabajo con modelos.

No encaja: entrenamiento multi-GPU

No tiene NVLink, así que un trabajo que necesita varias GPU intercambiando datos rápidamente corresponde a un servidor de 8 GPU.

Varios trabajos más pequeños

MIG divide la tarjeta en hasta cuatro GPU aisladas de 24 GB, para servir más de un modelo a la vez.

Qué cabe en 96 GB

Solo pesos: memoria dividida entre bytes por parámetro. Deja margen para la caché KV, las activaciones y el runtime, a menudo entre un 10 y un 30% más.

Mayor modelo por pesos en una sola RTX PRO 6000
PrecisiónPor parámetroMayor modelo, solo pesos
FP16 / BF162 bytesunos 48B parámetros
FP81 byteunos 96B parámetros
FP4 (nativo en Blackwell)0,5 bytesunos 192B parámetros

Facturación

Tarifa1,89 $ la hora, facturado por minuto
FacturaciónPor minuto, con un saldo de crédito prepago
TarifasSin tarifas de tráfico de salida
CompromisoNinguno

Los precios están en USD, sin los impuestos aplicables. Toda la mecánica de facturación, incluido qué hace detener frente a terminar, está en la página de precios.

Preguntas frecuentes

¿Puedo alquilar una RTX PRO 6000 ya?

Despliégala desde la consola cuando haya capacidad libre; mientras no la haya, la consola ofrece una lista de espera y se avisa por correo a las personas en cola de una en una, empezando por la más antigua. La capacidad no se reserva para nadie: quien despliega primero se la queda.

¿Cómo funciona la facturación en este nivel?

Igual que en todos los niveles de GPUwerk: por minuto, con un saldo de crédito prepago, en USD, sin los impuestos aplicables, sin tarifas de tráfico de salida y sin compromiso.

¿Necesitas GPU hoy?

Un DGX Spark tiene 128 GB de memoria unificada y se puede alquilar ya, a 0,79 $/hora facturado por minuto. Primera recarga: paga 20 $ y recibe 30 $ de crédito. Mira cómo se compara un DGX Spark, o únete a la lista de espera de la RTX PRO 6000.