Nube de GPU

RTX 6000 Ada, dedicada.

Una máquina con una GPU NVIDIA RTX 6000 Ada Generation, 48 GB de GDDR6 con ECC y arquitectura Ada Lovelace, en un host x86. 0,75 $ la hora, facturado por minuto, en las mismas condiciones que el resto de niveles de GPUwerk.

Se alquila por orden de llegada: despliega una RTX 6000 Ada cuando haya capacidad libre, o únete a su lista de espera en la consola.

Especificaciones

Por nodo. Cada instancia de GPUwerk, en cualquier nivel, es una máquina entera solo para ti.

NVIDIA RTX 6000 Ada Generation
GPURTX 6000 Ada Generation, arquitectura Ada Lovelace
Memoria48 GB GDDR6 con ECC
Ancho de banda de memoria960 GB/s
Núcleos CUDA18.176
Potencia máxima300 W
AlojarHost x86
UsoUn cliente por máquina, nunca compartida

Cifras de GPU de NVIDIA RTX 6000 Ada. GPUwerk solo publica cifras de tok/s y de rendimiento de entrenamiento de ejecuciones en su propio hardware. Consulta los benchmarks de la flota de DGX Spark para ver cómo se presentan.

¿Qué ejecutarías en él?

48 GB con ECC: la misma memoria que una L40S, en una tarjeta de clase estación de trabajo.

Inferencia de modelos medianos

Modelos de hasta unos 40B parámetros en FP8, o un modelo de clase 30B con margen para la caché KV.

Renderizado y gráficos

RT cores y un driver de clase estación de trabajo para renderizado, simulación o pipelines mixtos de gráficos e IA.

Fine-tunings con LoRA

Entrenamiento de adaptadores en modelos de clase 7B a 13B, que cabe en 48 GB con margen.

No encaja: entrenamiento multi-GPU

No tiene NVLink, así que un trabajo que necesita varias GPU intercambiando datos rápidamente corresponde a un servidor de 8 GPU.

Qué cabe en 48 GB

Solo pesos: memoria dividida entre bytes por parámetro. Deja margen para la caché KV, las activaciones y el runtime, a menudo entre un 10 y un 30% más.

Mayor modelo por pesos en una sola RTX 6000 Ada
PrecisiónPor parámetroMayor modelo, solo pesos
FP16 / BF162 bytesunos 24B parámetros
FP81 byteunos 48B parámetros
Cuantizado a 4 bits0,5 bytesunos 96B parámetros (sin FP4 nativo en Ada; el runtime descuantiza)

Facturación

Tarifa0,75 $ la hora, facturado por minuto
FacturaciónPor minuto, con un saldo de crédito prepago
TarifasSin tarifas de tráfico de salida
CompromisoNinguno

Los precios están en USD, sin los impuestos aplicables. Toda la mecánica de facturación, incluido qué hace detener frente a terminar, está en la página de precios.

Preguntas frecuentes

¿Puedo alquilar una RTX 6000 Ada ya?

Despliégala desde la consola cuando haya capacidad libre; mientras no la haya, la consola ofrece una lista de espera y se avisa por correo a las personas en cola de una en una, empezando por la más antigua. La capacidad no se reserva para nadie: quien despliega primero se la queda.

¿Cómo funciona la facturación en este nivel?

Igual que en todos los niveles de GPUwerk: por minuto, con un saldo de crédito prepago, en USD, sin los impuestos aplicables, sin tarifas de tráfico de salida y sin compromiso.

¿Necesitas GPU hoy?

Un DGX Spark tiene 128 GB de memoria unificada y se puede alquilar ya, a 0,79 $/hora facturado por minuto. Primera recarga: paga 20 $ y recibe 30 $ de crédito. Compáralo con la L40S, o únete a la lista de espera de la RTX 6000 Ada.