Nube de GPU
L40S, dedicada.
Una máquina con una GPU L40S, 48 GB de GDDR6 con la arquitectura Ada Lovelace de NVIDIA, en un host x86. 0,99 $ la hora, facturado por minuto, en las mismas condiciones que el resto de niveles de GPUwerk.
Se alquila por orden de llegada: despliega una L40S cuando haya capacidad libre, o únete a su lista de espera en la consola.
Especificaciones
Por nodo. Cada instancia de GPUwerk, en cualquier nivel, es una máquina entera solo para ti.
| GPU | L40S, arquitectura Ada Lovelace |
|---|---|
| Memoria | 48 GB GDDR6 |
| Alojar | Host x86 |
| Uso | Un cliente por máquina, nunca compartida |
GPUwerk solo publica cifras de tok/s y de rendimiento de entrenamiento de ejecuciones en su propio hardware. Consulta los benchmarks de la flota de DGX Spark para ver cómo se presentan.
¿Qué ejecutarías en él?
Con 48 GB, la L40S se sitúa entre los 32 GB de la 5090 y los 128 GB de un Spark, con memoria ECC de clase centro de datos.
Inferencia de modelos medianos
Modelos de hasta unos 40B parámetros en FP8, o un modelo de clase 30B con margen para la caché KV.
Gráficos e IA combinados
RT cores y un motor multimedia junto a Tensor Cores FP8, para pipelines que renderizan e infieren en una misma tarjeta.
Fine-tunings con LoRA
Entrenamiento de adaptadores en modelos de clase 7B a 13B, que cabe en 48 GB con margen.
No encaja: entrenamiento multi-GPU
No tiene NVLink, así que un trabajo que necesita varias GPU intercambiando datos rápidamente corresponde a un servidor de 8 GPU.
Qué cabe en 48 GB
Solo pesos: memoria dividida entre bytes por parámetro. Deja margen para la caché KV, las activaciones y el runtime, a menudo entre un 10 y un 30% más.
| Precisión | Por parámetro | Mayor modelo, solo pesos |
|---|---|---|
| FP16 / BF16 | 2 bytes | unos 24B parámetros |
| FP8 | 1 byte | unos 48B parámetros |
| Cuantizado a 4 bits | 0,5 bytes | unos 96B parámetros (sin FP4 nativo en Ada; el runtime descuantiza) |
Facturación
| Tarifa | 0,99 $ la hora, facturado por minuto |
|---|---|
| Facturación | Por minuto, con un saldo de crédito prepago |
| Tarifas | Sin tarifas de tráfico de salida |
| Compromiso | Ninguno |
Los precios están en USD, sin los impuestos aplicables. Toda la mecánica de facturación, incluido qué hace detener frente a terminar, está en la página de precios.
Preguntas frecuentes
¿Puedo alquilar una L40S ya?
Despliégala desde la consola cuando haya capacidad libre; mientras no la haya, la consola ofrece una lista de espera y se avisa por correo a las personas en cola de una en una, empezando por la más antigua. La capacidad no se reserva para nadie: quien despliega primero se la queda.
¿Cómo funciona la facturación en este nivel?
Igual que en todos los niveles de GPUwerk: por minuto, con un saldo de crédito prepago, en USD, sin los impuestos aplicables, sin tarifas de tráfico de salida y sin compromiso.
¿Necesitas GPU hoy?
Un DGX Spark tiene 128 GB de memoria unificada y se puede alquilar ya, a 0,79 $/hora facturado por minuto. Primera recarga: paga 20 $ y recibe 30 $ de crédito. Mira cómo se compara un Spark con una tarjeta dedicada, o únete a la lista de espera de la L40S.