Nube de GPU
L4, dedicada.
Una GPU NVIDIA L4, 24 GB GDDR6 con arquitectura Ada Lovelace, en un host x86. 0,49 $ la hora, facturado por minuto, en las mismas condiciones que el resto de niveles de GPUwerk.
Se alquila por orden de llegada: despliega una L4 cuando haya capacidad libre, o únete a su lista de espera en la consola.
Especificaciones
Por GPU. La GPU y su memoria son solo tuyas durante el alquiler.
| GPU | L4, arquitectura Ada Lovelace |
|---|---|
| Memoria | 24 GB GDDR6 |
| Ancho de banda de memoria | 300 GB/s |
| Núcleos CUDA | 7.424 |
| Potencia máxima | Hasta 72 W |
| Alojar | Host x86 |
| Uso | La GPU es solo tuya mientras la alquilas, nunca compartida |
Cifras de GPU de NVIDIA L4. GPUwerk solo publica cifras de tok/s y de rendimiento de entrenamiento de ejecuciones en su propio hardware. Consulta los benchmarks de la flota de DGX Spark para ver cómo se presentan.
¿Qué ejecutarías en él?
Una tarjeta de inferencia de bajo consumo: 24 GB a 72 W, para modelos que caben y tráfico que no necesita una H100.
Inferencia de modelos pequeños
Modelos de chat o de completado de hasta unos 14B parámetros en FP8, y modelos de embeddings o reranking detrás de una API, donde 24 GB bastan.
Pipelines de vídeo y visión
Codificación y decodificación de vídeo por hardware junto a la GPU, para transcodificar o para modelos de visión que leen fotogramas de vídeo.
Desarrollo de bajo coste
Montar y probar un stack de servicio en una GPU barata antes de pasarlo a una más grande.
No encaja: entrenamiento y fine-tunings grandes
24 GB dejan poco margen para gradientes y estado del optimizador, así que todo lo que vaya más allá de un LoRA pequeño corresponde a una H100 o superior.
¿Necesitas más memoria? Consulta la L40S (48 GB) o la H100 (80 GB).
Qué cabe en 24 GB
Solo pesos: memoria dividida entre bytes por parámetro. Deja margen para la caché KV, las activaciones y el runtime, a menudo entre un 10 y un 30% más.
| Precisión | Por parámetro | Mayor modelo, solo pesos |
|---|---|---|
| FP16 / BF16 | 2 bytes | unos 12B parámetros |
| FP8 | 1 byte | unos 24B parámetros |
| Cuantizado a 4 bits | 0,5 bytes | unos 48B parámetros (sin FP4 nativo en Ada; el runtime descuantiza) |
Facturación
| Tarifa | 0,49 $ la hora, facturado por minuto |
|---|---|
| Facturación | Por minuto, con un saldo de crédito prepago |
| Tarifas | Sin tarifas de tráfico de salida |
| Compromiso | Ninguno |
Los precios están en USD, sin los impuestos aplicables. Toda la mecánica de facturación, incluido qué hace detener frente a terminar, está en la página de precios.
Preguntas frecuentes
¿Puedo alquilar una L4 ya?
Despliégala desde la consola cuando haya capacidad libre; mientras no la haya, la consola ofrece una lista de espera y se avisa por correo a las personas en cola de una en una, empezando por la más antigua. La capacidad no se reserva para nadie: quien despliega primero se la queda.
¿Cómo funciona la facturación en este nivel?
Igual que en todos los niveles de GPUwerk: por minuto, con un saldo de crédito prepago, en USD, sin los impuestos aplicables, sin tarifas de tráfico de salida y sin compromiso.
¿Necesitas GPU hoy?
Un DGX Spark tiene 128 GB de memoria unificada y se puede alquilar ya, a 0,79 $/hora facturado por minuto. Primera recarga: paga 20 $ y recibe 30 $ de crédito. O despliega una L4.