GPU Cloud

L4, dédiée.

Un GPU NVIDIA L4 unique, 24 Go GDDR6 sur l'architecture Ada Lovelace, sur un hôte x86. 0,49 $ de l'heure, facturé à la minute, aux mêmes conditions que toutes les autres offres GPUwerk.

Louée au premier arrivé, premier servi : déployez une L4 quand de la capacité est libre, ou rejoignez sa liste d'attente dans la console.

Caractéristiques

Par GPU. Le GPU et sa mémoire sont à vous seul pendant la location.

NVIDIA L4
GPUL4, architecture Ada Lovelace
Mémoire24 Go GDDR6
Bande passante mémoire300 Go/s
Cœurs CUDA7 424
Puissance max.Jusqu'à 72 W
HébergerHôte x86
OccupationLe GPU est à vous seul pendant la location, jamais partagé

Chiffres GPU tirés de NVIDIA L4. GPUwerk ne publie de chiffres de tok/s et de débit d'entraînement que pour des tests sur son propre matériel. Voir les benchmarks de la flotte DGX Spark pour la façon dont ils sont présentés.

Que feriez-vous tourner dessus ?

Une carte d'inférence basse consommation : 24 Go pour 72 W, pour les modèles qui y tiennent et un trafic qui ne nécessite pas une H100.

Inférence de petits modèles

Modèles de chat ou de complétion jusqu'à environ 14B paramètres en FP8, et modèles d'embedding ou de reranking derrière une API, où 24 Go suffisent.

Pipelines vidéo et vision

Encodage et décodage vidéo matériels à côté du GPU, pour le transcodage ou pour les modèles de vision qui lisent des images vidéo.

Développement à faible coût

Construire et tester une pile de service sur un GPU bon marché avant de la passer sur un plus gros.

Peu adapté : entraînement et gros fine-tunings

24 Go laissent peu de place pour les gradients et l'état de l'optimiseur : au-delà d'un petit LoRA, il faut une H100 ou plus.

Besoin de plus de mémoire ? Voir la L40S (48 Go) ou la H100 (80 Go).

Ce qui tient dans 24 Go

Poids seuls : mémoire divisée par les octets par paramètre. Prévoyez de la marge pour le cache KV, les activations et le runtime, souvent 10 à 30 % de plus.

Plus grand modèle, poids seuls, sur une L4
PrécisionPar paramètrePlus grand modèle, poids seuls
FP16 / BF162 octetsenviron 12B paramètres
FP81 octetenviron 24B paramètres
Quantifié en 4 bits0,5 octetenviron 48B paramètres (pas de FP4 natif sur Ada ; le runtime déquantifie)

Facturation

Tarif0,49 $ de l'heure, facturé à la minute
FacturationÀ la minute, sur un solde de crédit prépayé
FraisPas de frais de trafic sortant
EngagementAucun

Les prix sont en USD, hors taxes applicables. Le fonctionnement complet de la facturation, y compris l'effet d'un arrêt par rapport à une suppression, est détaillé sur la page des tarifs.

FAQ

Puis-je louer une L4 dès maintenant ?

Déployez-la depuis la console quand de la capacité est libre ; tant qu'il n'y en a pas, la console propose une liste d'attente et les personnes inscrites sont prévenues par e-mail une à une, de la plus ancienne à la plus récente. La capacité n'est réservée à personne : le premier qui déploie l'obtient.

Comment fonctionne la facturation pour cette offre ?

Comme pour toutes les offres GPUwerk : à la minute, sur un solde de crédit prépayé, en USD, hors taxes applicables, sans frais de trafic sortant et sans engagement.

Besoin de temps GPU aujourd'hui ?

Un DGX Spark dispose de 128 Go de mémoire unifiée et se loue dès maintenant, à 0,79 $/heure facturé à la minute. Première recharge : payez 20 $ recevez 30 $ de crédit. Ou déployez une L4.