GPU Cloud

L40S, dédiée.

Une machine L40S mono-GPU, 48 Go de GDDR6 sur l'architecture Ada Lovelace de NVIDIA, sur un hôte x86. 0,99 $ de l'heure, facturé à la minute, aux mêmes conditions que toutes les autres offres GPUwerk.

Louée au premier arrivé, premier servi : déployez une L40S quand de la capacité est libre, ou rejoignez sa liste d'attente dans la console.

Caractéristiques

Par nœud. Chaque instance GPUwerk, quelle que soit l'offre, est une machine entière rien que pour vous.

NVIDIA L40S
GPUL40S, architecture Ada Lovelace
Mémoire48 Go GDDR6
HébergerHôte x86
OccupationUn client par machine, jamais partagée

GPUwerk ne publie de chiffres de tok/s et de débit d'entraînement que pour des tests sur son propre matériel. Voir les benchmarks de la flotte DGX Spark pour la façon dont ils sont présentés.

Que feriez-vous tourner dessus ?

Avec 48 Go, la L40S se place entre les 32 Go de la 5090 et les 128 Go d'un Spark, avec une mémoire ECC de classe datacenter.

Inférence de modèles de taille moyenne

Modèles jusqu'à environ 40B paramètres en FP8, ou un modèle de classe 30B avec de la place pour le cache KV.

Graphisme et IA mélangés

Des RT cores et un moteur multimédia à côté de tensor cores FP8, pour les pipelines qui font du rendu et de l'inférence sur une même carte.

Fine-tunings LoRA

Entraînement d'adaptateurs sur des modèles de classe 7B à 13B, qui tient dans 48 Go avec de la marge.

Peu adapté : entraînement multi-GPU

Elle n'a pas de NVLink : un job qui a besoin de plusieurs GPU échangeant rapidement des données relève d'un serveur 8 GPU.

Ce qui tient dans 48 Go

Poids seuls : mémoire divisée par les octets par paramètre. Prévoyez de la marge pour le cache KV, les activations et le runtime, souvent 10 à 30 % de plus.

Plus grand modèle, poids seuls, sur une L40S
PrécisionPar paramètrePlus grand modèle, poids seuls
FP16 / BF162 octetsenviron 24B paramètres
FP81 octetenviron 48B paramètres
Quantifié en 4 bits0,5 octetenviron 96B paramètres (pas de FP4 natif sur Ada ; le runtime déquantifie)

Facturation

Tarif0,99 $ de l'heure, facturé à la minute
FacturationÀ la minute, sur un solde de crédit prépayé
FraisPas de frais de trafic sortant
EngagementAucun

Les prix sont en USD, hors taxes applicables. Le fonctionnement complet de la facturation, y compris l'effet d'un arrêt par rapport à une suppression, est détaillé sur la page des tarifs.

FAQ

Puis-je louer une L40S dès maintenant ?

Déployez-la depuis la console quand de la capacité est libre ; tant qu'il n'y en a pas, la console propose une liste d'attente et les personnes inscrites sont prévenues par e-mail une à une, de la plus ancienne à la plus récente. La capacité n'est réservée à personne : le premier qui déploie l'obtient.

Comment fonctionne la facturation pour cette offre ?

Comme pour toutes les offres GPUwerk : à la minute, sur un solde de crédit prépayé, en USD, hors taxes applicables, sans frais de trafic sortant et sans engagement.

Besoin de temps GPU aujourd'hui ?

Un DGX Spark dispose de 128 Go de mémoire unifiée et se loue dès maintenant, à 0,79 $/heure facturé à la minute. Première recharge : payez 20 $ recevez 30 $ de crédit. Voir comment un Spark se compare à une carte dédiée, ou rejoindre la liste d'attente L40S.