GPU Cloud
L40S, dédiée.
Une machine L40S mono-GPU, 48 Go de GDDR6 sur l'architecture Ada Lovelace de NVIDIA, sur un hôte x86. 0,99 $ de l'heure, facturé à la minute, aux mêmes conditions que toutes les autres offres GPUwerk.
Louée au premier arrivé, premier servi : déployez une L40S quand de la capacité est libre, ou rejoignez sa liste d'attente dans la console.
Caractéristiques
Par nœud. Chaque instance GPUwerk, quelle que soit l'offre, est une machine entière rien que pour vous.
| GPU | L40S, architecture Ada Lovelace |
|---|---|
| Mémoire | 48 Go GDDR6 |
| Héberger | Hôte x86 |
| Occupation | Un client par machine, jamais partagée |
GPUwerk ne publie de chiffres de tok/s et de débit d'entraînement que pour des tests sur son propre matériel. Voir les benchmarks de la flotte DGX Spark pour la façon dont ils sont présentés.
Que feriez-vous tourner dessus ?
Avec 48 Go, la L40S se place entre les 32 Go de la 5090 et les 128 Go d'un Spark, avec une mémoire ECC de classe datacenter.
Inférence de modèles de taille moyenne
Modèles jusqu'à environ 40B paramètres en FP8, ou un modèle de classe 30B avec de la place pour le cache KV.
Graphisme et IA mélangés
Des RT cores et un moteur multimédia à côté de tensor cores FP8, pour les pipelines qui font du rendu et de l'inférence sur une même carte.
Fine-tunings LoRA
Entraînement d'adaptateurs sur des modèles de classe 7B à 13B, qui tient dans 48 Go avec de la marge.
Peu adapté : entraînement multi-GPU
Elle n'a pas de NVLink : un job qui a besoin de plusieurs GPU échangeant rapidement des données relève d'un serveur 8 GPU.
Ce qui tient dans 48 Go
Poids seuls : mémoire divisée par les octets par paramètre. Prévoyez de la marge pour le cache KV, les activations et le runtime, souvent 10 à 30 % de plus.
| Précision | Par paramètre | Plus grand modèle, poids seuls |
|---|---|---|
| FP16 / BF16 | 2 octets | environ 24B paramètres |
| FP8 | 1 octet | environ 48B paramètres |
| Quantifié en 4 bits | 0,5 octet | environ 96B paramètres (pas de FP4 natif sur Ada ; le runtime déquantifie) |
Facturation
| Tarif | 0,99 $ de l'heure, facturé à la minute |
|---|---|
| Facturation | À la minute, sur un solde de crédit prépayé |
| Frais | Pas de frais de trafic sortant |
| Engagement | Aucun |
Les prix sont en USD, hors taxes applicables. Le fonctionnement complet de la facturation, y compris l'effet d'un arrêt par rapport à une suppression, est détaillé sur la page des tarifs.
FAQ
Puis-je louer une L40S dès maintenant ?
Déployez-la depuis la console quand de la capacité est libre ; tant qu'il n'y en a pas, la console propose une liste d'attente et les personnes inscrites sont prévenues par e-mail une à une, de la plus ancienne à la plus récente. La capacité n'est réservée à personne : le premier qui déploie l'obtient.
Comment fonctionne la facturation pour cette offre ?
Comme pour toutes les offres GPUwerk : à la minute, sur un solde de crédit prépayé, en USD, hors taxes applicables, sans frais de trafic sortant et sans engagement.
Besoin de temps GPU aujourd'hui ?
Un DGX Spark dispose de 128 Go de mémoire unifiée et se loue dès maintenant, à 0,79 $/heure facturé à la minute. Première recharge : payez 20 $ recevez 30 $ de crédit. Voir comment un Spark se compare à une carte dédiée, ou rejoindre la liste d'attente L40S.