Cloud GPU
RTX 6000 Ada, dedicat.
O mașină NVIDIA RTX 6000 Ada Generation cu un singur GPU, 48 GB GDDR6 cu ECC pe arhitectura Ada Lovelace, pe o gazdă x86. 0,75 $ pe oră, facturat pe minut, în aceleași condiții ca orice alt nivel GPUwerk.
Închiriat în ordinea sosirii: lansați un RTX 6000 Ada când există capacitate liberă sau înscrieți-vă pe lista lui de așteptare în consolă.
Specificații
Per nod. Fiecare instanță GPUwerk, pe orice nivel, este o mașină întreagă doar pentru dvs.
| GPU | RTX 6000 Ada Generation, arhitectura Ada Lovelace |
|---|---|
| Memorie | 48 GB GDDR6 cu ECC |
| Lățime de bandă a memoriei | 960 GB/s |
| Nuclee CUDA | 18.176 |
| Putere maximă | 300 W |
| Găzduiți | Gazdă x86 |
| Închiriere | Un singur client per mașină, niciodată partajată |
Cifrele GPU de pe NVIDIA RTX 6000 Ada. GPUwerk publică cifre de tok/s și de debit la antrenare doar pentru rulările pe propriul hardware. Vedeți benchmark-urile pe flota DGX Spark pentru modul în care sunt raportate.
Ce ați rula pe el?
48 GB cu ECC: aceeași memorie ca un L40S, pe o placă de clasă workstation.
Inferență pentru modele medii
Modele de până la aproximativ 40B parametri la FP8 sau un model din clasa 30B cu loc pentru cache-ul KV.
Randare și grafică
RT cores și un driver de clasă workstation pentru randare, simulare sau pipeline-uri mixte de grafică și AI.
Fine-tuning LoRA
Antrenarea de adaptoare pe modele din clasa 7B până la 13B, care încap în 48 GB cu rezervă.
Potrivire slabă: antrenare multi-GPU
Nu are NVLink, deci un job care necesită mai multe GPU-uri care schimbă rapid date își are locul pe un server cu 8 GPU.
Ce încape în 48 GB
Doar ponderile: memoria împărțită la octeții per parametru. Lăsați rezervă pentru cache-ul KV, activări și runtime, adesea cu 10 până la 30% mai mult.
| Precizie | Per parametru | Cel mai mare model, doar ponderile |
|---|---|---|
| FP16 / BF16 | 2 octeți | aproximativ 24B parametri |
| FP8 | 1 octet | aproximativ 48B parametri |
| Cuantizat pe 4 biți | 0,5 octeți | aproximativ 96B parametri (Ada nu are FP4 nativ; runtime-ul decuantizează) |
Facturare
| Tarif | 0,75 $ pe oră, facturat pe minut |
|---|---|
| Facturare | Pe minut, din soldul de credit preplătit |
| Comisioane | Fără taxe pentru traficul de ieșire |
| Angajament | Niciunul |
Prețurile sunt în USD, fără taxele aplicabile. Mecanismul complet de facturare, inclusiv ce face o oprire față de o terminare, este pe pagina de prețuri.
Întrebări frecvente
Pot închiria acum un RTX 6000 Ada?
Lansați-l din consolă când există capacitate liberă; cât timp nu există, consola oferă o listă de așteptare, iar persoanele de la coadă primesc e-mail una câte una, începând cu cea mai veche. Capacitatea nu este rezervată pentru nimeni: cine lansează primul o obține.
Cum funcționează facturarea pe acest nivel?
La fel ca la orice nivel GPUwerk: pe minut, din soldul de credit preplătit, în USD, fără taxele aplicabile, fără taxe pentru traficul de ieșire și fără angajament.
Aveți nevoie de timp GPU azi?
Un DGX Spark are 128 GB de memorie unificată și poate fi închiriat acum, la 0,79 $/oră facturat pe minut. Prima reîncărcare: plătiți 20 $, primiți 30 $ credit. Comparați-l cu L40S sau înscrieți-vă pe lista de așteptare RTX 6000 Ada.