Cloud GPU
B300, dedicat.
Un singur GPU NVIDIA B300, 288 GB HBM3e pe arhitectura Blackwell Ultra, pe o gazdă x86. 6,49 $ pe oră, facturat pe minut, în aceleași condiții ca orice alt nivel GPUwerk.
Închiriat în ordinea sosirii: lansați un B300 când există capacitate liberă sau înscrieți-vă pe lista lui de așteptare în consolă.
Specificații
Per GPU. GPU-ul și memoria lui sunt doar ale dvs. pe durata închirierii.
| GPU | B300, arhitectura Blackwell Ultra |
|---|---|
| Memorie | 288 GB HBM3e |
| Lățime de bandă a memoriei | 8 TB/s |
| Precizie | FP4 și FP8 cu Transformer Engine de a doua generație |
| Găzduiți | Gazdă x86 |
| Închiriere | GPU-ul este doar al dvs. cât timp îl închiriați, niciodată partajat |
Cifrele GPU de pe NVIDIA HGX. GPUwerk publică cifre de tok/s și de debit la antrenare doar pentru rulările pe propriul hardware. Vedeți benchmark-urile pe flota DGX Spark pentru modul în care sunt raportate.
Ce ați rula pe el?
Blackwell Ultra cu 288 GB per GPU: cea mai multă memorie pe un singur GPU din catalogul GPUwerk.
Cele mai mari modele pe un singur GPU
Până la aproximativ 288B parametri la FP8 sau aproximativ 576B la FP4, doar după ponderi, pe un singur GPU.
Raționament și context lung
Memorie pentru cache-urile KV lungi pe care le acumulează modelele de raționament și prompturile foarte lungi.
Antrenare limitată de memorie
Fine-tuning și rulări de antrenare care rămân fără memorie pe un B200.
Potrivire slabă: modele mici sau medii
Un model care încape în 80 până la 141 GB costă mai puțin pe oră pe un H100 sau H200.
Aveți nevoie de toate cele opt GPU-uri ale unui server? Vedeți serverul 8× B300.
Ce încape în 288 GB
Doar ponderile: memoria împărțită la octeții per parametru. Lăsați rezervă pentru cache-ul KV, activări și runtime, adesea cu 10 până la 30% mai mult.
| Precizie | Per parametru | Cel mai mare model, doar ponderile |
|---|---|---|
| FP16 / BF16 | 2 octeți | aproximativ 144B parametri |
| FP8 | 1 octet | aproximativ 288B parametri |
| FP4 (nativ pe Blackwell Ultra) | 0,5 octeți | aproximativ 576B parametri |
Facturare
| Tarif | 6,49 $ pe oră, facturat pe minut |
|---|---|
| Facturare | Pe minut, din soldul de credit preplătit |
| Comisioane | Fără taxe pentru traficul de ieșire |
| Angajament | Niciunul |
Prețurile sunt în USD, fără taxele aplicabile. Mecanismul complet de facturare, inclusiv ce face o oprire față de o terminare, este pe pagina de prețuri.
Întrebări frecvente
Pot închiria acum un B300?
Lansați-l din consolă când există capacitate liberă; cât timp nu există, consola oferă o listă de așteptare, iar persoanele de la coadă primesc e-mail una câte una, începând cu cea mai veche. Capacitatea nu este rezervată pentru nimeni: cine lansează primul o obține.
Cum funcționează facturarea pe acest nivel?
La fel ca la orice nivel GPUwerk: pe minut, din soldul de credit preplătit, în USD, fără taxele aplicabile, fără taxe pentru traficul de ieșire și fără angajament.
Aveți nevoie de timp GPU azi?
Un DGX Spark are 128 GB de memorie unificată și poate fi închiriat acum, la 0,79 $/oră facturat pe minut. Prima reîncărcare: plătiți 20 $, primiți 30 $ credit. Sau lansați un B300.