GPU Cloud
RTX 5090, dedikat.
Magna b'GPU RTX 5090 wieħed, 32 GB ta' GDDR7 fuq l-arkitettura Blackwell ta' NVIDIA, fuq host x86. Tista' tinkera issa għal $0.89 fis-siegħa, iffatturata bil-minuta, l-istess termini bħal kull livell ieħor ta' GPUwerk. Taħdem fid-data center EU-Central ta' GPUwerk fir-Repubblika Ċeka, u tikkonnettja permezz ta' SSH biċ-ċavetta tiegħek. Ittermina meta tispiċċa u l-fatturazzjoni tieqaf.
Jista' jinkera issa, magna waħda. GPUwerk għandha RTX 5090 waħda, mikrija min jiġi l-ewwel jinqeda l-ewwel. Iddeplojaha meta tkun libera; waqt li tkun qed tintuża, idħol fil-lista ta' stennija tagħha u GPUwerk tibgħatlek email meta teħles.
Speċifikazzjonijiet
Għal kull nodu. Kull istanza ta' GPUwerk, fuq kull livell, hija magna sħiħa waħda għalik waħdek.
| GPU | RTX 5090, arkitettura Blackwell |
|---|---|
| Memorja | 32 GB GDDR7 |
| Ospita | Host Intel x86-64; sa 48 GB ta' RAM tas-sistema għall-istanza tiegħek |
| Kirja | Klijent wieħed għal kull magna, qatt maqsuma |
Għadhom ma ġewx ippubblikati ċifri ta' tok/s jew ta' throughput tat-taħriġ: GPUwerk tippubblika ċifri biss wara li tħaddimhom fuq il-hardware tagħha stess, u l-provi tal-RTX 5090 għadhom mhux ippubblikati. Ara l-benchmarks tal-flotta ta' DGX Spark għal kif jiġu rrappurtati. Iċ-ċifri ta' partijiet terzi għal din il-karta huma miġbura f'benchmarks tal-LLMs fuq RTX 5090; liema mudelli joqogħdu f'32 GB jinsab f'l-aħjar LLMs għal RTX 5090, u l-limiti tat-taħriġ f'fine-tuning fuq RTX 5090.
X'kont tħaddem fuqu?
32 GB ta' VRAM mgħaġġla huma l-aħjar bilanċ għall-konsumatur għal mudell wieħed li joqgħod mingħajr kwantizzazzjoni qawwija.
Ġenerazzjoni ta' immaġni u vidjows
Pipelines ta' diffużjoni li jridu l-bandwidth tal-VRAM aktar mill-kapaċità ta' memorja unifikata: il-każ fejn GPU diskret normalment jgħaddi lil Spark.
Serving ta' mudelli ta' daqs medju
Mudell tal-klassi 13B sa 32B f'Q4 sa Q8 joqgħod komdu, b'lok għal batch size raġonevoli.
Iterazzjoni mgħaġġla
Komputazzjoni CUDA tal-livell tal-konsumatur għall-fine-tuning jew iċ-ċiklu ta' evalwazzjoni ta' żviluppatur wieħed, fejn it-128 GB ta' Spark huma aktar milli jeħtieġ ix-xogħol.
Fatturazzjoni
| Rata | $0.89 kull siegħa |
|---|---|
| Fatturazzjoni | Bil-minuta, kontra bilanċ ta' kreditu mħallas minn qabel |
| Tariffi | Ebda tariffi tal-egress |
| Impenn | Xejn |
Il-prezzijiet huma f'USD, eskluża t-taxxa applikabbli. Il-mekkaniżmi sħaħ tal-fatturazzjoni, inkluż x'tagħmel it-twaqqif kontra t-terminazzjoni, jinsabu fuq il-paġna tal-prezzijiet.
Mistoqsijiet frekwenti
Nista' nikri RTX 5090 issa?
Iva. GPUwerk għandha magna RTX 5090 waħda, mikrija skont min jasal l-ewwel, b'$0.89 fis-siegħa. Idħol, agħżel l-RTX 5090 meta tiddeploja u żid ċavetta SSH; tieħu l-IP pubbliku tiegħek stess b'SSH. Meta tkun qed tintuża, idħol fil-lista ta' stennija tagħha u GPUwerk tibgħat email lin-nies fil-lista wieħed wieħed meta tinħeles.
X'inhi l-konfigurazzjoni tal-host madwar il-GPU?
Il-konfigurazzjoni tal-host (CPU, RAM tas-sistema, storage) tal-magna installata tidher fil-console meta tiddeploja. GPUwerk tippubblika ċifri fuq din il-paġna biss wara li tkejjilhom fuq il-hardware tagħha stess.
Kif taħdem il-fatturazzjoni f'dan il-livell?
L-istess bħal kull livell ta' GPUwerk: bil-minuta, kontra bilanċ ta' kreditu mħallas minn qabel, f'USD, eskluża t-taxxa applikabbli, bla tariffi tal-egress u bla impenn.
Teħtieġ ħin fuq GPU illum?
DGX Spark għandu 128 GB ta' memorja unifikata u jista' jinkera issa, għal $0.79/siegħa iffatturat bil-minuta. L-ewwel top-up: ħallas $20, ikseb $30 kreditu. Ara kif Spark iqabbel ma' karta diskreta, jew iddeploja RTX 5090.