GPU Cloud
B300, dedikat.
GPU NVIDIA B300 wieħed, 288 GB HBM3e fuq l-arkitettura Blackwell Ultra, fuq host x86. $6.49 fis-siegħa, iffatturat bil-minuta, l-istess termini bħal kull livell ieħor ta' GPUwerk.
Mikrija min jiġi l-ewwel jinqeda l-ewwel: iddeploja B300 meta jkun hemm kapaċità libera, jew idħol fil-lista ta' stennija tagħha fil-console.
Speċifikazzjonijiet
Għal kull GPU. Il-GPU u l-memorja tiegħu huma tiegħek waħdek għat-tul tal-kera.
| GPU | B300, arkitettura Blackwell Ultra |
|---|---|
| Memorja | 288 GB HBM3e |
| Bandwidth tal-memorja | 8 TB/s |
| Preċiżjoni | FP4 u FP8 bit-tieni ġenerazzjoni tat-Transformer Engine |
| Ospita | Host x86 |
| Kirja | Il-GPU hija tiegħek waħdek waqt li tikriha, qatt maqsuma |
Ċifri tal-GPU minn NVIDIA HGX. GPUwerk tippubblika ċifri ta' tok/s u ta' throughput tat-taħriġ biss għal provi fuq il-hardware tagħha stess. Ara l-benchmarks tal-flotta ta' DGX Spark għal kif jiġu rrappurtati.
X'kont tħaddem fuqu?
Blackwell Ultra b'288 GB għal kull GPU: l-aktar memorja fuq GPU wieħed fil-katalgu ta' GPUwerk.
L-akbar mudelli fuq GPU wieħed
Sa madwar 288B parametru f'FP8, jew madwar 576B f'FP4, bil-piżijiet biss, fuq GPU wieħed.
Raġunament u kuntest twil
Memorja għall-KV caches twal li jibnu l-mudelli tar-raġunament u l-prompts twal ħafna.
Taħriġ limitat mill-memorja
Fine-tunes u taħriġ li jispiċċaw bla memorja fuq B200.
Ma jaqbilx: mudelli żgħar jew ta' daqs medju
Mudell li joqgħod f'80 sa 141 GB jiswa inqas fis-siegħa fuq H100 jew H200.
Teħtieġ it-tmien GPUs kollha ta' server wieħed? Ara s-server b'8× B300.
X'joqgħod f'288 GB
Il-piżijiet biss: il-memorja diviża bil-bytes għal kull parametru. Ħalli lok għall-KV cache, għall-attivazzjonijiet u għar-runtime, ħafna drabi 10 sa 30% aktar.
| Preċiżjoni | Għal kull parametru | L-akbar mudell, bil-piżijiet biss |
|---|---|---|
| FP16 / BF16 | 2 bytes | madwar 144B parametru |
| FP8 | 1 byte | madwar 288B parametru |
| FP4 (nattiv fuq Blackwell Ultra) | 0.5 bytes | madwar 576B parametru |
Fatturazzjoni
| Rata | $6.49 kull siegħa, iffatturat bil-minuta |
|---|---|
| Fatturazzjoni | Bil-minuta, kontra bilanċ ta' kreditu mħallas minn qabel |
| Tariffi | Ebda tariffi tal-egress |
| Impenn | Xejn |
Il-prezzijiet huma f'USD, eskluża t-taxxa applikabbli. Il-mekkaniżmi sħaħ tal-fatturazzjoni, inkluż x'tagħmel it-twaqqif kontra t-terminazzjoni, jinsabu fuq il-paġna tal-prezzijiet.
Mistoqsijiet frekwenti
Nista' nikri B300 issa?
Iddeplojah mill-console meta jkun hemm kapaċità libera; waqt li ma jkunx hemm, il-console toffri lista ta' stennija u n-nies fil-kju jirċievu email wieħed wieħed, l-eqdem l-ewwel. Il-kapaċità ma tinżamm għal ħadd: min jiddeploja l-ewwel jeħodha.
Kif taħdem il-fatturazzjoni f'dan il-livell?
L-istess bħal kull livell ta' GPUwerk: bil-minuta, kontra bilanċ ta' kreditu mħallas minn qabel, f'USD, eskluża t-taxxa applikabbli, bla tariffi tal-egress u bla impenn.
Teħtieġ ħin fuq GPU illum?
DGX Spark għandu 128 GB ta' memorja unifikata u jista' jinkera issa, għal $0.79/siegħa iffatturat bil-minuta. L-ewwel top-up: ħallas $20, ikseb $30 kreditu. Jew iddeploja B300.