Privatus ChatGPT dedikuotame DGX Spark
ChatGPT jūsų komandai. Įrenginyje, kurią nuomojatės tik jūs.
Paleiskite atvirą ChatGPT klasės asistentą savo pačių dedikuotame DGX Spark. Ta pati darbo eiga jūsų komandai (pokalbių sąsaja ir API), bet kiekviena užklausa lieka dedikuotame įrenginyje, priskirtame tik jums.
0,79 USD/val., apmokestinama už minutę · sumokėkite 20 USD, gaukite 30 USD kredito pirmą kartą papildę
Šešėlinis DI
Blokavimas neveikia. Pakeitimas veikia.
Jei ieškote, kaip užblokuoti ChatGPT ugniasienėje, problemą jau žinote.
Nutekėjimas nematomas
Sutartys, išeitinis kodas ir klientų įrašai įklijuojami į JAV talpinamą vartotojišką įrankį – po vieną patogią užklausą. Samsung uždraudė ChatGPT 2023 m., kai inžinieriai į jį įklijavo vidinį išeitinį kodą. Dauguma įmonių to niekada nesužino. Ką iš tikrųjų rodo tyrimai.
Blokavimas atsisuka prieš jus
Užblokuokite tai įmonės tinkle, ir tos pačios užklausos persikels į asmeninius telefonus: tas pats nutekėjimas, tik dabar visiškai nematomas. Draudimai nepanaikina poreikio; jie panaikina jūsų galimybę jį matyti.
Pakaitalas laimi
Suteikite komandai patvirtintą, tokį pat patogų asistentą. Jį naudoja savanoriškai, nes įrankis geras, o kiekviena užklausa patenka į jūsų dedikuotą ES įrenginį, o ne į kažkieno kito debesiją.
Ką gaunate
Asistentas, kurį jūsų komanda jau pažįsta.
Pažįstama pokalbių sąsaja
Open WebUI jūsų egzemplioriuje: pokalbiai, aplankai, failų įkėlimas ir bendros komandos darbo sritys. Jūsų komandai nereikės mokymų, kad pereitų; viskas veikia taip, kaip jie jau dirba.
Su OpenAI suderinama API
Ta pati galinio taško forma, kurią jūsų įrankiai jau supranta. Nukreipkite vidines programas, redaktorius ir scenarijus į savo egzempliorių pakeisdami vieną bazinį URL.
Atvirieji modeliai, jūsų pasirinkimas
Qwen, Llama, DeepSeek: keiskite modelius, kai keičiasi sritis. Iki 128 GB bendros atminties sutalpina didelius modelius; greitai reaguojančiam komandos pokalbiui praktiškas pasirinkimas yra ekspertų mišinio modelis, pavyzdžiui, Qwen3 Coder 30B (~81 tok/s vienam srautui, išmatuota GPUwerk parke).
Jūsų žurnalai lieka jūsų įrenginyje
Žurnalai, užklausos ir dokumentai lieka mazgo vietiniame diske, jūsų pačių konteineryje. GPUwerk jų nepasiekia, išskyrus jūsų prašymu arba kai to reikalauja įstatymai (žr. DPA).
Kainos skaičiavimas
Kainodara už kiekvieną naudotoją baudžia už augimą.
Dedikuotam įrenginiui nesvarbu, kiek žmonių jį naudoja.
Vienam mazgui, pagal faktinį naudojimą
Išmatuotas GPU veikimo laikas, o ne vietos.
Mėnuo, veikiant nuolat
730 mazgo valandų, nesvarbu, kiek žmonių jį naudoja. Kiek naudotojų aptarnauja vienas mazgas, priklauso nuo modelio; žr. lyginamuosius testus.
Bendra atmintis
Vietos dideliems atviriesiems modeliams ir ilgiems kontekstams viename įrenginyje.
| Palyginta pagal | Privatus ChatGPT GPUwerk | ChatGPT Enterprise |
|---|---|---|
| Kainodaros modelis | 0,79 USD/val. už mazgą, pagal faktinį naudojimą | Už naudotoją, kaina pagal užklausą |
| Už ką mokate | Mazgo valandos, kol jis veikia | Vietos, nesvarbu, naudojamos ar ne |
| Duomenų vieta | Jūsų dedikuotas įrenginys, EU-Central | Tiekėjo debesija, JAV įmonė |
| Kas gali skaityti užklausas | Jūs; GPUwerk – tik pagal DPA | Tiekėjas, pagal savo sąlygas |
| Modelio kokybė | Geriausi atviri modeliai: puikūs, žingsniu atsilieka nuo pažangiausių | Pažangiausi modeliai |
Šiame puslapyje nenurodoma ChatGPT Enterprise kaina už naudotoją, nes OpenAI jos neskelbia: ji parduodama pagal derybomis sutartą pasiūlymą. Palyginkite tą pasiūlymą su išmatuotu GPU veikimo laiku ir mazgų skaičiumi, kurio reikia jūsų darbo krūviui. Atidžiai perskaitykite ir paskutinę eilutę: pažangiausi modeliai vis dar lenkia atviruosius, ir jei jūsų naudojimo atvejui reikia absoliučiai pažangiausio lygio, šis puslapis ne jums. Kasdieniam rašymui, programavimui ir vidiniam žinių darbui dabartiniai atvirieji modeliai yra pakankami.
Daugiau nei įrenginys
Pagalba diegiant naudojimą, jei jos norite.
Komandos apmokymas
Galiu surengti praktinius komandos mokymus: užklausų šablonai, saugumo apribojimai ir kokybės patikros.
Diegimo pagalba
Padedu prijungti modelį prie jūsų programų, įskaitant tai, ką jūsų įrankiai turėtų daryti, kai egzempliorius sustabdytas ar užimtas.
Valdymo paketas
Paprastas diegimo planas: kas gali naudoti, kas peržiūri užklausas ir ką bandomasis projektas turi parodyti prieš platesnį naudojimą.
Klausimai.
Ar privatus, savarankiškai talpinamas asistentas toks pat geras kaip ChatGPT?
Rašymui, programavimui, vidiniams klausimams & atsakymams bei daugumai kasdienių darbų dabartiniai atvirieji modeliai (Qwen, Llama, DeepSeek nuo 70B klasės) yra pakankamai artimi, kad dauguma komandų skirtumo nepastebi. Pažangiausi uždarieji modeliai vis dar pirmauja sudėtingiausiose samprotavimo ir programavimo užduotyse. Jei jūsų naudojimo atvejui tikrai reikia absoliučiai pažangiausio lygio, tai jums netinka. Visam kitam – tinka.
Kuo tai skiriasi nuo paprasto ChatGPT blokavimo?
Blokavimas panaikina matomumą, bet ne poreikį: užklausos tiesiog persikelia į asmeninius telefonus. Privatus asistentas – patvirtintas pakaitalas, kurį žmonės iš tiesų nori naudoti, todėl jautrūs duomenys lieka jūsų egzemplioriuje, užuot apėję draudimą.
Kiek iš tikrųjų trunka sąranka?
Veikiančią pokalbių sąsają su įkeltu modeliu galima turėti per popietę: paleiskite Spark, atsisiųskite modelį, paleiskite Open WebUI. GPUwerk taip pat gali viską sukonfigūruoti už jus: žr. toliau parinktį „Sukonfigūruokite už mane“.
Ar mūsų kūrėjai gali jį naudoti ir kaip API, ne tik pokalbiams?
Taip. Tas pats egzempliorius pateikia su OpenAI suderinamą galinį tašką, todėl redaktoriai, vidiniai įrankiai ir scenarijai į jį nukreipiami pakeitus vieną bazinį URL. Atskiro diegimo nereikia.
Kur iš tikrųjų yra duomenys?
Jūsų dedikuotame mazge EU-Central regione. Niekas nebendrinama ir nevirtualizuojama: tame pačiame įrenginyje niekada neveikia jokio kito kliento darbo krūvis. Pagal duomenų tvarkymo sutartyje nustatytą politiką GPUwerk nepasiekia to, kas veikia jūsų konteineryje, išskyrus jūsų prašymu dėl pagalbos arba kai to reikalauja teisinė prievolė; infrastruktūros administratoriaus prieiga prie paties įrenginio egzistuoja, kaip ir bet kurioje talpinamoje paslaugoje. Žr. visą atitikties ir duomenų buvimo vietos informaciją.
Privatus ChatGPT jau šią savaitę.
Paleiskite Spark, įkelkite modelį ir pakvieskite komandą. Pirmasis papildymas: sumokėkite 20 USD, gaukite 30 USD kredito, tai apie 37 skaičiavimo valandos sąrankai ir bandymui.