Частен ChatGPT на самостоятелен DGX Spark

ChatGPT за екипа ви. На машина, която наемате само вие.

Пуснете отворен асистент от класа на ChatGPT на собствен самостоятелен DGX Spark. Същият работен процес за екипа ви (чат интерфейс и API), но всеки промпт остава на самостоятелна машина, предоставена само на вас.

0,79 $/час, таксуване на минута · платете 20 $, получете 30 $ кредит при първото внасяне

Shadow AI

Блокирането не работи. Заместването работи.

Ако търсите как да блокирате ChatGPT във firewall-а, вече знаете проблема.

  1. Изтичането е невидимо

    Договори, изходен код и клиентски записи се поставят в потребителски инструмент, хостван в САЩ, един удобен промпт след друг. Samsung забрани ChatGPT през 2023 г., след като инженери поставиха в него вътрешен изходен код. Повечето компании така и не разбират. Какво всъщност показват проучванията.

  2. Блокирането има обратен ефект

    Филтрирайте го в корпоративната мрежа и същите промптове се преместват на личните телефони: същото изтичане, но вече без никаква видимост. Забраните не премахват нуждата; те премахват способността ви да я виждате.

  3. Заместването печели

    Дайте на екипа одобрен асистент, който е също толкова удобен. Използването е доброволно, защото инструментът е добър, а всеки промпт попада на вашата самостоятелна машина в ЕС, а не в чужд облак.

Какво получавате

Асистентът, който екипът ви вече познава.

Познат чат интерфейс

Open WebUI на инстанцията ви: разговори, папки, качване на файлове и споделени работни пространства за екипа. Екипът ви няма да има нужда от обучение, за да премине; работи така, както вече работят.

OpenAI-съвместим API

Същата форма на endpoint, която инструментите ви вече говорят. Насочете вътрешни приложения, редактори и скриптове към собствената си инстанция, като смените един base URL.

Отворени модели, по ваш избор

Qwen, Llama, DeepSeek: сменяйте моделите с развитието на областта. До 128 GB унифицирана памет побират големи модели; за отзивчив чат на екипа практичният избор е mixture-of-experts модел като Qwen3 Coder 30B (~81 tok/s за един поток, измерено на парка на GPUwerk).

Логовете ви остават на машината ви

Логовете, промптовете и документите остават на локалния диск на възела, в собствения ви контейнер. GPUwerk няма достъп до тях, освен по ваше искане или когато законът го изисква (вижте DPA).

Сметката

Ценообразуването на потребител наказва растежа.

За машината само за вас няма значение колко души я използват.

0,79 $/час

На възел, по измерване

Измерено време на работа на GPU, а не места.

576,70 $

Месец, постоянно включен

730 часа на възел, независимо колко души го използват. Колко потребители обслужва един възел, зависи от модела; вижте бенчмарковете.

128GB

Унифицирана памет

Място за големи отворени модели и дълги контексти на една машина.

Сравнение поЧастен ChatGPT в GPUwerkChatGPT Enterprise
Модел на ценообразуване0,79 $/час на възел, по измерванеНа потребител, оферта при запитване
За какво плащатеЧасове на възел, докато работиМеста, независимо дали се използват
Местоположение на даннитеВашата самостоятелна машина, EU-CentralОблак на доставчика, американска компания
Кой може да чете промптоветеВие; GPUwerk само съгласно DPAДоставчикът, съгласно неговите условия
Качество на моделаНай-добрите отворени модели: отлични, крачка зад върхаНай-новите модели

Тази страница не посочва цена на потребител за ChatGPT Enterprise, защото OpenAI не публикува такава: продава се по договорена оферта. Сравнете тази оферта с измереното време на работа на GPU и броя възли, от които се нуждае натоварването ви. Прочетете внимателно и последния ред: най-новите модели все още са пред отворените и ако вашият случай изисква абсолютния връх, тази страница не е за вас. За ежедневни чернови, програмиране и вътрешна работа със знания актуалните отворени модели покриват изискванията.

Отвъд машината

Помощ при въвеждането, ако я искате.

Въвеждане на екипа

Мога да проведа практическо обучение за екипа: модели на промптове, предпазни механизми и проверки на качеството.

Помощ при внедряването

Помагам да свържете модела с приложенията ви, включително какво трябва да правят инструментите ви, когато инстанцията е спряна или заета.

Пакет за управление

Лек план за внедряване: кой може да го използва, кой преглежда промптовете и какво трябва да покаже пилотът преди по-широко използване.

Въпроси.

Толкова ли е добър частен, самостоятелно хостван асистент като ChatGPT?

За писане на чернови, програмиране, вътрешни въпроси и отговори и по-голямата част от ежедневната работа актуалните отворени модели (Qwen, Llama, DeepSeek от класа 70B и нагоре) са достатъчно близо, така че повечето екипи не забелязват разликата. Най-добрите затворени модели все още водят при най-трудните задачи за разсъждение и програмиране. Ако вашият случай наистина изисква абсолютния връх, това не е правилният избор. За всичко останало е.

С какво това се различава от простото блокиране на ChatGPT?

Блокирането премахва видимостта, а не нуждата: промптовете вместо това се преместват на личните телефони. Частният асистент е одобрен заместител, който хората наистина искат да използват, така че чувствителните данни остават на вашата собствена инстанция, вместо да заобикалят забраната.

Колко време всъщност отнема настройката?

Работещ чат интерфейс със зареден модел е постижим за един следобед: пуснете Spark, изтеглете модел, стартирайте Open WebUI. GPUwerk може също да го настрои вместо вас: вижте опцията „Настройте го вместо мен“ по-долу.

Могат ли нашите разработчици да го използват и като API, не само като чат?

Да. Същата инстанция предоставя OpenAI-съвместим endpoint, така че редактори, вътрешни инструменти и скриптове се насочват към нея, като се смени един base URL. Не е нужно отделно внедряване.

Къде всъщност се намират данните?

На вашия самостоятелен възел в EU-Central. Нищо не е споделено или виртуализирано: натоварване на друг клиент никога не работи на същата машина. Като политика, заложена в споразумението за обработване на данни, GPUwerk няма достъп до това, което работи в контейнера ви, освен по ваше искане за поддръжка или когато го изисква законово задължение; администраторски достъп до инфраструктурата на машината съществува, както при всяка хоствана услуга. Вижте пълните подробности за съответствие и местоположение на данните.

Частен ChatGPT още тази седмица.

Стартирайте Spark, заредете модел и поканете екипа. Първо внасяне: платете 20 $, получете 30 $ кредит, около 37 часа изчислително време за настройката и пробата.