Prywatny hosting LLM w EU-Central
Twoje modele. Twoje dane. Jeden najemca: ty.
Prywatny hosting LLM na całych dedykowanych maszynach w EU-Central. Twoje dane są przetwarzane w UE, nigdy nie są używane do trenowania, a żaden inny klient nigdy nie dotyka twojego GPU.
0,79 USD/godz., rozliczane co minutę · zapłać 20 USD, otrzymasz 30 USD środków przy pierwszym doładowaniu
W skrócie.
Jeden najemca na maszynę
Cała dedykowana maszyna przydzielona tobie. Bez współdzielonych GPU.
Podprocesorzy dla obciążeń
Na własnych poziomach GPUwerk. Lista podprocesorów jest krótka: dla obciążeń instancji nie ma tam żadnych; poziom Partner działa u hosta partnera.
Umowa powierzenia przetwarzania danych (RODO)
Opublikowana pod adresem /legal/dpa, bezpłatnie.
Trzy obawy
Trzy obawy i odpowiedzi.
Każda firma, z którą rozmawiam, przychodzi z tymi samymi trzema obawami. Oto dokładnie, jak każda z nich jest rozwiązana.
„Nasze dane opuszczają UE”
Nie. Sprzęt fizycznie znajduje się w EU-Central i jest obsługiwany przez PRINT IT! SE, spółkę europejską (Societas Europaea) zarejestrowaną w Pradze. Nie ma amerykańskiej spółki matki, a na własnych poziomach GPUwerk za tą maszyną nie stoi żaden amerykański region. Nieliczne usługi, z których GPUwerk korzysta wokół niej, takie jak e-maile transakcyjne, są wymienione wraz z dostawcami i krajami na liście podprocesorów. Lokalizacja danych to nie pole wyboru w panelu ustawień, tylko miejsce, w którym maszyna jest przykręcona do szafy.
„Dostawca trenuje na naszych danych”
GPUwerk obsługuje infrastrukturę, a nie modele: twoje prompty i dokumenty są przetwarzane na twojej dedykowanej maszynie przez zainstalowane przez ciebie oprogramowanie, dostępne tylko przez twoje klucze SSH i terminal w przeglądarce w twojej konsoli. Jak w każdej usłudze hostowanej, GPUwerk zachowuje dostęp administratora infrastruktury do maszyny, ale zgodnie z zasadą zapisaną w umowie powierzenia przetwarzania danych GPUwerk nie uzyskuje dostępu do treści twojego obszaru roboczego, chyba że na twoją prośbę w ramach wsparcia lub gdy wymaga tego obowiązek prawny, więc nie ma na czym trenować. Tak czy inaczej jest to w umowie. Jedyny trening, jaki się odbywa, to twój własny, na twoich danych.
„Pracownicy wklejają tajemnice do ChatGPT”
Blokowanie przenosi to na prywatne telefony. Rozwiązaniem jest zatwierdzona alternatywa, która jest równie wygodna: asystent klasy ChatGPT na twojej własnej instancji, ten sam interfejs czatu, to samo API, a każdy prompt zostaje na dedykowanej maszynie przydzielonej tylko tobie. Zobacz konfigurację prywatnego ChatGPT →
Dla twojego IOD
Napisane tak, aby twój IOD mógł to przekazać dalej.
Obraz zgodności w jednej tabeli, prostym językiem, bez marketingu.
| Pytanie | Odpowiedź |
|---|---|
| Gdzie dane są fizycznie przetwarzane? | EU-Central, na dedykowanej maszynie dla jednego najemcy, przydzielonej tobie |
| Kto jest operatorem? | PRINT IT! SE, spółka europejska (Societas Europaea) zarejestrowana w Pradze w Czechach (numer identyfikacyjny 069 60 090). Brak spółki dominującej spoza UE. |
| Kto ma dostęp do zawartości instancji? | Przez samą instancję tylko posiadacze twoich kluczy SSH oraz ty przez terminal w przeglądarce w twojej konsoli GPUwerk; logowanie hasłem jest wyłączone w całej flocie. GPUwerk zachowuje dostęp administratora infrastruktury do maszyny, jak w każdej usłudze hostowanej, a zgodnie z umową powierzenia nie używa go wobec twoich treści, chyba że na twoją prośbę w ramach wsparcia lub gdy wymaga tego obowiązek prawny. Endpoint HTTPS obrazu z modelem jest dostępny dla każdego, kto zna URL, dopóki nie umieścisz przed nim proxy z uwierzytelnianiem, takiego jak LiteLLM. |
| Czy GPUwerk czyta prompty lub dane modelu? | Nie. GPUwerk hostuje sprzęt i prowadzi rozliczenia, a zgodnie z umową powierzenia nie uzyskuje dostępu do treści obciążeń, nie czyta ich, nie kopiuje, nie indeksuje ani nie analizuje |
| Czy jakiekolwiek dane klientów są używane do trenowania? | Nie, na mocy umowy, a ponieważ GPUwerk nie uzyskuje dostępu do twoich treści, nie ma na czym trenować |
| Podprocesorzy dla obciążeń? | Brak na własnych poziomach GPUwerk (poziom Partner działa u hosta partnera) |
| Umowa powierzenia (art. 28 RODO)? | Opublikowana pod adresem /legal/dpa, bezpłatnie |
| Dane po zakończeniu? | Kontener i wolumin obszaru roboczego usuwane z węzła, węzeł czyszczony, zanim zostanie zaoferowany komukolwiek innemu. Usunięcie w systemie plików, a nie wymazanie kryptograficzne. |
Architektura
Architektura jest argumentem.
Mało strzałek, każda udokumentowana: tym krótszy przegląd u IOD.
your office / VPN your apps
│ │
│ SSH (keys only, │ HTTPS model endpoint
│ dedicated IP) │ (add an auth proxy)
▼ ▼
┌────────────────────────────────────────────┐
│ your dedicated DGX Spark · EU-Central │
│ model · vector store · chat UI · API │
│ 128 GB unified memory · 1 TB NVMe │
└────────────────────────────────────────────┘
two arrows, both listed in the DPA.
Porównujesz to raczej z API rozliczanym za tokeny? Przeczytaj prywatny hosting LLM vs OpenAI API lub prywatny hosting LLM vs Azure AI Foundry, aby poznać lokalizację danych, to, kto widzi twoje prompty, i zmierzoną przepustowość.
Praca w branżach regulowanych
Ochrona zdrowia, prawo, finanse i sektor publiczny.
Zespoły z tych branż zadają te same trzy pytania: gdzie jest maszyna, kto jeszcze ma do niej dostęp i co mówi umowa. Odpowiedzi są takie same dla każdego sektora. Maszyna znajduje się w EU-Central i jest przydzielona jednemu klientowi. GPUwerk zachowuje standardowy dostęp administratora, aby ją obsługiwać, a umowa powierzenia z art. 28 i lista podprocesorów określają, co on obejmuje.
Dedykowana maszyna sama w sobie nie czyni obciążenia zgodnym z przepisami. Dokumentacja medyczna pacjentów, akta objęte tajemnicą zawodową, dane płatnicze i dane obywateli podlegają własnym przepisom, a o tym, czy ta konfiguracja je spełnia, decyduje twój IOD lub prawnik. RODO i AI Act UE na dedykowanym sprzęcie wymienia dowody, które GPUwerk może przekazać.
Poradniki
Porównania dostawców.
Porównania z cenami sprawdzonymi na własnych stronach każdego dostawcy. Indeks porównań wymienia wszystkich pozostałych dostawców.
Jak wypada w porównaniu
Dedykowany Spark w UE w porównaniu z API rozliczanymi za tokeny, z którymi kupujący go zestawiają. Lokalizacja danych, kto widzi twoje prompty i gdzie każda opcja wygrywa.Przeglądaj 11 poradników
- Prywatny hosting LLM vs OpenAI API dla firm z UELokalizacja danych, kto widzi twoje prompty, zmierzone tok/s i gdzie każda opcja wygrywa.8 min czytania
- Prywatny hosting LLM vs Azure AI Foundry dla firm z UEKatalog modeli, lokalizacja danych, model cenowy i gdzie każda opcja wygrywa.8 min czytania
- Prywatny hosting LLM vs Anthropic API dla firm z UELokalizacja danych, kto widzi twoje prompty, zmierzone tok/s i gdzie każda opcja wygrywa.8 min czytania
- Prywatny hosting LLM vs RunPodRunPod to marketplace GPU obejmujący wielu hostów i typów GPU. Porównanie dotyczy tego, kto faktycznie obsługuje maszynę, a nie tylko najmu.8 min czytania
- Prywatny hosting LLM vs GroqSprzęt LPU od Groq jest naprawdę szybki, szybszy niż większość inferencji na GPU. Dedykowany DGX Spark konkuruje na innej osi: sprzęt dla jednego najemcy i kontrola nad danymi, a nie surowa szybkość.8 min czytania
- Prywatny hosting LLM vs Together AITogether AI uruchamia szeroki katalog otwartych modeli na współdzielonej infrastrukturze dla wielu najemców. Dedykowany DGX Spark to jedna maszyna, na której działa twój model, pod twoimi kluczami.8 min czytania
- Prywatny hosting LLM vs Lambda Labs dla firm z UEPorównanie najbliższe kształtem GPUwerk, różniące się głównie regionem i sprzętem. Gdzie każda opcja wygrywa.8 min czytania
- Prywatny hosting LLM vs Scaleway dla firm z UEDwie opcje z UE, jedna wąska i ze stałą ceną, druga to szeroka chmura ogólnego przeznaczenia. Gdzie każda wygrywa.8 min czytania
- Prywatny hosting LLM vs serwery GPU Hetzner dla firm z UENiedrogi dedykowany sprzęt od znanego niemieckiego hostingodawcy w porównaniu z maszyną z pamięcią zunifikowaną zbudowaną do inferencji. Gdzie każda opcja wygrywa.8 min czytania
- Prywatny hosting LLM vs CoreWeave dla firm z UEDedykowany DGX Spark w UE za 0,79 USD/godz. vs korporacyjna chmura GPU CoreWeave: skala klastrów, minimalne zobowiązania umowne, lokalizacja danych i gdzie każda opcja faktycznie pasuje.8 min czytania
- Prywatny hosting LLM vs Vast.ai dla firm z UEDedykowany DGX Spark w UE za 0,79 USD/godz. vs marketplace GPU peer-to-peer Vast.ai: kto naprawdę jest właścicielem maszyny, lokalizacja danych, niezawodność i gdzie każda opcja wygrywa.8 min czytania
- Prywatna AI vs ChatGPT EnterpriseGdzie kończą się umowne zabezpieczenia ChatGPT Enterprise, a zaczyna lokalizacja danych na dedykowanej maszynie.7 min czytania
- DGX Spark vs instancje GPU w chmurzeWłasny dedykowany Spark vs wynajem godzin GPU rozliczanych za tokeny lub za godziny, porównane pod względem kosztu i kontroli.7 min czytania
- Samodzielny hosting vs zarządzane platformy LLMCo bierzesz na siebie, uruchamiając model samodzielnie, i co zarządzana platforma nadal zostawia w twoich rękach.7 min czytania
FAQ o zgodności.
Czy to jest zgodne z RODO?
GPUwerk dostarcza potrzebne ci dowody: sprzęt i działalność w EU-Central, umowę powierzenia przetwarzania danych z art. 28, brak podprocesorów obciążeń na własnych poziomach GPUwerk oraz dedykowane maszyny dla jednego najemcy, do których treści GPUwerk nie uzyskuje dostępu, nie czyta ich, nie kopiuje, nie indeksuje ani nie analizuje. Dostęp administratora infrastruktury do maszyny istnieje, jak w każdej usłudze hostowanej, a zgodnie z umową powierzenia nie jest używany wobec twoich treści, chyba że na twoją prośbę w ramach wsparcia lub gdy wymaga tego obowiązek prawny. Pozostajesz administratorem, więc to ty potwierdzasz zgodność samego przetwarzania.
Czy podpisujecie umowę powierzenia?
Tak, standardowa umowa powierzenia z art. 28 RODO jest opublikowana bezpłatnie pod adresem /legal/dpa. Lista podprocesorów GPUwerk dla obciążeń jest krótka: na własnych poziomach GPUwerk nie ma żadnych; poziom Partner działa u hosta partnera.
Czy nasz IOD może przeprowadzić audyt konfiguracji?
Tak. GPUwerk dostarcza dokumentację fizycznej lokalizacji, kontroli dostępu i procedur czyszczenia oraz bezpośrednio odpowiada na kwestionariusze IOD. Wyślij pytania swojego IOD.
Co dzieje się z naszymi danymi po zakończeniu instancji?
Zakończenie instancji usuwa twój kontener i jego wolumin /workspace z węzła. Zanim ten węzeł zostanie zaoferowany innemu klientowi, jest czyszczony: usuwane są wszystkie kontenery i woluminy najemców, a dopóki którykolwiek pozostaje, węzeł nie przechodzi testu gotowości i nie jest przydzielany. To usunięcie na poziomie systemu plików. GPUwerk nie używa na węzłach dysków samoszyfrujących ani szyfrowania całego dysku, więc nie deklaruje wymazania kryptograficznego. GPUwerk nie przechowuje kopii twojego obszaru roboczego nigdzie indziej: ani kopii zapasowej, ani kopii do odzyskiwania. Jeśli dysk ulegnie awarii, obszar roboczy na nim zostanie utracony, więc przechowuj własną kopię. Jeśli twoje środki spadną do zera lub osiągniesz miesięczny budżet, instancja jest zatrzymywana, a jej maszyna zwalniana. Obszar roboczy zostaje na tej maszynie do 48 godzin. Doładuj konto lub podnieś budżet i uruchom instancję ponownie w tym czasie, a kontynuujesz od miejsca, w którym skończyłeś, chyba że ktoś inny wynajmie maszynę, co usuwa go wcześniej. Po 48 godzinach jest trwale usuwany. E-maile o niskim saldzie ostrzegają cię przed tym; automatyczne doładowanie zmniejsza ryzyko, ale płatność może się nie udać.
Czy to obejmuje też AI Act UE, a nie tylko RODO?
Dedykowany sprzęt nie zmienia twojej kategorii ryzyka ani statusu dostawcy/podmiotu stosującego w AI Act UE; te zależą od tego, co robi twój system, a nie od tego, gdzie działa. Daje natomiast jasną odpowiedź na pytanie, kto ma dostęp do twoich danych podczas działania modelu, co jest przydatnym dowodem dla obowiązków podmiotu stosującego, z którymi faktycznie mierzy się większość firm hostujących modele samodzielnie. Pełny obraz na jednej stronie: RODO i AI Act UE na dedykowanym sprzęcie.
Poza infrastrukturą
Praktyczny pakiet wdrożeniowy.
Jeśli potrzebujesz czegoś więcej niż infrastruktura, mogę dodać współpracę o określonym zakresie z jasnymi rezultatami: wdrożenie zespołu i integrację.
Zgłoszenie projektu
Określ granice zastosowania, cele dotyczące opóźnień i to, kto zatwierdza wdrożenie produkcyjne.
Szkolenie zespołu
Praktyczne sesje o jakości promptów, wzorcach zarządzania i typowych czynnościach operacyjnych.
Mapa drogowa integracji
Zaplanuj wdrożenie API, łącznie z tym, co twoje narzędzia powinny robić, gdy instancja jest zatrzymana lub zajęta.
Wprowadź swój projekt AI w życie.
Wdróż Sparka i przetestuj go samodzielnie albo zapytaj osobę, która obsługuje szafy. Pierwsze doładowanie: zapłać 20 USD, otrzymasz 30 USD środków.