Privat LLM-hosting i EU-Central

Dine modeller. Dine data. Én lejer: dig.

Privat LLM-hosting på hele dedikerede maskiner i EU-Central. Dine data behandles i EU, bruges aldrig til træning, og ingen anden kunde rører nogensinde din GPU.

0 $,79/time, faktureret pr. minut · betal 20 $, få 30 $ i kredit ved din første optankning

Kort fortalt.

1lejer

Én lejer pr. maskine

En hel dedikeret maskine, tildelt dig. Ingen delte GPU'er.

0

Underdatabehandlere for workloads

På GPUwerks egne niveauer. Listen over underdatabehandlere er kort: ingen for instans-workloads dér; Partner-niveauet kører på en partnervært.

Art.28

Databehandleraftale efter GDPR

Offentliggjort på /legal/dpa, gratis.

De tre bekymringer

De tre bekymringer, besvaret.

Alle virksomheder, jeg taler med, kommer med de samme tre bekymringer. Her er præcis, hvordan hver enkelt håndteres.

"Vores data forlader EU"

Det gør det ikke. Hardwaren står fysisk i EU-Central og drives af PRINT IT! SE, et europæisk selskab (Societas Europaea) registreret i Prag. Der er intet amerikansk moderselskab og, på GPUwerks egne niveauer, ingen amerikansk region bag den maskine. De få tjenester, GPUwerk bruger omkring den, f.eks. transaktionsmails, står med deres udbydere og lande på listen over underdatabehandlere. Dataplacering er ikke et flueben i et indstillingspanel; det er dér, hvor maskinen er boltet fast i racket.

"Udbyderen træner på vores data"

GPUwerk driver infrastruktur, ikke modeller: dine prompts og dokumenter behandles på din dedikerede maskine af software, du selv har installeret, og kan kun nås via dine SSH-nøgler og konsollens browserterminal. Som på enhver hostet tjeneste har GPUwerk infrastrukturadministratoradgang til den underliggende maskine, men som fastsat i GPUwerks databehandleraftale tilgår GPUwerk ikke indholdet af dit workspace, undtagen på din anmodning om support eller hvor en lovmæssig forpligtelse kræver det, så der er intet at træne på. Det står under alle omstændigheder i kontrakten. Den eneste træning, der sker, er din egen, på dine egne data.

"Medarbejdere indsætter hemmeligheder i ChatGPT"

Blokering skubber det over på private telefoner. Løsningen er et godkendt alternativ, der er lige så bekvemt: en assistent i ChatGPT-klassen på din egen instans, samme chatbrugerflade, samme API, og hver prompt bliver på en dedikeret maskine, der kun er tildelt dig. Se opsætningen af en privat ChatGPT →

Til din DPO

Skrevet, så din DPO kan videresende det.

Compliance-billedet i én tabel, i klart sprog, uden markedsføring.

SpørgsmålSvar
Hvor behandles data fysisk?EU-Central, på en dedikeret maskine med én lejer, som er tildelt dig
Hvem er operatøren?PRINT IT! SE, et europæisk selskab (Societas Europaea) registreret i Prag, Tjekkiet (virksomheds-ID 069 60 090). Intet moderselskab uden for EU.
Hvem kan tilgå instansens indhold?Via selve instansen kun indehavere af dine SSH-nøgler og dig via browserterminalen i din GPUwerk-konsol; login med adgangskode er slået fra i hele flåden. GPUwerk beholder infrastrukturadministratoradgang til den underliggende maskine, som på enhver hostet tjeneste, og bruger den i henhold til databehandleraftalen ikke på dit indhold, undtagen på din anmodning om support eller hvor en lovmæssig forpligtelse kræver det. Et modelimages HTTPS-endpoint kan nås af alle, der har URL'en, indtil du sætter en autentificerende proxy som LiteLLM foran det.
Læser GPUwerk prompt- eller modeldata?Nej. GPUwerk hoster hardwaren og står for faktureringen og tilgår, læser, kopierer, indekserer eller analyserer ikke indholdet af workloads i henhold til databehandleraftalen
Bruges kundedata til træning?Nej, kontraktligt, og da GPUwerk ikke tilgår dit indhold, er der intet at træne på
Underdatabehandlere for workloads?Ingen på GPUwerks egne niveauer (Partner-niveauet kører på en partnervært)
Databehandleraftale (GDPR art. 28)?Offentliggjort på /legal/dpa, gratis
Data ved afslutning?Container og workspace-volumen slettes fra noden, og noden renses, før den tilbydes til nogen anden. Sletning i filsystemet, ikke kryptografisk sletning.

Arkitektur

Arkitekturen er argumentet.

Få pile, hver enkelt dokumenteret: jo kortere DPO-gennemgang.

your office / VPN            your apps
      │                          │
      │  SSH (keys only,         │  HTTPS model endpoint
      │  dedicated IP)           │  (add an auth proxy)
      ▼                          ▼
┌────────────────────────────────────────────┐
│  your dedicated DGX Spark · EU-Central     │
│  model · vector store · chat UI · API      │
│  128 GB unified memory · 1 TB NVMe         │
└────────────────────────────────────────────┘

      two arrows, both listed in the DPA.

Vejer du dette op mod en API med betaling pr. token i stedet? Læs privat LLM-hosting vs OpenAI API eller privat LLM-hosting vs Azure AI Foundry om dataplacering, hvem der kan se dine prompts, og målt gennemløb.

Reguleret arbejde

Sundhed, jura, finans og den offentlige sektor.

Teams inden for disse områder stiller de samme tre spørgsmål: hvor maskinen står, hvem der ellers kan nå den, og hvad kontrakten siger. Svarene er de samme for alle sektorer. Maskinen står i EU-Central og er tildelt én kunde. GPUwerk beholder almindelig administratoradgang for at kunne drive den, og databehandleraftalen efter artikel 28 og listen over underdatabehandlere beskriver, hvad det dækker.

En dedikeret maskine gør ikke i sig selv et workload compliant. Patientjournaler, fortrolige sagsakter, betalingsdata og borgerdata har hver deres regler, og din DPO eller juridiske rådgiver afgør, om denne opsætning lever op til dem. GDPR og EU's AI-forordning på dedikeret hardware oplister den dokumentation, GPUwerk kan udlevere.

Guides

Sammenligninger af udbydere.

Sammenligningerne med priser tjekket mod hver udbyders egen side. Sammenligningsoversigten oplister alle andre udbydere.

Sådan står den sig

En dedikeret Spark i EU sammenlignet med de API'er med betaling pr. token, som købere også overvejer. Dataplacering, hvem der kan se dine prompts, og hvor hver enkelt vinder.Se 11 guides

FAQ om compliance.

Overholder det GDPR?

GPUwerk leverer den dokumentation, du har brug for: hardware og drift i EU-Central, en databehandleraftale efter artikel 28, ingen underdatabehandlere for workloads på GPUwerks egne niveauer og dedikerede maskiner med én lejer, hvis indhold GPUwerk ikke tilgår, læser, kopierer, indekserer eller analyserer. Infrastrukturadministratoradgang til den underliggende maskine findes, som på enhver hostet tjeneste, og under databehandleraftalen bruges den ikke på dit indhold, undtagen på din anmodning om support eller hvor en lovmæssig forpligtelse kræver det. Du forbliver dataansvarlig, så det er op til dig at godtgøre, at selve behandlingen er compliant.

Underskriver I en databehandleraftale?

Ja, en standard-databehandleraftale efter GDPR artikel 28 er gratis offentliggjort på /legal/dpa. GPUwerks liste over underdatabehandlere for workloads er kort: på GPUwerks egne niveauer er der ingen; Partner-niveauet kører på en partnervært.

Kan vores DPO auditere opsætningen?

Ja. GPUwerk leverer dokumentation for den fysiske placering, adgangskontroller og sletningsprocedurer og besvarer DPO-spørgeskemaer direkte. Send din DPO's spørgsmål.

Hvad sker der med vores data, når vi afslutter?

Når du afslutter, slettes din container og dens /workspace-volumen fra noden. Før noden tilbydes til en anden kunde, renses den: alle lejercontainere og -volumener fjernes, og noden består ikke sit parathedstjek og tildeles ikke, så længe nogen af dem er tilbage. Det er sletning på filsystemniveau. GPUwerk bruger hverken selvkrypterende drev eller fuld diskkryptering på noderne, så der fremsættes ingen påstand om kryptografisk sletning. GPUwerk opbevarer ingen kopi af dit workspace andre steder: ingen backup og ingen gendannelseskopi. Fejler et drev, går workspacet på det tabt, så behold din egen kopi. Når din kredit når nul, eller du rammer dit månedsbudget, stoppes instansen, og dens maskine frigives. Workspacet bliver på den maskine i op til 48 timer. Optank eller hæv budgettet, og start den igen inden for den tid, så fortsætter den, hvor den slap, medmindre en anden har lejet maskinen, hvilket sletter det tidligere. Efter 48 timer slettes det endegyldigt. E-mails om lav saldo advarer dig, før det sker; automatisk optankning gør det mindre sandsynligt, men en betaling kan mislykkes.

Dækker dette også EU's AI-forordning, ikke kun GDPR?

Dedikeret hardware ændrer ikke din risikokategori eller din status som udbyder/idriftsætter under EU's AI-forordning; det afhænger af, hvad dit system gør, ikke af, hvor det kører. Det, den giver dig, er et klart svar på, hvem der kan tilgå dine data, mens modellen kører, hvilket er nyttig dokumentation for de forpligtelser på idriftsættersiden, som de fleste selvhostende virksomheder reelt står over for. Se GDPR og EU's AI-forordning på dedikeret hardware for det samlede billede på én side.

Ud over infrastrukturen

Praktisk udrulningspakke.

Har du brug for mere end infrastruktur, kan jeg tilføje et afgrænset forløb med klare leverancer til onboarding af teamet og integration.

  1. Projektgennemgang

    Definer rammerne for use casen, mål for svartid, og hvem der godkender produktion.

  2. Træning af teamet

    Praktiske sessioner om promptkvalitet, governance-mønstre og almindelig drift.

  3. Køreplan for integration

    Planlæg udrulningen af API'en, inklusive hvad dine værktøjer skal gøre, når instansen er stoppet eller optaget.

Se, hvordan forløbet fungerer

Gør dit AI-projekt til virkelighed.

Udrul en Spark, og test den selv, eller spørg den person, der driver rackene. Første optankning: betal 20 $, få 30 $ i kredit.