Privat LLM-hosting i EU-Central
Dine modeller. Dine data. Én lejer: dig.
Privat LLM-hosting på hele dedikerede maskiner i EU-Central. Dine data behandles i EU, bruges aldrig til træning, og ingen anden kunde rører nogensinde din GPU.
0 $,79/time, faktureret pr. minut · betal 20 $, få 30 $ i kredit ved din første optankning
Kort fortalt.
Én lejer pr. maskine
En hel dedikeret maskine, tildelt dig. Ingen delte GPU'er.
Underdatabehandlere for workloads
På GPUwerks egne niveauer. Listen over underdatabehandlere er kort: ingen for instans-workloads dér; Partner-niveauet kører på en partnervært.
Databehandleraftale efter GDPR
Offentliggjort på /legal/dpa, gratis.
De tre bekymringer
De tre bekymringer, besvaret.
Alle virksomheder, jeg taler med, kommer med de samme tre bekymringer. Her er præcis, hvordan hver enkelt håndteres.
"Vores data forlader EU"
Det gør det ikke. Hardwaren står fysisk i EU-Central og drives af PRINT IT! SE, et europæisk selskab (Societas Europaea) registreret i Prag. Der er intet amerikansk moderselskab og, på GPUwerks egne niveauer, ingen amerikansk region bag den maskine. De få tjenester, GPUwerk bruger omkring den, f.eks. transaktionsmails, står med deres udbydere og lande på listen over underdatabehandlere. Dataplacering er ikke et flueben i et indstillingspanel; det er dér, hvor maskinen er boltet fast i racket.
"Udbyderen træner på vores data"
GPUwerk driver infrastruktur, ikke modeller: dine prompts og dokumenter behandles på din dedikerede maskine af software, du selv har installeret, og kan kun nås via dine SSH-nøgler og konsollens browserterminal. Som på enhver hostet tjeneste har GPUwerk infrastrukturadministratoradgang til den underliggende maskine, men som fastsat i GPUwerks databehandleraftale tilgår GPUwerk ikke indholdet af dit workspace, undtagen på din anmodning om support eller hvor en lovmæssig forpligtelse kræver det, så der er intet at træne på. Det står under alle omstændigheder i kontrakten. Den eneste træning, der sker, er din egen, på dine egne data.
"Medarbejdere indsætter hemmeligheder i ChatGPT"
Blokering skubber det over på private telefoner. Løsningen er et godkendt alternativ, der er lige så bekvemt: en assistent i ChatGPT-klassen på din egen instans, samme chatbrugerflade, samme API, og hver prompt bliver på en dedikeret maskine, der kun er tildelt dig. Se opsætningen af en privat ChatGPT →
Til din DPO
Skrevet, så din DPO kan videresende det.
Compliance-billedet i én tabel, i klart sprog, uden markedsføring.
| Spørgsmål | Svar |
|---|---|
| Hvor behandles data fysisk? | EU-Central, på en dedikeret maskine med én lejer, som er tildelt dig |
| Hvem er operatøren? | PRINT IT! SE, et europæisk selskab (Societas Europaea) registreret i Prag, Tjekkiet (virksomheds-ID 069 60 090). Intet moderselskab uden for EU. |
| Hvem kan tilgå instansens indhold? | Via selve instansen kun indehavere af dine SSH-nøgler og dig via browserterminalen i din GPUwerk-konsol; login med adgangskode er slået fra i hele flåden. GPUwerk beholder infrastrukturadministratoradgang til den underliggende maskine, som på enhver hostet tjeneste, og bruger den i henhold til databehandleraftalen ikke på dit indhold, undtagen på din anmodning om support eller hvor en lovmæssig forpligtelse kræver det. Et modelimages HTTPS-endpoint kan nås af alle, der har URL'en, indtil du sætter en autentificerende proxy som LiteLLM foran det. |
| Læser GPUwerk prompt- eller modeldata? | Nej. GPUwerk hoster hardwaren og står for faktureringen og tilgår, læser, kopierer, indekserer eller analyserer ikke indholdet af workloads i henhold til databehandleraftalen |
| Bruges kundedata til træning? | Nej, kontraktligt, og da GPUwerk ikke tilgår dit indhold, er der intet at træne på |
| Underdatabehandlere for workloads? | Ingen på GPUwerks egne niveauer (Partner-niveauet kører på en partnervært) |
| Databehandleraftale (GDPR art. 28)? | Offentliggjort på /legal/dpa, gratis |
| Data ved afslutning? | Container og workspace-volumen slettes fra noden, og noden renses, før den tilbydes til nogen anden. Sletning i filsystemet, ikke kryptografisk sletning. |
Arkitektur
Arkitekturen er argumentet.
Få pile, hver enkelt dokumenteret: jo kortere DPO-gennemgang.
your office / VPN your apps
│ │
│ SSH (keys only, │ HTTPS model endpoint
│ dedicated IP) │ (add an auth proxy)
▼ ▼
┌────────────────────────────────────────────┐
│ your dedicated DGX Spark · EU-Central │
│ model · vector store · chat UI · API │
│ 128 GB unified memory · 1 TB NVMe │
└────────────────────────────────────────────┘
two arrows, both listed in the DPA.
Vejer du dette op mod en API med betaling pr. token i stedet? Læs privat LLM-hosting vs OpenAI API eller privat LLM-hosting vs Azure AI Foundry om dataplacering, hvem der kan se dine prompts, og målt gennemløb.
Reguleret arbejde
Sundhed, jura, finans og den offentlige sektor.
Teams inden for disse områder stiller de samme tre spørgsmål: hvor maskinen står, hvem der ellers kan nå den, og hvad kontrakten siger. Svarene er de samme for alle sektorer. Maskinen står i EU-Central og er tildelt én kunde. GPUwerk beholder almindelig administratoradgang for at kunne drive den, og databehandleraftalen efter artikel 28 og listen over underdatabehandlere beskriver, hvad det dækker.
En dedikeret maskine gør ikke i sig selv et workload compliant. Patientjournaler, fortrolige sagsakter, betalingsdata og borgerdata har hver deres regler, og din DPO eller juridiske rådgiver afgør, om denne opsætning lever op til dem. GDPR og EU's AI-forordning på dedikeret hardware oplister den dokumentation, GPUwerk kan udlevere.
Guides
Sammenligninger af udbydere.
Sammenligningerne med priser tjekket mod hver udbyders egen side. Sammenligningsoversigten oplister alle andre udbydere.
Sådan står den sig
En dedikeret Spark i EU sammenlignet med de API'er med betaling pr. token, som købere også overvejer. Dataplacering, hvem der kan se dine prompts, og hvor hver enkelt vinder.Se 11 guides
- Privat LLM-hosting vs OpenAI API for EU-virksomhederDataplacering, hvem der kan se dine prompts, målte tok/s, og hvor hver enkelt vinder.8 min. læsning
- Privat LLM-hosting vs Azure AI Foundry for EU-virksomhederModelkatalog, dataplacering, prismodel, og hvor hver enkelt vinder.8 min. læsning
- Privat LLM-hosting vs Anthropic API for EU-virksomhederDataplacering, hvem der kan se dine prompts, målte tok/s, og hvor hver enkelt vinder.8 min. læsning
- Privat LLM-hosting vs RunPodRunPod er en GPU-markedsplads på tværs af mange hosts og GPU-typer. Sammenligningen handler om, hvem der reelt driver maskinen, ikke kun om lejemodellen.8 min. læsning
- Privat LLM-hosting vs GroqGroqs LPU-hardware er reelt hurtig, hurtigere end det meste GPU-inferens. En dedikeret DGX Spark konkurrerer på en anden akse: hardware med én lejer og kontrol over data, ikke rå hastighed.8 min. læsning
- Privat LLM-hosting vs Together AITogether AI kører et bredt katalog af åbne modeller på delt infrastruktur med mange lejere. En dedikeret DGX Spark er én maskine, der kører din model, under dine nøgler.8 min. læsning
- Privat LLM-hosting vs Lambda Labs for EU-virksomhederDen sammenligning, der i form ligger tættest på GPUwerk, og som primært adskiller sig på region og hardware. Hvor hver enkelt vinder.8 min. læsning
- Privat LLM-hosting vs Scaleway for EU-virksomhederTo EU-baserede muligheder, den ene snæver og til fast pris, den anden en bred cloud til generelle formål. Hvor hver enkelt vinder.8 min. læsning
- Privat LLM-hosting vs Hetzner GPU-servere for EU-virksomhederPrisvenlig dedikeret hardware fra en kendt tysk host sammenlignet med en maskine med unified memory bygget til inferens. Hvor hver enkelt vinder.8 min. læsning
- Privat LLM-hosting vs CoreWeave for EU-virksomhederEn dedikeret DGX Spark i EU til 0 $,79/time vs CoreWeaves enterprise-GPU-cloud: klyngestørrelse, kontraktminimum, dataplacering, og hvor hver enkelt reelt passer.8 min. læsning
- Privat LLM-hosting vs Vast.ai for EU-virksomhederEn dedikeret DGX Spark i EU til 0 $,79/time vs Vast.ai's peer-to-peer-GPU-markedsplads: hvem der reelt ejer maskinen, dataplacering, pålidelighed, og hvor hver enkelt vinder.8 min. læsning
- Privat AI vs ChatGPT EnterpriseHvor ChatGPT Enterprises kontraktlige kontroller ender, og en dedikeret maskines dataplacering begynder.7 min. læsning
- DGX Spark vs cloud-GPU-instanserAt have en dedikeret Spark mod at leje GPU-timer pr. token eller pr. time, sammenlignet på pris og kontrol.7 min. læsning
- Selvhostede vs administrerede LLM-platformeHvad du påtager dig, når du selv kører modellen, og hvad en administreret platform stadig overlader til dig.7 min. læsning
FAQ om compliance.
Overholder det GDPR?
GPUwerk leverer den dokumentation, du har brug for: hardware og drift i EU-Central, en databehandleraftale efter artikel 28, ingen underdatabehandlere for workloads på GPUwerks egne niveauer og dedikerede maskiner med én lejer, hvis indhold GPUwerk ikke tilgår, læser, kopierer, indekserer eller analyserer. Infrastrukturadministratoradgang til den underliggende maskine findes, som på enhver hostet tjeneste, og under databehandleraftalen bruges den ikke på dit indhold, undtagen på din anmodning om support eller hvor en lovmæssig forpligtelse kræver det. Du forbliver dataansvarlig, så det er op til dig at godtgøre, at selve behandlingen er compliant.
Underskriver I en databehandleraftale?
Ja, en standard-databehandleraftale efter GDPR artikel 28 er gratis offentliggjort på /legal/dpa. GPUwerks liste over underdatabehandlere for workloads er kort: på GPUwerks egne niveauer er der ingen; Partner-niveauet kører på en partnervært.
Kan vores DPO auditere opsætningen?
Ja. GPUwerk leverer dokumentation for den fysiske placering, adgangskontroller og sletningsprocedurer og besvarer DPO-spørgeskemaer direkte. Send din DPO's spørgsmål.
Hvad sker der med vores data, når vi afslutter?
Når du afslutter, slettes din container og dens /workspace-volumen fra noden. Før noden tilbydes til en anden kunde, renses den: alle lejercontainere og -volumener fjernes, og noden består ikke sit parathedstjek og tildeles ikke, så længe nogen af dem er tilbage. Det er sletning på filsystemniveau. GPUwerk bruger hverken selvkrypterende drev eller fuld diskkryptering på noderne, så der fremsættes ingen påstand om kryptografisk sletning. GPUwerk opbevarer ingen kopi af dit workspace andre steder: ingen backup og ingen gendannelseskopi. Fejler et drev, går workspacet på det tabt, så behold din egen kopi. Når din kredit når nul, eller du rammer dit månedsbudget, stoppes instansen, og dens maskine frigives. Workspacet bliver på den maskine i op til 48 timer. Optank eller hæv budgettet, og start den igen inden for den tid, så fortsætter den, hvor den slap, medmindre en anden har lejet maskinen, hvilket sletter det tidligere. Efter 48 timer slettes det endegyldigt. E-mails om lav saldo advarer dig, før det sker; automatisk optankning gør det mindre sandsynligt, men en betaling kan mislykkes.
Dækker dette også EU's AI-forordning, ikke kun GDPR?
Dedikeret hardware ændrer ikke din risikokategori eller din status som udbyder/idriftsætter under EU's AI-forordning; det afhænger af, hvad dit system gør, ikke af, hvor det kører. Det, den giver dig, er et klart svar på, hvem der kan tilgå dine data, mens modellen kører, hvilket er nyttig dokumentation for de forpligtelser på idriftsættersiden, som de fleste selvhostende virksomheder reelt står over for. Se GDPR og EU's AI-forordning på dedikeret hardware for det samlede billede på én side.
Ud over infrastrukturen
Praktisk udrulningspakke.
Har du brug for mere end infrastruktur, kan jeg tilføje et afgrænset forløb med klare leverancer til onboarding af teamet og integration.
Projektgennemgang
Definer rammerne for use casen, mål for svartid, og hvem der godkender produktion.
Træning af teamet
Praktiske sessioner om promptkvalitet, governance-mønstre og almindelig drift.
Køreplan for integration
Planlæg udrulningen af API'en, inklusive hvad dine værktøjer skal gøre, når instansen er stoppet eller optaget.
Gør dit AI-projekt til virkelighed.
Udrul en Spark, og test den selv, eller spørg den person, der driver rackene. Første optankning: betal 20 $, få 30 $ i kredit.