GDPR og EU's AI-forordning på dedikeret hardware
At flytte en LLM fra en delt API med mange lejere til en dedikeret DGX Spark ændrer ét GDPR-svar: hvem der ellers kan nå dine data, mens modellen kører. Det ændrer ikke din risikokategori under EU's AI-forordning eller din rolle som udbyder eller idriftsætter. Denne side beskriver, hvad GPUwerk kan dokumentere for din databeskyttelsesrådgiver, og hvad der forbliver din egen analyse. Det er ikke juridisk rådgivning.
To separate regelsæt, to separate spørgsmål
GDPR og EU's AI-forordning bliver ofte nævnt i samme åndedrag, fordi begge betyder noget for en virksomhed, der tager AI i brug i Europa, men de besvarer forskellige spørgsmål. GDPR handler om personoplysninger: hvad du må behandle, på hvilket retsgrundlag, og hvem der ellers rører ved dem undervejs. AI-forordningen handler om selve AI-systemet: hvilken risikokategori din use case falder i, og om du optræder som udbyder (groft sagt den enhed, der udvikler systemet eller bringer det i omsætning) eller idriftsætter (en enhed, der bruger det under egen myndighed). Ingen af regelsættene afgøres af, hvor din regnekraft fysisk står. Hostingplacering er et spørgsmål om GDPR og dataopbevaring; risikokategori og rolle er et spørgsmål om AI-forordningen. Hold dem adskilt. Leverandørmarkedsføring, der blander de to sammen, også enhver hostingudbyders, er dér, det meste af forvirringen kommer fra.
Hvad valget af dedikeret hardware reelt ændrer
At køre din model på en dedikeret DGX Spark i stedet for at kalde en delt API med mange lejere ændrer ikke din risikokategori under AI-forordningen eller din status som udbyder/idriftsætter; de afhænger af, hvad systemet gør, og hvem der er ansvarlig for at tage det i brug, ikke af hardwaren nedenunder. Det, det ændrer, er det GDPR-relevante spørgsmål om, hvem der ellers kan tilgå dine data, mens modellen kører. På en delt API er svaret en beskrivelse af leverandørens arkitektur med mange lejere og kontraktlige isolationskontroller. På en hel dedikeret maskine, hvor du har root inde i din egen container, er svaret for andre kunder: ingen. Ingen anden kundes workload kører på den maskine, mens du lejer den. GPUwerk beholder infrastrukturadministratoradgang, som enhver host gør. Det er et enklere faktum at give en databeskyttelsesrådgiver eller revisor. Det er ikke i sig selv et større juridisk skjold.
Den GDPR-dokumentation, GPUwerk leverer
- Placering. GPUwerks egne niveauer kører på hardware i Hradec Králové i Tjekkiet, drevet af PRINT IT! SE. Partner-niveauet, som du kan vælge som placering i konsollen, når en partnernode er ledig, kører på en uafhængig partners maskine i partnerens lokaler. Den maskine står i EØS, medmindre lejeren vælger vilkårlig placering ved udrulningen, hvilket kan placere den uden for EØS som en overførsel til et tredjeland under Europa-Kommissionens standardkontraktbestemmelser. Lejere må bruge alle data på niveauet og vælger selv dets placering.
- En offentliggjort databehandleraftale efter artikel 28. En standard-databehandleraftale efter GDPR er gratis tilgængelig på gpuwerk.com/legal/dpa.
- En kort liste over underdatabehandlere. Offentliggjort på gpuwerk.com/legal/sub-processors; der er ingen for instans-workloads på GPUwerks egne niveauer. På Partner-niveauet er den partner, der hoster maskinen, underdatabehandler for den instans.
- Ingen træning på dit indhold. GPUwerk tilgår, læser, kopierer, indekserer eller analyserer ikke indholdet af din instans. Infrastrukturadministratoradgang findes, som på enhver hostet tjeneste, og bruges ikke på dit indhold, undtagen på din anmodning om support eller hvor en lovmæssig forpligtelse kræver det.
- En beskrevet sletningsproces. Når en instans afsluttes, slettes dens container og workspace fra noden; noder renses, før de tildeles en anden kunde. GPUwerk opbevarer ingen kopi af et workspace andre steder, så intet gemmes efter en afslutning.
Du forbliver dataansvarlig for din egen behandling, så det er op til dig at godtgøre, at det, du gør med modellen, er compliant; dette er den infrastrukturdokumentation, der understøtter den påstand. Alle detaljer bag hvert af disse punkter står i privat LLM-hosting og GDPR-tjeklisten til AI-værktøjer.
Spørgsmålet om AI-forordningen, kort
De fleste virksomheder, der selvhoster en eksisterende open-weight-model til internt brug uden væsentligt at ændre den eller tilbyde den til andre som et produkt, er idriftsættere snarere end udbydere. Idriftsætterens forpligtelser er snævrere. Klassificeringen afhænger af, hvad du gør med modellen, og hvem den påvirker, ikke af, om den kører på en dedikeret Spark eller en delt API.
Dedikeret hardware hjælper efter den klassificering. Idriftsætterens forpligtelser omfatter menneskeligt tilsyn og, ved anvendelser med højere risiko, overvågning og registrering. Et klart svar på "hvem har adgang til de data, der går ind i systemet" er et godt udgangspunkt for det tilsyn. Det erstatter ikke selve klassificeringen. Hele ræsonnementet, inklusive hvornår du kan ende med udbyderlignende forpligtelser, står i forklaringen om EU's AI-forordning og selvhostede LLM'er.
Hvad denne side ikke påstår
Dedikeret hardware gør dig ikke compliant med AI-forordningen. En databehandleraftale alene opfylder ikke GDPR for din konkrete behandling. Ingen af dem erstatter en gennemgang ved en juridisk rådgiver, der kender din model, dine data og din use case. GDPR og EU's AI-forordning er de to regelsæt, købere spørger til, så denne ene side dækker begge; en hostingudbyder kan ikke forsvarligt tilbyde mere juridisk dybde end det.
Det, en dedikeret DGX Spark i EU-Central giver dig, er et kort, konkret svar om adgang til data, mens den juridiske rådgiver tager sig af klassificeringen og analysen af behandlingen. Se privat LLM-hosting for, hvordan det er sat op, eller send dine spørgsmål direkte.
Ofte stillede spørgsmål
Ændrer det vores forpligtelser under EU's AI-forordning, at vi kører vores LLM på dedikeret hardware i stedet for en delt API?
Nej. AI-forordningen fordeler forpligtelser efter risikokategori og rolle, udbyder eller idriftsætter, ikke efter, hvor eller hvordan regnekraften hostes. De fleste virksomheder, der selvhoster en eksisterende open-weight-model til internt brug, er idriftsættere snarere end udbydere, uanset om modellen kører på en delt API eller en dedikeret maskine. Det, dedikeret hardware ændrer, er et separat spørgsmål: hvem der ellers kan tilgå dine data, mens modellen kører. Den længere forklaring om EU's AI-forordning og selvhostede LLM'er dækker hele sondringen mellem udbyder og idriftsætter. Ikke juridisk rådgivning.
Overholder GPUwerk GDPR?
GPUwerk leverer den dokumentation, en databeskyttelsesrådgiver beder om: hardware og drift i EU-Central (Hradec Králové, Tjekkiet), en databehandleraftale efter artikel 28, der er gratis offentliggjort på gpuwerk.com/legal/dpa, en offentliggjort liste over underdatabehandlere (for instanstrafik på GPUwerks egne niveauer: Hetzner som netværksgateway i Helsinki og Cloudflare kun for et model-endpoint, der termineres på den gateway) og maskiner med én lejer, hvis indhold GPUwerk ikke tilgår, læser, kopierer, indekserer eller analyserer. Partner-niveauet er anderledes: en uafhængig partner hoster maskinen, muligvis uden for EU. Du må bruge alle data på den, og du vælger placeringen: skal dine data blive i EØS, så vælg en placering dér. Du forbliver dataansvarlig, så det er op til dig at godtgøre, at din egen behandling er compliant; GPUwerk leverer infrastrukturdokumentationen bag det.
Hvorfor gør en dedikeret maskine GDPR-svaret enklere end en delt API?
På en delt API med mange lejere er det ærlige svar på "hvis trafik ellers rører ved denne model eller denne hardware" som regel en liste over udbyderens andre kunder og infrastruktur, selv når der er kontraktlig isolation på datalaget. På en hel dedikeret DGX Spark er det ærlige svar for andre kunder: ingen. Det er din container og din session, og ingen anden kundes workload kører på den maskine, mens du lejer den. GPUwerk beholder infrastrukturadministratoradgang, som enhver host gør, og bruger den i henhold til databehandleraftalen ikke på dit indhold, undtagen på din anmodning eller hvor loven kræver det. Det er et kortere og mere konkret svar at give en juridisk rådgiver eller revisor, ikke i sig selv en stærkere juridisk garanti.
Er denne side juridisk rådgivning?
Nej. Den beskriver GPUwerks infrastruktur og de overordnede træk ved GDPR og EU's AI-forordning på et niveau, jeg er sikker på er korrekt, men den er ikke juridisk rådgivning og erstatter ikke en gennemgang ved en kvalificeret juridisk rådgiver, der kender din konkrete behandling, model og udrulning.