GDPR ja EL-i AI-määrus dedikeeritud riistvaral
LLM-i üleviimine jagatud mitme rentijaga API-st dedikeeritud DGX Sparkile muudab ühte GDPR-i vastust: kes veel pääseb mudeli töötamise ajal sinu andmetele ligi. See ei muuda sinu EL-i AI-määruse riskitaset ega sinu rolli pakkuja või juurutajana. See leht kirjeldab, mida GPUwerk saab sinu andmekaitseametniku jaoks dokumenteerida ja mis jääb sinu enda analüüsiks. See ei ole õigusnõuanne.
Kaks eraldi raamistikku, kaks eraldi küsimust
GDPR ja EL-i AI-määrus pannakse vestlustes sageli kokku, sest mõlemad on olulised Euroopas AI-d juurutavale ettevõttele, kuid need vastavad erinevatele küsimustele. GDPR käsitleb isikuandmeid: mida tohid töödelda, millisel õiguslikul alusel ja kes veel neid teel puudutab. AI-määrus käsitleb AI-süsteemi ennast: millisesse riskitasemesse sinu kasutusotstarve kuulub ja kas tegutsed pakkujana (ligikaudu üksus, mis süsteemi arendab või turule laseb) või juurutajana (üksus, mis kasutab seda oma vastutusel). Kumbagi raamistikku ei määra see, kus sinu arvutusvõimsus füüsiliselt asub. Majutuse asukoht on GDPR-i ja andmete asukoha küsimus; riskitase ja roll on AI-määruse küsimus. Hoia need lahus. Müüjate turundus, mis need kaks ähmastab, sealhulgas iga majutusteenuse pakkuja oma, on enamiku segaduse allikas.
Mida dedikeeritud riistvara valimine tegelikult muudab
Mudeli käitamine dedikeeritud DGX Sparkil jagatud mitme rentijaga API kutsumise asemel ei muuda sinu AI-määruse riskitaset ega pakkuja/juurutaja staatust; need sõltuvad sellest, mida süsteem teeb ja kes vastutab selle kasutuselevõtu eest, mitte selle all olevast riistvarast. See muudab aga GDPR-i seisukohast olulist küsimust, kes veel pääseb mudeli töötamise ajal sinu andmetele ligi. Jagatud API puhul on see vastus müüja mitme rentijaga arhitektuuri ja lepinguliste isoleerimiskontrollide kirjeldus. Tervel dedikeeritud masinal, kus sul on root-õigused oma konteineris, on vastus teiste klientide kohta mitte keegi: ühegi teise kliendi töökoormus ei tööta sellel masinal, kuni sa seda rendid. GPUwerk säilitab infrastruktuuri administraatori juurdepääsu, nagu iga host. See on lihtsam fakt, mida andmekaitseametnikule või audiitorile esitada. See ei ole iseenesest suurem õiguslik kilp.
GDPR-i tõendid, mida GPUwerk annab
- Asukoht. GPUwerki enda tasemed töötavad riistvaral Hradec Královés Tšehhi Vabariigis, mida käitab PRINT IT! SE. Partneri tase, mille saad konsoolis asukohaks valida alati, kui partnerisõlm on vaba, töötab sõltumatu partneri masinal partneri ruumides. See masin asub EMP-s, välja arvatud juhul, kui rentija valib juurutamisel ükskõik millise asukoha, mis võib paigutada selle väljapoole EMP-d kolmanda riigi edastusena Euroopa Komisjoni tüüptingimuste alusel. Rentijad võivad sellel tasemel kasutada mis tahes andmeid ja valida selle asukoha.
- Avaldatud artikli 28 kohane andmetöötlusleping. Standardne GDPR-i andmetöötlusleping on tasuta saadaval aadressil gpuwerk.com/legal/dpa.
- Lühike alamtöötlejate nimekiri. Avaldatud aadressil gpuwerk.com/legal/sub-processors; GPUwerki enda tasemetel eksemplaride töökoormuste jaoks neid ei ole. Partneri tasemel on masinat majutav partner selle eksemplari alamtöötleja.
- Sinu sisul ei treenita. GPUwerk ei pääse sinu eksemplari sisule ligi ega loe, kopeeri, indekseeri ega analüüsi seda. Infrastruktuuri administraatori juurdepääs on olemas, nagu igal majutatud teenusel, ja seda ei kasutata sinu sisu puhul, välja arvatud sinu taotlusel toe saamiseks või kui seda nõuab seadusest tulenev kohustus.
- Kirjeldatud kustutamistee. Eksemplari lõpetamine kustutab selle konteineri ja tööruumi sõlmest; sõlmed puhastatakse enne teisele kliendile eraldamist. GPUwerk ei hoia tööruumist koopiat kusagil mujal, seega pärast lõpetamist ei säilitata midagi.
Sina jääd oma töötlemise vastutavaks töötlejaks, seega on see, mida mudeliga teed, sinu kinnitada; see on infrastruktuuri tõendusmaterjal, mis seda kinnitust toetab. Iga punkti täielike üksikasjade jaoks vaata privaatset LLM-i majutust ja AI-tööriistade GDPR-i kontrollnimekirja.
AI-määruse küsimus lühidalt
Enamik ettevõtteid, kes ise majutavad olemasolevat avatud kaaludega mudelit sisekasutuseks, seda oluliselt muutmata või teistele tootena pakkumata, on juurutajad, mitte pakkujad. Juurutaja kohustused on kitsamad. Klassifikatsioon sõltub sellest, mida mudeliga teed ja keda see mõjutab, mitte sellest, kas see töötab dedikeeritud Sparkil või jagatud API-s.
Dedikeeritud riistvara aitab pärast seda klassifitseerimist. Juurutaja kohustuste hulka kuuluvad inimjärelevalve ning kõrgema riskiga kasutuse puhul seire ja dokumenteerimine. Selge vastus küsimusele „kellel on juurdepääs süsteemi sisenevatele andmetele“ on hea lähtepunkt sellele järelevalvele. See ei asenda klassifitseerimist ennast. Täielik arutluskäik, sealhulgas millal võivad sulle tekkida pakkujaga sarnased kohustused, on selgituses EL-i AI-määrus ja ise majutatud LLM-id.
Mida see leht ei väida
Dedikeeritud riistvara ei muuda sind AI-määrusega vastavaks. Andmetöötlusleping üksi ei täida GDPR-i nõudeid sinu konkreetse töötlemise jaoks. Kumbki ei asenda juristi hinnangut; jurist peab tundma sinu mudelit, andmeid ja kasutusjuhtumit. GDPR ja EL-i AI-määrus on kaks raamistikku, mille kohta ostjad küsivad, seega käsitleb see üks leht mõlemat; majutusteenuse pakkuja ei saa vastutustundlikult pakkuda sellest suuremat õiguslikku sügavust.
Dedikeeritud DGX Spark EU-Centralis annab sulle lühikese ja konkreetse vastuse andmetele juurdepääsu kohta, samal ajal kui jurist tegeleb klassifitseerimise ja töötlemise analüüsiga. Vaata privaatset LLM-i majutust, et näha, kuidas see on üles ehitatud, või saada oma küsimused otse.
Korduma kippuvad küsimused
Kas meie LLM-i käitamine dedikeeritud riistvaral jagatud API asemel muudab meie EL-i AI-määruse kohustusi?
Ei. AI-määrus määrab kohustused riskikategooria ja rolli, pakkuja või juurutaja, järgi, mitte selle järgi, kus või kuidas arvutusvõimsust majutatakse. Enamik ettevõtteid, kes ise majutavad olemasolevat avatud kaaludega mudelit sisekasutuseks, on juurutajad, mitte pakkujad, olenemata sellest, kas see mudel töötab jagatud API-s või dedikeeritud masinal. Dedikeeritud riistvara muudab eraldi küsimust: kes veel pääseb mudeli töötamise ajal sinu andmetele ligi. Pikem selgitus EL-i AI-määruse ja ise majutatud LLM-ide kohta käsitleb kogu pakkuja/juurutaja eristust. Ei ole õigusnõuanne.
Kas GPUwerk vastab GDPR-ile?
GPUwerk annab tõendid, mida andmekaitseametnik küsib: riistvara ja käitus EU-Centralis (Hradec Králové, Tšehhi Vabariik), artikli 28 kohane andmetöötlusleping, mis on tasuta avaldatud aadressil gpuwerk.com/legal/dpa, avaldatud alamtöötlejate nimekiri (GPUwerki enda tasemete eksemplaride liikluse jaoks: Hetzner võrgulüüsina Helsingis ja Cloudflare ainult sellel lüüsil lõpetatud mudeli lõpp-punkti jaoks) ning ühe rentijaga masinad, mille sisule GPUwerk ei pääse ligi ega loe, kopeeri, indekseeri ega analüüsi seda. Partneri tase on teistsugune: masinat majutab sõltumatu partner, võimalik et väljaspool EL-i. Võid sellel kasutada mis tahes andmeid ja valid asukoha ise: kui sinu andmed peavad jääma EMP-sse, vali sealne asukoht. Sina jääd vastutavaks töötlejaks, seega on sinu enda töötlemise nõuetele vastavuse kinnitamine sinu ülesanne; GPUwerk annab selle taga oleva infrastruktuuri tõendid.
Miks muudab dedikeeritud masin GDPR-i vastuse lihtsamaks kui jagatud API?
Jagatud mitme rentijaga API puhul on aus vastus küsimusele „kelle liiklus veel seda mudelit või riistvara puudutab“ tavaliselt nimekiri pakkuja teistest klientidest ja infrastruktuurist, isegi kui need on andmekihil lepinguliselt isoleeritud. Tervel dedikeeritud DGX Sparkil on aus vastus teiste klientide kohta mitte keegi: see on sinu konteiner ja sinu seanss ning ühegi teise kliendi töökoormus ei tööta sellel masinal, kuni sa seda rendid. GPUwerk säilitab infrastruktuuri administraatori juurdepääsu, nagu iga host, ja andmetöötluslepingu kohaselt ei kasuta seda sinu sisu puhul, välja arvatud sinu taotlusel või kui seadus seda nõuab. See on juristile või audiitorile antav lühem ja konkreetsem vastus, mitte iseenesest tugevam õiguslik garantii.
Kas see leht on õigusnõuanne?
Ei. See kirjeldab GPUwerki infrastruktuuri ning GDPR-i ja EL-i AI-määruse üldist kuju tasemel, mille täpsuses olen kindel, kuid see ei ole õigusnõuanne ega asenda kvalifitseeritud juristi hinnangut; jurist peab tundma sinu konkreetset töötlemist, mudelit ja juurutust.