Sari la conținut
Toate articolele
Date, confidențialitate și GDPR

Poate un model AI să fie anonim? Răspunsul EDPB nu este „da”

Comitetul European pentru Protecția Datelor nu acceptă anonimitatea ca proprietate a modelelor AI în general. Opinia 28/2024 stabilește un test în două părți, pe care un model anume trebuie să îl treacă mai întâi.

BastionActualizat 3 min de citit

Un furnizor care spune „modelul este anonim” face o afirmație de drept al protecției datelor. Comitetul European pentru Protecția Datelor (EDPB) a analizat această afirmație în Opinia 28/2024, publicată la 18 decembrie 2024.

Ce a constatat EDPB: anonimitatea se stabilește de la caz la caz

Opinia arată că afirmațiile privind anonimitatea unui model AI „should be assessed by competent SAs on a case-by-case basis, since the EDPB considers that AI models trained with personal data cannot, in all cases, be considered anonymous”. Corpul documentului o spune încă o dată: „the EDPB considers that AI models trained on personal data cannot, in all cases, be considered anonymous. Instead, the determination of whether an AI model is anonymous should be assessed, based on specific criteria, on a case-by-case basis.”

Opinia nu spune că modelele nu sunt niciodată anonime. Tratează anonimitatea ca pe o constatare despre un model anume.

Testul în două părți pe care un model trebuie să îl treacă pentru a fi anonim

for an AI model to be considered anonymous, using reasonable means, both (i) the likelihood of direct (including probabilistic) extraction of personal data regarding individuals whose personal data were used to train the model; as well as (ii) the likelihood of obtaining, intentionally or not, such personal data from queries, should be insignificant for any data subject

EDPB, Opinia 28/2024

Ambele probabilități trebuie să fie neglijabile, și anume „insignificant for any data subject”, nu în medie. Evaluarea trebuie să țină seama de „all the means reasonably likely to be used” de către operator sau de către altă persoană. Opinia adaugă că autoritățile de supraveghere trebuie să analizeze riscul de identificare de către „different types of 'other persons', including unintended third parties accessing the AI model”.

De ce „modelul nu conține nume” nu trece testul

Argumentul obișnuit este că modelul nu conține nume, deci nu conține date personale. O descriere poate însă identifica o persoană fără niciun nume în ea: directorul general al singurei companii software dintr-un oraș de opt mii de locuitori, angajat în martie 2018.

Opinia notează și că cercetarea din domeniu este activă: „research on training data extraction is particularly dynamic. It shows that it is possible, in some cases, to use means reasonably likely to extract personal data from some AI models, or simply to accidentally obtain personal data through interactions with an AI model”.

Ce ar trebui să consemneze o companie înainte să apară întrebarea

  • Identifică ce date personale există în prompturi, în documente și în orice set de fine-tuning
  • Decide dacă sunt necesare pentru sarcină și elimină ce nu este necesar
  • Consemnează temeiul legal al prelucrării
  • Consemnează cine le prelucrează, unde și cât timp sunt păstrate
  • Păstrează în scris controalele tehnice și raționamentul din spatele lor

Opinia spune că autoritățile de supraveghere „should review the documentation provided by the controller to demonstrate the anonymity of the model”. Sarcina probei revine celui care face afirmația.

Unde ajută prelucrarea locală și unde nu

Un model rulat în interiorul organizației vă lasă să controlați mai bine cine îl poate interoga și cine poate ajunge la el, lucru care contează pentru partea testului privind „alte persoane”. Datele personale nu devin însă anonime: un model care poate reproduce un exemplu din antrenare într-un data center îl poate reproduce la fel și în server room-ul dumneavoastră.

Cu Bastion

Ce schimbă Bastion

Bastion este un sistem AI privat, livrat ca o singură cutie sigilată care funcționează în clădirea ta. Un singur abonament lunar acoperă cutia, modelul, sistemul de operare securizat și suportul, iar nimic din ce scrie echipa ta nu părăsește clădirea.

Bastion livrează ponderile deschise exact așa cum au fost publicate, cu o evidență a depozitului și a sumei de control. Astăzi nu livrează ponderi cu fine-tuning, iar cutia nu învață din prompturile și documentele pe care le procesează. Nimic din toate acestea nu face un model anonim în sensul Opiniei 28/2024, iar noi nu vom susține altceva. Se restrânge însă cercul celor care ar putea încerca vreodată o extragere.

Întrebări la care răspunde articolul

Un model AI local face datele personale anonime?
Nu. Rularea modelului în interiorul organizației dă mai mult control asupra celor care îl pot interoga, lucru relevant pentru partea testului privind „alte persoane”. Nu transformă însă datele personale în date anonime.
Poate fi anonim un model AI antrenat cu date personale?
Nu în mod automat. Opinia EDPB 28/2024, publicată la 18 decembrie 2024, spune că aceste modele nu pot fi considerate anonime în toate cazurile și că fiecare afirmație de anonimitate se evaluează de la caz la caz.
Cine trebuie să dovedească că un model AI este anonim?
Cel care face afirmația. Opinia spune că autoritățile de supraveghere verifică documentația prezentată de operator pentru a demonstra anonimitatea modelului.

Sursele

  1. 1