Private AI în sănătate: începe cu administrativul, nu cu diagnosticul
Articolul 9 alineatul (1) din GDPR interzice prelucrarea datelor privind sănătatea, cu excepția situațiilor prevăzute. Din cauza acestei propoziții, un proiect AI într-o unitate medicală ar trebui să înceapă cu documentele de care nu depinde tratamentul nimănui.
Organizațiile medicale dețin unele dintre cele mai sensibile date care există, așa că locul în care rulează un sistem AI contează aici mai mult decât în majoritatea domeniilor.
Ce spune articolul 9 din GDPR despre datele medicale
Processing of personal data revealing racial or ethnic origin, political opinions, religious or philosophical beliefs, or trade union membership, and the processing of genetic data, biometric data for the purpose of uniquely identifying a natural person, data concerning health or data concerning a natural person's sex life or sexual orientation shall be prohibited.
Regulamentul (UE) 2016/679, articolul 9 alineatul (1)
Articolul 9 alineatul (2) enumeră apoi situațiile în care interdicția nu se aplică, începând cu consimțământul explicit. Prin urmare, pentru o utilizare AI în sănătate, temeiul legal trebuie identificat înainte de alegerea arhitecturii.
Când face AI Act un sistem medical high-risk
AI Act adaugă propriile reguli, separat de GDPR. Două căi duc în categoria high-risk, fiecare cu data ei.
| Regula | Ce acoperă | Se aplică de la | Sursa |
|---|---|---|---|
| Articolul 6 alineatul (1) | Un sistem care este componentă de siguranță a unui produs, sau este el însuși un produs, acoperit de legislația de armonizare din anexa I și supus evaluării conformității de către un terț | 2 august 2028 | Regulamentul (UE) 2026/1744, European Commission |
| Articolul 6 alineatul (2) | Utilizările din anexa III | 2 decembrie 2027 | Regulamentul (UE) 2026/1744, European Commission |
Articolul 6 alineatul (3) poate scoate un sistem din categorie, atunci când nu prezintă un risc semnificativ și îndeplinește, de exemplu, „a narrow procedural task” sau este „intended to improve the result of a previously completed human activity”. Niciuna dintre cele două date nu se schimbă pentru că serverul este local.
Ce se implementează primul: munca administrativă
Începe cu munca administrativă și de documentare, nu cu deciziile clinice: căutarea în procedurile interne, rezumarea documentelor neclinice, redactarea corespondenței și răspunsurile la întrebările personalului despre proces.
Profilul de risc al unui asistent pentru proceduri interne este foarte departe de cel al unui sistem AI implicat într-o decizie de îngrijire. Dacă sunt tratate ca un singur proiect, asistentul pentru proceduri așteaptă verificările de care are nevoie sistemul implicat în îngrijire.
Minimizarea datelor se aplică și pe propriul server
Cinci întrebări își așteaptă răspunsul și atunci când sistemul rulează în interiorul organizației:
- Are modelul nevoie de aceste date sau doar de o versiune din care datele sensibile au fost eliminate?
- Poate accesul fi restrâns la oamenii a căror muncă îl cere?
- Cât timp trebuie să existe prompturile și jurnalele și cine le șterge?
- Cine poate recupera ce documente, cu regula aplicată acolo unde are loc recuperarea?
- Poate sistemul funcționa fără acces la internet și cere ceva din flux acel acces?
Ce schimbă prelucrarea locală și ce nu schimbă
Prelucrarea locală păstrează informațiile în infrastructura proprie a organizației. Astfel scad dependențele externe de prelucrare, iar la mai multe întrebări din GDPR se poate răspunde mai ușor cu dovezi. Ea nu oferă un temei legal în sensul articolului 9 și nu face potrivită o utilizare clinică. Măsoară dacă prima activitate ajută și extinde doar când guvernanța și controalele sunt pregătite pentru pasul următor.
Cu Bastion
Ce schimbă Bastion
Bastion este un sistem AI privat, livrat ca o singură cutie sigilată care funcționează în clădirea ta. Un singur abonament lunar acoperă cutia, modelul, sistemul de operare securizat și suportul, iar nimic din ce scrie echipa ta nu părăsește clădirea.
Bastion păstrează inferența și retrieval-ul într-o singură cutie, la sediul organizației sau într-un data center. Nici prompturile, nici documentele nu ajung la un serviciu AI extern, așa că lista părților implicate în prelucrare, care trebuie documentată, se scurtează.
Temeiul legal, deciziile de minimizare și oportunitatea clinică rămân ale organizației.
Întrebări la care răspunde articolul
- Permite GDPR prelucrarea datelor medicale cu AI?
- Articolul 9 alineatul (1) interzice prelucrarea datelor privind sănătatea, iar alineatul (2) enumeră situațiile în care interdicția nu se aplică, începând cu consimțământul explicit. Temeiul legal trebuie identificat înainte de alegerea arhitecturii.
- Ce activități AI sunt realiste la început într-un spital?
- Cele administrative și cele bazate pe informații: căutarea în proceduri interne, rezumarea documentelor neclinice, redactarea corespondenței și răspunsul la întrebările personalului despre proces.
- Un sistem AI local rezolvă conformitatea GDPR?
- Nu. Păstrează prelucrarea în infrastructura proprie, ceea ce reduce dependențele externe, iar la mai multe întrebări se răspunde mai ușor cu dovezi. Nu oferă un temei legal și nu face potrivită o utilizare clinică.
Sursele
- 1
- 2
- 3
- 4
Citește mai departe
- AI high-risk: ce clasifică regulamentul și ce nuRegulile de clasificare în cuvintele regulamentului, cele patru condiții care pot scoate un sistem din anexa III în afara categoriei, datele în vigoare și de ce mutarea serverului nu schimbă nimic.
- Ce este Private AI și când are nevoie o organizație de el?Private AI este același tip de model, cu alt răspuns la o singură întrebare: cine controlează mediul în care sunt procesate datele. Ce schimbă acest răspuns, ce lasă neatins și cele cinci întrebări care închid discuția.