Un asistent AI din cloud funcționează trimițând textul tău către un server care nu îți aparține. Contractul numește asta procesare. Fizic, este o copie. Copia stă într-o bază de date, într-un jurnal, într-o coadă de antrenare sau într-un backup, după regulile furnizorului, iar regulile se schimbă. Trei incidente arată unde a ajuns copia.
Ianuarie 2026: 300 de milioane de mesaje, o bază de date deschisă
Chat & Ask AI este o aplicație de chatbot pentru consumatori, construită de Codeway, cu peste 50 de milioane de instalări. În ianuarie 2026 un cercetător în securitate a găsit baza de date a aplicației citibilă public. Malwarebytes a raportat că aproximativ 300 de milioane de mesaje, legate de circa 25 de milioane de utilizatori, au fost expuse. Cauza nu a fost un atac. A fost un proiect Google Firebase cu regulile de securitate setate pe public, ceea ce Malwarebytes numește „o configurare greșită a Firebase, bine cunoscută și documentată”.
Nimeni nu a atacat nimic. O bifă de configurare pe un serviciu cloud a făcut fiecare conversație citibilă pentru oricine avea adresa proiectului. Utilizatorii nu aveau cum să știe și nu aveau cum să verifice.
Februarie 2026: o comandă care scurge conversația
Check Point Research a descoperit o vulnerabilitate în ChatGPT, pe care OpenAI a remediat-o la 20 februarie 2026. The Hacker News a rezumat-o într-o propoziție: o singură comandă rău intenționată putea transforma o conversație obișnuită într-un canal ascuns de scurgere, expunând mesajele utilizatorului, fișierele încărcate și alt conținut sensibil. Același raport a acoperit o vulnerabilitate în Codex care expunea token-uri de acces GitHub printr-un nume de branch.
Ambele au fost remediate. Exact asta este ideea. Un asistent din cloud este actualizat după programul furnizorului, iar între descoperire și remediere fișierele tale încărcate sunt încărcătura.
Mai 2023: codul sursă care a ajuns în chatbot
Samsung Electronics a interzis ChatGPT și uneltele similare pe dispozitivele companiei în mai 2023, după ce angajați din divizia de semiconductori au lipit cod sursă și înregistrări de ședințe în asistent, pentru depanare și rezumate. The Register a relatat nota internă, a cărei autenticitate Bloomberg o confirmase: angajaților li s-a spus despre îngrijorări tot mai mari privind riscurile de securitate ale AI-ului generativ.
Angajații nu au făcut nimic neobișnuit. Au folosit unealta așa cum este proiectată să fie folosită. Unealta este proiectată să trimită textul departe.
Ce înseamnă asta pentru un cumpărător reglementat din România
- Un proiect de contract al unei bănci, o scrisoare de externare a unui spital și un dosar al unei case de avocatură sunt toate „text” pentru asistent. Asistentul nu știe care dintre ele este dată din categoria specială, conform articolului 9 din GDPR.
- Contractul semnat cu furnizorul guvernează copia. Subcontractanții, regiunile și perioadele de retenție ale furnizorului guvernează unde este fizic copia. Pe primul îl documentezi. Pe al doilea nu îl poți inspecta.
- Nicio lege nu te obligă să ții AI-ul on-premise. Articolul 28 din GDPR îți permite să folosești un procesator. Întrebarea pe care o pune un responsabil cu protecția datelor nu este „este permis”, ci „pot arăta unde a ajuns”. Pentru un asistent din cloud, răspunsul onest este o diagramă a infrastructurii altcuiva.
Cu Bastion
Ce schimbă Bastion
Bastion este un echipament sigilat, în clădirea ta, fără conexiune de ieșire spre internet. O întrebare merge de la un birou la camera serverelor și înapoi. Nu există o copie în afara rețelei, deci nu există o regulă Firebase de setat greșit, o fereastră de remediere a furnizorului sau un transfer către o țară terță de justificat.
Limita, spusă întâi: o cutie sigilată protejează împotriva plecării datelor. Nu protejează împotriva unui utilizator care lipește fișierul greșit în ea și nu face răspunsurile modelului corecte. Politica ta de acces face în continuare acea muncă.
Sursele
- 1
- 2
- 3