Sari la conținut
Toate articolele
Cu AI în cloud

Când datele pentru AI părăsesc rețeaua. Trei incidente de reținut.

Fiecare prompt trimis unui asistent din cloud creează încă o copie a documentului, în afara controlului direct al organizației. Asta nu înseamnă că AI-ul din cloud este nesigur. Hotărăște însă cine mai poate inspecta infrastructura după aceea.

BastionActualizat 4 min de citit

Copia poate fi procesată, jurnalizată, păstrată sau salvată într-un backup, pe o infrastructură operată de alte companii. Detaliile depind de furnizor, de contract, de configurare și de serviciu.

IncidentDataCe nu a mersSursa
Baza de date Chat & Ask AIRaportat la 9 februarie 2026O bază de date Firebase citibilă public: 300 de milioane de mesaje, potrivit cercetătoruluiMalwarebytes
Vulnerabilitatea de scurgere din ChatGPTRemediată la 20 februarie 2026Un singur prompt rău intenționat putea scoate mesajele și fișierele încărcateThe Hacker News, care citează Check Point Research
Restricția de la SamsungMai 2023Angajații au folosit ChatGPT așa cum a fost proiectat; relatările despre secrete introduse sunt neconfirmateThe Register
Cele trei incidente, fiecare cu data și cu sursa lui

O bază de date publică a expus sute de milioane de mesaje

La 9 februarie 2026, Malwarebytes a raportat că un cercetător în securitate a găsit baza de date a aplicației Chat & Ask AI citibilă public. Aplicația este un chatbot pentru consumatori, construit de Codeway, cu peste 50 de milioane de utilizatori. Cercetătorul susține că a accesat 300 de milioane de mesaje, de la peste 25 de milioane de utilizatori.

Cauza a fost un proiect Google Firebase ale cărui reguli de securitate permiteau citirea publică a bazei de date, ceea ce Malwarebytes numește „a well-known and documented Firebase misconfiguration”, adică o configurare greșită a Firebase, bine cunoscută și documentată. Utilizatorul vedea o conversație privată. Nu putea inspecta configurarea și nu putea verifica cine ajungea la infrastructura de dedesubt.

Un prompt a devenit o cale de scurgere a datelor

La 30 martie 2026, Check Point Research a publicat o vulnerabilitate din ChatGPT, pe care OpenAI o remediase la 20 februarie 2026. Check Point a rezumat-o într-o propoziție, citată de The Hacker News: „A single malicious prompt could turn an otherwise ordinary conversation into a covert exfiltration channel, leaking user messages, uploaded files, and other sensitive content.” Adică un singur prompt rău intenționat putea face dintr-o conversație obișnuită un canal ascuns prin care ies mesajele utilizatorului, fișierele încărcate și alt conținut sensibil. Același articol din The Hacker News a acoperit și o vulnerabilitate din Codex, găsită de BeyondTrust, care expunea tokeni de acces GitHub printr-un nume de branch.

Vulnerabilitățile software sunt inevitabile, inclusiv în sisteme puternice și atent verificate. Pentru o companie, întrebarea este unde se află datele cât timp vulnerabilitatea este deschisă. Un document încărcat a trecut deja granița rețelei, iar din acel punct îl protejează controalele și procesul de răspuns ale furnizorului.

Samsung a restricționat ChatGPT fără niciun atac

Samsung Electronics a restricționat ChatGPT și uneltele similare în mai 2023. The Register a relatat nota internă văzută de Bloomberg, pe care Samsung a confirmat-o agenției. Nota le vorbea angajaților despre îngrijorări tot mai mari privind riscurile de securitate ale AI-ului generativ.

Despre ce au introdus angajații, dovezile sunt mai slabe. The Register consemnează relatări neconfirmate din presa coreeană că angajați ar fi introdus secrete de firmă în chatbot, ca să repare cod sursă și să genereze procese-verbale de ședință, și spune că i-a cerut companiei Samsung să le confirme sau să le infirme. Potrivit relatării, nu a avut loc niciun atac: angajații au folosit unealta pentru scopul ei, cu informații ale companiei.

Ce înseamnă asta pentru o organizație reglementată

Un proiect de contract, o scrisoare de externare, un dosar de caz și un model financiar intern sunt, pentru model, doar text. Modelul nu poate distinge care dintre ele conține date din categoria specială, conform articolului 9 din GDPR, care conține un secret comercial și care poate fi dat mai departe. Limita aceasta o impune banca, spitalul, asigurătorul sau casa de avocatură, iar echipele de securitate și de conformitate răspund la următoarele întrebări:

  • Unde sunt procesate datele și ce sisteme stochează prompturile și fișierele încărcate?
  • Cât timp sunt păstrate și ce subcontractanți pot ajunge la ele?
  • În ce jurisdicții poate avea loc procesarea și ce se întâmplă cu backupurile?
  • Ce se întâmplă când furnizorul își schimbă arhitectura?
  • Ce dovezi poate prezenta organizația la un audit?

Un contract răspunde la unele dintre ele. Articolul 28 din GDPR permite desemnarea unei persoane împuternicite, deci nimic de aici nu este interzis. Ce nu poate oferi un contract este controlul fizic asupra unei infrastructuri pe care organizația nu o deține.

Dacă datele nu sunt sensibile, utilizarea este ocazională, iar controalele contractuale și tehnice ale furnizorului sunt acceptabile, este rezonabil ca promptul să plece în afară. Decizia se schimbă când chiar informația este motivul pentru care sarcina nu poate sta în afara rețelei.

Cu Bastion

Ce schimbă Bastion

Bastion este un sistem AI privat, livrat ca o singură cutie sigilată care funcționează în clădirea ta. Un singur abonament lunar acoperă cutia, modelul, sistemul de operare securizat și suportul, iar nimic din ce scrie echipa ta nu părăsește clădirea.

Cu Bastion, promptul merge de la stația de lucru la un server local și înapoi, fără să părăsească rețeaua organizației. Nu există o bază de date externă de configurat, o regiune de cloud de ales sau un transfer către o țară terță pentru acel traseu de procesare.

Un echipament local nu împiedică un angajat să încarce documentul greșit. Nu împiedică privilegiile excesive, nu face un răspuns corect și nu înlocuiește controlul accesului, jurnalizarea, guvernanța sau o evaluare de impact asupra protecției datelor. Scoate însă o categorie întreagă de infrastructură externă din traseul datelor.

Întrebări la care răspunde articolul

Este ChatGPT confidențial?
Fiecare document trimis creează o copie în afara controlului direct al firmei. La 30 martie 2026, Check Point a publicat o vulnerabilitate ChatGPT, corectată la 20 februarie, prin care un singur prompt putea scoate conversația și fișierele încărcate.
Poate fi folosit ChatGPT pe firmă cu date confidențiale?
GDPR permite, prin articolul 28, un împuternicit. Firma răspunde însă unde sunt procesate datele, cine ajunge la ele și cât timp sunt păstrate. Contractul nu înlocuiește controlul fizic asupra infrastructurii.
De ce a interzis Samsung ChatGPT?
În mai 2023, Samsung a restricționat ChatGPT și uneltele similare, invocând riscurile de securitate ale AI-ului generativ. Relatările că angajații ar fi introdus secrete ale firmei sunt neconfirmate.

Sursele

  1. 1
  2. 2
  3. 3