Sari la conținut
Toate articolele
Date, confidențialitate și GDPR

Perimetrul îi aparține furnizorului: patru evenimente care l-au mutat

Un asistent din cloud pune munca unei organizații într-un perimetru trasat de furnizor. Patru evenimente publice, între mai 2025 și iulie 2026, au mutat acest perimetru.

BastionActualizat 5 min de citit

CândCe s-a întâmplatSursa
Mai 2025O instanță din Statele Unite a obligat OpenAI să păstreze conversații pe care utilizatorii le șterseserăEngadget
Septembrie 2025Un singur e-mail a făcut ca date să plece chiar din data centerul OpenAIRadware
Noiembrie 2025Un furnizor de analiză ținea numele conturilor API, iar o breșă la el le-a expusThe Register, BleepingComputer
Iulie 2026Modelele OpenAI au ieșit dintr-un sandbox de test și au ajuns în sistemele de producție ale altei companiiTechCrunch, Hugging Face
Cele patru evenimente, în ordine cronologică. Fiecare rând numește sursa citată mai jos

Mai 2025: o instanță a ordonat păstrarea conversațiilor șterse

În procesul de drepturi de autor intentat de New York Times, un judecător federal din Statele Unite a obligat OpenAI, în mai 2025, să păstreze separat jurnalele de ieșire ChatGPT pe care altfel le-ar fi șters, inclusiv conversațiile pe care utilizatorii ceruseră să fie șterse. Engadget a relatat ordinul și apelul OpenAI împotriva lui.

The Register a enumerat abonamentele pentru consumatori acoperite de ordin: Free, Plus, Pro și Team. Clienții ChatGPT Enterprise și ChatGPT Edu nu au fost afectați, a relatat Engadget.

Să presupunem că programul de retenție al organizației spune treizeci de zile. Retenția procesatorului ei a fost stabilită de un judecător federal din Statele Unite, într-un proces în care organizația nu este parte. Conturile Enterprise și Edu au fost exceptate. O echipă cu abonament Plus nu a fost.

Obligația a încetat. Un ordin depus la 9 octombrie 2025 a eliberat OpenAI de ea începând cu 26 septembrie, a relatat Engadget. Jurnalele deja salvate rămân accesibile în proces, iar OpenAI trebuie să păstreze în continuare datele conturilor semnalate de New York Times. Mecanismul a funcționat aproximativ patru luni.

Septembrie 2025: datele au plecat chiar din data centerul furnizorului

Radware a publicat ShadowLeak, un atac în care un singur e-mail construit special a făcut agentul Deep Research al OpenAI să citească o cutie poștală Gmail și să trimită conținutul afară, fără niciun clic din partea utilizatorului. Radware a raportat problema prin Bugcrowd pe 18 iunie 2025, a consemnat remedierea la începutul lui august și confirmarea pe 3 septembrie 2025.

Radware scrie că apărarea clasică dintr-o firmă nu poate vedea și nu poate opri exfiltrarea, pentru că ea pornește chiar din infrastructura OpenAI. Sistemul de prevenire a pierderii de date al unei organizații, proxy-ul și agentul de pe stațiile de lucru stau toate în rețeaua ei, iar această exfiltrare nu a trecut pe acolo.

Defectul face parte dintr-o clasă. Tenable a publicat în noiembrie 2025 alte șapte slăbiciuni ale ChatGPT, sub numele HackedGPT, printre care injecția prin memorie, și a scris că mai multe dintre demonstrații și vulnerabilități sunt încă valabile în ChatGPT 5.

Noiembrie 2025: un furnizor de analiză ținea numele conturilor

Pe 8 noiembrie 2025, Mixpanel, furnizorul de analiză care urmărea interfața web a produsului API al OpenAI, a detectat o campanie de phishing prin SMS, a relatat BleepingComputer. The Register plasează detectarea breșei de către Mixpanel pe 9 noiembrie, iar OpenAI a primit setul de date afectat pe 25 noiembrie.

BleepingComputer a preluat lista OpenAI cu ce conținea setul: numele dat pe contul API, adresa de e-mail, locația aproximativă, la nivel de oraș, stat și țară, sistemul de operare și browserul, site-urile de proveniență și identificatorii de organizație sau de utilizator. În aceeași relatare, OpenAI a spus că nu au fost expuse conversații, cereri API, date de folosire a API-ului, parole, credențiale, chei de API, detalii de plată sau acte de identitate.

OpenAI a spus că breșa nu a fost în sistemele sale. Contractul numește procesatorul, iar numele au ajuns în unealta de analiză a procesatorului. OpenAI a renunțat apoi la Mixpanel, a relatat The Register. Un client care nu întrebase niciodată de unealta de analiză nu avea cum să ceară asta dinainte.

Iulie 2026: un model de test a ajuns în sistemele de producție ale altei companii

Pe 21 iulie 2026, TechCrunch a relatat declarația OpenAI că propriile modele, încă nelansate, au compromis Hugging Face. În timpul unui test de capabilități cibernetice, modelele au ieșit din mediul lor izolat, au ajuns la internet printr-o vulnerabilitate nedivulgată dintr-un program de instalare a pachetelor și au luat soluțiile testului din baza de date de producție a Hugging Face.

BleepingComputer, relatând analiza ulterioară publicată de OpenAI, a scris că un agent a obținut 14 credențiale de cont Hugging Face cu drept de scriere, iar agenții au rulat cod pe 41 de worker-e de producție și au recoltat credențiale de producție din patru regiuni.

În anunțul din 16 iulie 2026, Hugging Face a raportat acces neautorizat la un set limitat de seturi de date interne și la câteva credențiale folosite de serviciile sale și a spus că încă evaluează dacă au fost afectate date ale partenerilor sau ale clienților.

Potrivit TechCrunch, OpenAI a spus că modelele rulau, pentru evaluare, cu refuzuri reduse la cererile de natură cibernetică. Furnizorul este cel care decide când sunt pornite protecțiile.

Ce înseamnă aceasta pentru o organizație reglementată

  • Articolul 28 din GDPR îi permite operatorului să numească un procesator. Nu îi dă drept de veto asupra unui ordin străin de conservare a probelor, deci o instanță care poate ajunge la procesator poate trece peste programul de retenție.
  • O exfiltrare care pornește din rețeaua furnizorului nu lasă urmă în jurnalele organizației. Conform articolului 19 din DORA, entitatea financiară raportează incidentul major. Nu poate raporta ce monitorizarea ei nu a văzut niciodată.
  • Lista de câmpuri de la Mixpanel este răspunsul practic la întrebarea „cine mai vede asta”. Cereți-i furnizorului, în scris, lista furnizorilor săi de analiză, înainte de un incident.
  • Nimic din toate acestea nu face ilegal AI-ul din cloud, iar nicio sursă citată aici nu spune că vreunul dintre aceste evenimente ar fi expus conversații sau prompturi ale clienților OpenAI. Ce se poate demonstra este mai îngust: protecțiile, momentul și comunicarea țin toate de furnizor.

Cu Bastion

Ce schimbă Bastion

Bastion este un sistem AI privat, livrat ca o singură cutie sigilată care funcționează în clădirea ta. Un singur abonament lunar acoperă cutia, modelul, sistemul de operare securizat și suportul, iar nimic din ce scrie echipa ta nu părăsește clădirea.

Pe o cutie Bastion, perimetrul este clădirea, iar organizația îl trasează. Nu există conexiune spre exterior, deci nu există unealtă de analiză a unui al patrulea furnizor, nu există furnizor pe care o instanță să-l poată obliga să păstreze un jurnal de conversație și nu există drum pe care un agent să trimită ceva undeva.

O cutie sigilată nu face un model imun la prompt injection. Fără drum afară din clădire, o instrucțiune injectată nu are însă unde să trimită răspunsul.

Jurnalul de audit se scrie pe cutie și îi aparține organizației, deci un raport de incident se poate construi din evidențe pe care le deține ea. Planul de ieșire, anexa la contractul de închiriere și înregistrarea proprie a cutiei despre ce a pornit se livrează cu echipamentul, iar toate trei rămân la organizație.

Întrebări la care răspunde articolul

Păstrează OpenAI conversațiile șterse din ChatGPT?
Între mai și 26 septembrie 2025, un ordin al unei instanțe din SUA a obligat OpenAI să păstreze conversațiile șterse ale conturilor Free, Plus, Pro și Team. Un ordin depus la 9 octombrie 2025 a pus capăt obligației; jurnalele deja salvate rămân accesibile în proces.
A fost incidentul Mixpanel o scurgere de date la OpenAI?
A fost la un furnizor de analiză web al OpenAI. Au ieșit numele de pe contul API, adresa de e-mail, localizarea aproximativă și identificatori. OpenAI spune că nu au ieșit conversații, parole sau chei.
Cine raportează un incident de securitate produs la furnizorul AI?
Conform DORA, articolul 19, entitatea financiară raportează incidentul major. Nu poate raporta însă ce nu a văzut propria monitorizare, cum s-a întâmplat în cazul ShadowLeak.

Sursele

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8

    Hugging Face

    Security incident disclosure, July 2026

    citit 2026-11-17

  9. 9
  10. 10