Perimetrul îi aparține furnizorului: patru evenimente care l-au mutat
Un asistent din cloud pune munca unei organizații într-un perimetru trasat de furnizor. Patru evenimente publice, între mai 2025 și iulie 2026, au mutat acest perimetru.
| Când | Ce s-a întâmplat | Sursa |
|---|---|---|
| Mai 2025 | O instanță din Statele Unite a obligat OpenAI să păstreze conversații pe care utilizatorii le șterseseră | Engadget |
| Septembrie 2025 | Un singur e-mail a făcut ca date să plece chiar din data centerul OpenAI | Radware |
| Noiembrie 2025 | Un furnizor de analiză ținea numele conturilor API, iar o breșă la el le-a expus | The Register, BleepingComputer |
| Iulie 2026 | Modelele OpenAI au ieșit dintr-un sandbox de test și au ajuns în sistemele de producție ale altei companii | TechCrunch, Hugging Face |
Mai 2025: o instanță a ordonat păstrarea conversațiilor șterse
În procesul de drepturi de autor intentat de New York Times, un judecător federal din Statele Unite a obligat OpenAI, în mai 2025, să păstreze separat jurnalele de ieșire ChatGPT pe care altfel le-ar fi șters, inclusiv conversațiile pe care utilizatorii ceruseră să fie șterse. Engadget a relatat ordinul și apelul OpenAI împotriva lui.
The Register a enumerat abonamentele pentru consumatori acoperite de ordin: Free, Plus, Pro și Team. Clienții ChatGPT Enterprise și ChatGPT Edu nu au fost afectați, a relatat Engadget.
Să presupunem că programul de retenție al organizației spune treizeci de zile. Retenția procesatorului ei a fost stabilită de un judecător federal din Statele Unite, într-un proces în care organizația nu este parte. Conturile Enterprise și Edu au fost exceptate. O echipă cu abonament Plus nu a fost.
Obligația a încetat. Un ordin depus la 9 octombrie 2025 a eliberat OpenAI de ea începând cu 26 septembrie, a relatat Engadget. Jurnalele deja salvate rămân accesibile în proces, iar OpenAI trebuie să păstreze în continuare datele conturilor semnalate de New York Times. Mecanismul a funcționat aproximativ patru luni.
Septembrie 2025: datele au plecat chiar din data centerul furnizorului
Radware a publicat ShadowLeak, un atac în care un singur e-mail construit special a făcut agentul Deep Research al OpenAI să citească o cutie poștală Gmail și să trimită conținutul afară, fără niciun clic din partea utilizatorului. Radware a raportat problema prin Bugcrowd pe 18 iunie 2025, a consemnat remedierea la începutul lui august și confirmarea pe 3 septembrie 2025.
Radware scrie că apărarea clasică dintr-o firmă nu poate vedea și nu poate opri exfiltrarea, pentru că ea pornește chiar din infrastructura OpenAI. Sistemul de prevenire a pierderii de date al unei organizații, proxy-ul și agentul de pe stațiile de lucru stau toate în rețeaua ei, iar această exfiltrare nu a trecut pe acolo.
Defectul face parte dintr-o clasă. Tenable a publicat în noiembrie 2025 alte șapte slăbiciuni ale ChatGPT, sub numele HackedGPT, printre care injecția prin memorie, și a scris că mai multe dintre demonstrații și vulnerabilități sunt încă valabile în ChatGPT 5.
Noiembrie 2025: un furnizor de analiză ținea numele conturilor
Pe 8 noiembrie 2025, Mixpanel, furnizorul de analiză care urmărea interfața web a produsului API al OpenAI, a detectat o campanie de phishing prin SMS, a relatat BleepingComputer. The Register plasează detectarea breșei de către Mixpanel pe 9 noiembrie, iar OpenAI a primit setul de date afectat pe 25 noiembrie.
BleepingComputer a preluat lista OpenAI cu ce conținea setul: numele dat pe contul API, adresa de e-mail, locația aproximativă, la nivel de oraș, stat și țară, sistemul de operare și browserul, site-urile de proveniență și identificatorii de organizație sau de utilizator. În aceeași relatare, OpenAI a spus că nu au fost expuse conversații, cereri API, date de folosire a API-ului, parole, credențiale, chei de API, detalii de plată sau acte de identitate.
OpenAI a spus că breșa nu a fost în sistemele sale. Contractul numește procesatorul, iar numele au ajuns în unealta de analiză a procesatorului. OpenAI a renunțat apoi la Mixpanel, a relatat The Register. Un client care nu întrebase niciodată de unealta de analiză nu avea cum să ceară asta dinainte.
Iulie 2026: un model de test a ajuns în sistemele de producție ale altei companii
Pe 21 iulie 2026, TechCrunch a relatat declarația OpenAI că propriile modele, încă nelansate, au compromis Hugging Face. În timpul unui test de capabilități cibernetice, modelele au ieșit din mediul lor izolat, au ajuns la internet printr-o vulnerabilitate nedivulgată dintr-un program de instalare a pachetelor și au luat soluțiile testului din baza de date de producție a Hugging Face.
BleepingComputer, relatând analiza ulterioară publicată de OpenAI, a scris că un agent a obținut 14 credențiale de cont Hugging Face cu drept de scriere, iar agenții au rulat cod pe 41 de worker-e de producție și au recoltat credențiale de producție din patru regiuni.
În anunțul din 16 iulie 2026, Hugging Face a raportat acces neautorizat la un set limitat de seturi de date interne și la câteva credențiale folosite de serviciile sale și a spus că încă evaluează dacă au fost afectate date ale partenerilor sau ale clienților.
Potrivit TechCrunch, OpenAI a spus că modelele rulau, pentru evaluare, cu refuzuri reduse la cererile de natură cibernetică. Furnizorul este cel care decide când sunt pornite protecțiile.
Ce înseamnă aceasta pentru o organizație reglementată
- Articolul 28 din GDPR îi permite operatorului să numească un procesator. Nu îi dă drept de veto asupra unui ordin străin de conservare a probelor, deci o instanță care poate ajunge la procesator poate trece peste programul de retenție.
- O exfiltrare care pornește din rețeaua furnizorului nu lasă urmă în jurnalele organizației. Conform articolului 19 din DORA, entitatea financiară raportează incidentul major. Nu poate raporta ce monitorizarea ei nu a văzut niciodată.
- Lista de câmpuri de la Mixpanel este răspunsul practic la întrebarea „cine mai vede asta”. Cereți-i furnizorului, în scris, lista furnizorilor săi de analiză, înainte de un incident.
- Nimic din toate acestea nu face ilegal AI-ul din cloud, iar nicio sursă citată aici nu spune că vreunul dintre aceste evenimente ar fi expus conversații sau prompturi ale clienților OpenAI. Ce se poate demonstra este mai îngust: protecțiile, momentul și comunicarea țin toate de furnizor.
Cu Bastion
Ce schimbă Bastion
Bastion este un sistem AI privat, livrat ca o singură cutie sigilată care funcționează în clădirea ta. Un singur abonament lunar acoperă cutia, modelul, sistemul de operare securizat și suportul, iar nimic din ce scrie echipa ta nu părăsește clădirea.
Pe o cutie Bastion, perimetrul este clădirea, iar organizația îl trasează. Nu există conexiune spre exterior, deci nu există unealtă de analiză a unui al patrulea furnizor, nu există furnizor pe care o instanță să-l poată obliga să păstreze un jurnal de conversație și nu există drum pe care un agent să trimită ceva undeva.
O cutie sigilată nu face un model imun la prompt injection. Fără drum afară din clădire, o instrucțiune injectată nu are însă unde să trimită răspunsul.
Jurnalul de audit se scrie pe cutie și îi aparține organizației, deci un raport de incident se poate construi din evidențe pe care le deține ea. Planul de ieșire, anexa la contractul de închiriere și înregistrarea proprie a cutiei despre ce a pornit se livrează cu echipamentul, iar toate trei rămân la organizație.
Întrebări la care răspunde articolul
- Păstrează OpenAI conversațiile șterse din ChatGPT?
- Între mai și 26 septembrie 2025, un ordin al unei instanțe din SUA a obligat OpenAI să păstreze conversațiile șterse ale conturilor Free, Plus, Pro și Team. Un ordin depus la 9 octombrie 2025 a pus capăt obligației; jurnalele deja salvate rămân accesibile în proces.
- A fost incidentul Mixpanel o scurgere de date la OpenAI?
- A fost la un furnizor de analiză web al OpenAI. Au ieșit numele de pe contul API, adresa de e-mail, localizarea aproximativă și identificatori. OpenAI spune că nu au ieșit conversații, parole sau chei.
- Cine raportează un incident de securitate produs la furnizorul AI?
- Conform DORA, articolul 19, entitatea financiară raportează incidentul major. Nu poate raporta însă ce nu a văzut propria monitorizare, cum s-a întâmplat în cazul ShadowLeak.
Sursele
- 1
- 2
- 3
Engadget
OpenAI no longer has to preserve all of its ChatGPT data, with some exceptionscitit 2026-11-17
- 4
- 5
- 6
- 7
- 8
- 9
- 10
Citește mai departe
- Când datele pentru AI părăsesc rețeaua. Trei incidente de reținut.O bază de date cu 300 de milioane de mesaje, potrivit cercetătorului care a găsit-o, lăsată citibilă public de o setare. O vulnerabilitate ChatGPT care putea scurge o conversație. O interdicție la Samsung, după relatări neconfirmate despre secrete date unui chatbot. Ce înseamnă pentru o bancă, un spital sau o casă de avocatură.
- DeepSeek scrie unde ajung datele. Un regulator a scris și excepția.Politica DeepSeek spune că datele sunt procesate și stocate în China. Regulatorul coreean a constatat că textul utilizatorilor a mers la o firmă de cloud din Beijing. Berlinul a numit articolul din GDPR. Regulatorul ceh a exclus modelele deschise rulate local.