Prompt injection: atacul care nu are nevoie de niciun clic
Software-ul clasic ține instrucțiunile separate de date, iar un document nu poate da un ordin. Un model lingvistic nu are această graniță: tot ce primește ajunge ca text, iar un text care arată ca o instrucțiune poate fi urmat ca atare.
OWASP plasează prompt injection pe primul loc în Top 10 pentru aplicații LLM, ediția 2025, ca LLM01. Lista acoperă și consecințele: dezvăluirea informațiilor sensibile la LLM02, autonomia excesivă la LLM06, scurgerea promptului de sistem la LLM07 și slăbiciunile vectorilor și ale embeddings la LLM08.
EchoLeak, cazul care a făcut problema concretă
La 12 iunie 2025, The Hacker News a raportat o vulnerabilitate „zero-click” care permitea atacatorilor să „exfiltrate sensitive data from Microsoft 365 (M365) Copilot's context sans any user interaction”. A fost găsită de Aim Security, a primit identificatorul CVE-2025-32711 și scorul 9,3.
Lucrarea academică o descrie într-o singură propoziție: „EchoLeak (CVE-2025-32711), a zero-click prompt injection vulnerability in Microsoft 365 Copilot that enabled remote, unauthenticated data exfiltration via a single crafted email.”
„Zero-click” înseamnă exact ce spune: victima nu a deschis niciun atașament și nu a aprobat nimic. Asistentul a citit mesajul ca parte din munca lui obișnuită, iar instrucțiunea ascunsă în el a fost executată asupra datelor la care asistentul avea deja acces.
Microsoft a remediat problema pe server în mai 2025, fără nicio acțiune din partea clienților, și a trecut CVE-ul în lista Patch Tuesday din iunie 2025. The Hacker News a relatat că „There is no evidence that the shortcoming was exploited maliciously in the wild.”
Produsul nu era neobișnuit de slab. Suprafața de atac apare oriunde un asistent citește text în care nu poate avea încredere și are acces la date de încredere. Retrieval-augmented generation o lărgește, pentru că fiecare document indexat este intrare pentru model, iar un document indexat poate fi scris de cineva din afara companiei: factura unui furnizor, un proiect de contract primit pe email, un CV.
Rularea modelului on-premise nu oprește prompt injection
Vânzătorii de AI local sugerează adesea contrariul. Inferența locală împiedică trimiterea unui document către un serviciu extern în funcționarea normală. Nu împiedică un document malițios să dirijeze modelul: un model local care poate citi folderul comun și poate trimite emailuri are aceeași problemă structurală ca unul găzduit.
Ce schimbă implementarea locală este calea de ieșire. O instrucțiune injectată tot are nevoie de un drum în afară, iar drumul folosit de EchoLeak a fost o cerere către exterior. Un sistem fără conectivitate outbound lasă acelei instrucțiuni mai puține locuri unde să trimită ceva.
Ce reduce riscul
- Ține conținutul recuperat separat, ca structură, de instrucțiuni și tratează orice document ca nesigur
- Dă modelului doar permisiunile la tool-uri fără de care sarcina nu se poate face
- Aplică drepturile de acces ale utilizatorului la momentul retrieval-ului, nu după generare
- Validează rezultatele înainte ca alt sistem să acționeze pe baza lor
- Limitează unde se poate conecta sistemul, ca o injecție reușită să nu aibă unde trimite datele
- Testează ca un atacator, cu documente scrise special ca să îți atace propriul asistent
Regula de sub toate acestea: nu da unui sistem AI mai multă autoritate decât cere sarcina. Un model care citește documente, trimite mesaje, interoghează sistemul financiar și execută cod este o problemă de cu totul altă categorie decât un model care doar citește documente.
Cu Bastion
Ce schimbă Bastion
Bastion este un sistem AI privat, livrat ca o singură cutie sigilată care funcționează în clădirea ta. Un singur abonament lunar acoperă cutia, modelul, sistemul de operare securizat și suportul, iar nimic din ce scrie echipa ta nu părăsește clădirea.
Bastion nu pretinde imunitate la prompt injection, pentru că niciun appliance nu o poate oferi. Ce închide este ieșirea ușoară: unitatea nu se conectează niciodată singură la internet. Totuși, modul în care sunt afișate răspunsurile și eventualele tool-uri au nevoie în continuare de limite, pentru că browserul utilizatorului poate deschide un link strecurat într-un răspuns.
Permisiunile, regulile de retrieval și accesul la tool-uri de deasupra rămân decizii de proiectare.
Întrebări la care răspunde articolul
- Prompt injection ce înseamnă?
- Un text pe care modelul îl citește ca instrucțiune, nu ca simplu conținut: pentru că un model lingvistic primește totul ca text, un document, o pagină web sau un email pot purta un ordin pe care modelul îl execută. OWASP îl plasează pe primul loc în Top 10 pentru aplicații LLM, ediția 2025, ca LLM01.
- Ce a fost EchoLeak, CVE-2025-32711?
- O vulnerabilitate zero-click de tip prompt injection în Microsoft 365 Copilot, făcută publică de Aim Security în iunie 2025, cu scorul 9,3: un singur email construit special a scos date fără nicio acțiune a utilizatorului. Microsoft a remediat-o pe server în mai 2025, iar The Hacker News a relatat că nu există dovezi că ar fi fost exploatată în atacuri reale.
- Un model AI local este protejat de prompt injection?
- Nu: inferența locală protejează perimetrul datelor, nu granița dintre instrucțiune și conținut. Ce închide este ieșirea ușoară, pentru că o instrucțiune injectată tot are nevoie de un loc unde să trimită datele, dar modul în care sunt afișate răspunsurile și eventualele tool-uri au nevoie în continuare de limite, pentru că browserul utilizatorului poate deschide un link strecurat într-un răspuns.
Sursele
- 1
The Hacker News
Zero-Click AI Vulnerability Exposes Microsoft 365 Copilot Data Without User Interactioncitit 2026-09-22
- 2
- 3
- 4
Citește mai departe
- Securitatea RAG: ce se schimbă când AI-ul îți citește fișiereleCele șase etape ale fluxului și ce adaugă fiecare la limita de securitate. De ce permisiunile pe document se aplică la retrieval, de ce indexul este o a doua copie a datelor și cele șapte întrebări de lămurit înainte de punerea în funcțiune.
- OWASP Top 10 pentru aplicații LLM, citit ca listă a cumpărătoruluiCele zece riscuri în limbaj de business, care dintre ele sunt atinse de o implementare on-premise, care nu, și minimul pe care ar trebui să îl facă o organizație de treizeci de oameni.