Sari la conținut
Toate articolele
Securitate AI

Prompt injection: atacul care nu are nevoie de niciun clic

Software-ul clasic ține instrucțiunile separate de date, iar un document nu poate da un ordin. Un model lingvistic nu are această graniță: tot ce primește ajunge ca text, iar un text care arată ca o instrucțiune poate fi urmat ca atare.

BastionActualizat 3 min de citit

OWASP plasează prompt injection pe primul loc în Top 10 pentru aplicații LLM, ediția 2025, ca LLM01. Lista acoperă și consecințele: dezvăluirea informațiilor sensibile la LLM02, autonomia excesivă la LLM06, scurgerea promptului de sistem la LLM07 și slăbiciunile vectorilor și ale embeddings la LLM08.

EchoLeak, cazul care a făcut problema concretă

La 12 iunie 2025, The Hacker News a raportat o vulnerabilitate „zero-click” care permitea atacatorilor să „exfiltrate sensitive data from Microsoft 365 (M365) Copilot's context sans any user interaction”. A fost găsită de Aim Security, a primit identificatorul CVE-2025-32711 și scorul 9,3.

Lucrarea academică o descrie într-o singură propoziție: „EchoLeak (CVE-2025-32711), a zero-click prompt injection vulnerability in Microsoft 365 Copilot that enabled remote, unauthenticated data exfiltration via a single crafted email.”

„Zero-click” înseamnă exact ce spune: victima nu a deschis niciun atașament și nu a aprobat nimic. Asistentul a citit mesajul ca parte din munca lui obișnuită, iar instrucțiunea ascunsă în el a fost executată asupra datelor la care asistentul avea deja acces.

Microsoft a remediat problema pe server în mai 2025, fără nicio acțiune din partea clienților, și a trecut CVE-ul în lista Patch Tuesday din iunie 2025. The Hacker News a relatat că „There is no evidence that the shortcoming was exploited maliciously in the wild.”

Produsul nu era neobișnuit de slab. Suprafața de atac apare oriunde un asistent citește text în care nu poate avea încredere și are acces la date de încredere. Retrieval-augmented generation o lărgește, pentru că fiecare document indexat este intrare pentru model, iar un document indexat poate fi scris de cineva din afara companiei: factura unui furnizor, un proiect de contract primit pe email, un CV.

Rularea modelului on-premise nu oprește prompt injection

Vânzătorii de AI local sugerează adesea contrariul. Inferența locală împiedică trimiterea unui document către un serviciu extern în funcționarea normală. Nu împiedică un document malițios să dirijeze modelul: un model local care poate citi folderul comun și poate trimite emailuri are aceeași problemă structurală ca unul găzduit.

Ce schimbă implementarea locală este calea de ieșire. O instrucțiune injectată tot are nevoie de un drum în afară, iar drumul folosit de EchoLeak a fost o cerere către exterior. Un sistem fără conectivitate outbound lasă acelei instrucțiuni mai puține locuri unde să trimită ceva.

Ce reduce riscul

  • Ține conținutul recuperat separat, ca structură, de instrucțiuni și tratează orice document ca nesigur
  • Dă modelului doar permisiunile la tool-uri fără de care sarcina nu se poate face
  • Aplică drepturile de acces ale utilizatorului la momentul retrieval-ului, nu după generare
  • Validează rezultatele înainte ca alt sistem să acționeze pe baza lor
  • Limitează unde se poate conecta sistemul, ca o injecție reușită să nu aibă unde trimite datele
  • Testează ca un atacator, cu documente scrise special ca să îți atace propriul asistent

Regula de sub toate acestea: nu da unui sistem AI mai multă autoritate decât cere sarcina. Un model care citește documente, trimite mesaje, interoghează sistemul financiar și execută cod este o problemă de cu totul altă categorie decât un model care doar citește documente.

Cu Bastion

Ce schimbă Bastion

Bastion este un sistem AI privat, livrat ca o singură cutie sigilată care funcționează în clădirea ta. Un singur abonament lunar acoperă cutia, modelul, sistemul de operare securizat și suportul, iar nimic din ce scrie echipa ta nu părăsește clădirea.

Bastion nu pretinde imunitate la prompt injection, pentru că niciun appliance nu o poate oferi. Ce închide este ieșirea ușoară: unitatea nu se conectează niciodată singură la internet. Totuși, modul în care sunt afișate răspunsurile și eventualele tool-uri au nevoie în continuare de limite, pentru că browserul utilizatorului poate deschide un link strecurat într-un răspuns.

Permisiunile, regulile de retrieval și accesul la tool-uri de deasupra rămân decizii de proiectare.

Întrebări la care răspunde articolul

Prompt injection ce înseamnă?
Un text pe care modelul îl citește ca instrucțiune, nu ca simplu conținut: pentru că un model lingvistic primește totul ca text, un document, o pagină web sau un email pot purta un ordin pe care modelul îl execută. OWASP îl plasează pe primul loc în Top 10 pentru aplicații LLM, ediția 2025, ca LLM01.
Ce a fost EchoLeak, CVE-2025-32711?
O vulnerabilitate zero-click de tip prompt injection în Microsoft 365 Copilot, făcută publică de Aim Security în iunie 2025, cu scorul 9,3: un singur email construit special a scos date fără nicio acțiune a utilizatorului. Microsoft a remediat-o pe server în mai 2025, iar The Hacker News a relatat că nu există dovezi că ar fi fost exploatată în atacuri reale.
Un model AI local este protejat de prompt injection?
Nu: inferența locală protejează perimetrul datelor, nu granița dintre instrucțiune și conținut. Ce închide este ieșirea ușoară, pentru că o instrucțiune injectată tot are nevoie de un loc unde să trimită datele, dar modul în care sunt afișate răspunsurile și eventualele tool-uri au nevoie în continuare de limite, pentru că browserul utilizatorului poate deschide un link strecurat într-un răspuns.

Sursele

  1. 1
  2. 2
  3. 3
  4. 4