„Datele rămân în interior.” Desenează săgețile înainte să crezi asta.
„Datele rămân în interior” nu spune ce date, ce parte a sistemului și în interiorul a ce. O diagramă a unei singure cereri, cu un semn pe fiecare săgeată care trece perimetrul, face din propoziție o afirmație care poate fi verificată.
Testul de zece minute: desenează o cerere de la un capăt la altul
Desenează traseul complet al unei singure cereri: utilizator, aplicație, serviciu AI, model, jurnale, stocare, backup, canal de actualizare, acces pentru suport. Nu sări nicio etapă pentru că pare evidentă. Apoi marchează fiecare săgeată care iese din clădire. Numărul lor este răspunsul.
Șase săgeți care pot trece perimetrul fără o decizie
- Telemetria și raportarea erorilor sunt pornite dintr-o setare implicită a unei componente pe care nu a ales-o nimeni.
- Canalul de actualizare automată este o conexiune outbound cu drept de scriere în sistem.
- Backup-urile ajung frecvent într-un loc cu alt nivel de securitate decât sistemul principal.
- Un instrument de suport remote stă inactiv până în ziua în care cineva are nevoie de el, iar atunci are toate privilegiile.
- Un serviciu de retrieval sau de embeddings este găzduit în exterior, deși modelul este local.
- Jurnalele conțin prompturi, iar prompturile conțin documentul.
O implementare poate respecta afirmația „modelul rulează local” în timp ce cinci din aceste șase săgeți arată în afară.
Cum arată, pentru comparație, un serviciu din cloud documentat
Un furnizor din cloud care își documentează corect fluxurile face acest exercițiu mai ușor. Documentația Microsoft pentru modelele vândute de Azure afirmă clar că „The models are stateless: no prompts or completions are stored in the model”. Separat, arată că prompturile și răspunsurile pot fi stocate pentru monitorizarea abuzurilor, unde „Human reviewers assessing potential abuse can access prompts and completions data only when that data has already been flagged by the abuse monitoring system, or when the prompts and completions are part of a potentially abusive pattern of use”.
Prima afirmație spune ce nu se păstrează. A doua descrie două săgeți, ambele documentate și ambele condiționate: stocarea pentru monitorizarea abuzurilor și accesul unui evaluator uman la datele semnalate sau la cele care fac parte dintr-un tipar de utilizare posibil abuziv. O implementare locală trebuie judecată după același standard: cere-i furnizorului diagrama.
Ce nu protejează faptul că datele rămân înăuntru
Chiar și cu toate săgețile îndreptate spre interior, informația poate ieși pe ușa din față. Lista OWASP Top 10 pentru aplicații LLM, ediția 2025, plasează dezvăluirea informațiilor sensibile pe poziția LLM02, prompt injection pe LLM01 și adaugă slăbiciunile vectorilor și ale embeddings pe LLM08. Fiecare dintre acestea este un drum de la un document intern la cititorul greșit, oriunde ar fi găzduit modelul. Permisiunile excesive, un laptop compromis, un PDF malițios și un jurnal neprotejat rămân valabile și după mutarea în interior.
Varianta afirmației care merită făcută
Formularea utilă este mai îngustă decât sloganul și poate fi verificată: traficul de inferență și procesarea modelului rămân în limita de rețea controlată de organizație, fără să fie nevoie de o conexiune outbound pentru a răspunde la o cerere. Ea spune ce este controlat și lasă să se înțeleagă ce nu este, iar un responsabil de securitate o poate verifica.
Cu Bastion
Ce schimbă Bastion
Bastion este un sistem AI privat, livrat ca o singură cutie sigilată care funcționează în clădirea ta. Un singur abonament lunar acoperă cutia, modelul, sistemul de operare securizat și suportul, iar nimic din ce scrie echipa ta nu părăsește clădirea.
Bastion răspunde fără să aibă nevoie de conexiune outbound la internet, deci săgeata inferenței nu trece perimetrul. Actualizările sunt semnate și instalate deliberat, nu descărcate automat, așa că actualizarea rămâne o decizie, nu o setare implicită.
Săgețile rămase le hotărăște clientul: cine poate folosi sistemul, ce documente poate citi, unde ajung jurnalele și cine deține backup-urile.
Întrebări la care răspunde articolul
- Ce înseamnă că datele rămân în firmă?
- Doar ceea ce spune arhitectura. Varianta verificabilă este mai îngustă: traficul de inferență și prelucrarea modelului rămân în limita de rețea controlată de organizație, fără conexiune outbound necesară pentru a răspunde la o cerere.
- Ce componente ale unui sistem AI local pot trimite date în afară?
- Pot fi șase: telemetria și raportarea erorilor, canalul de actualizare automată, backup-urile, un instrument de suport remote, un serviciu de retrieval sau embeddings găzduit extern și jurnalele, care conțin prompturi, iar prompturile conțin documentul.
- Un model AI local elimină riscul de scurgere a datelor?
- Nu. Lista OWASP 2025 plasează dezvăluirea informațiilor sensibile la LLM02 și slăbiciunile vectorilor și ale embeddings la LLM08. Permisiunile excesive, un laptop compromis, un document malițios și un jurnal neprotejat rămân valabile și în interior.
Sursele
- 1
Microsoft Learn
Data, privacy, and security for Foundry Models sold by Azure in Microsoft Foundrycitit 2026-09-22
- 2
Citește mai departe
- Ce este Private AI și când are nevoie o organizație de el?Private AI este același tip de model, cu alt răspuns la o singură întrebare: cine controlează mediul în care sunt procesate datele. Ce schimbă acest răspuns, ce lasă neatins și cele cinci întrebări care închid discuția.
- Securitatea AI începe la rețea și nu se termină acoloUn firewall este stratul unu din șapte. Identitatea, autorizarea, datele, aplicația, modelul și operațiunile sunt celelalte șase, iar o implementare on-premise îmbunătățește doar unul și jumătate dintre ele.