Sari la conținut
Toate articolele
Securitate AI

Securitatea AI începe la rețea și nu se termină acolo

Firewall-ul este primul dintre cele șapte straturi de securitate ale unui sistem AI. Găzduirea on-premise rezolvă acest strat și ajută la o parte din stratul de date. Celelalte cinci cer aceeași muncă ca la orice sistem de producție.

BastionActualizat 3 min de citit

Threat Landscape 2025, publicat de ENISA la 1 octombrie 2025, a analizat „4875 incidents over a period spanning from 1 July 2024 to 30 June 2025”. Raportul arată și cât de repede au adoptat atacatorii tehnologia: „By early 2025, AI-supported phishing campaigns reportedly represented more than 80 percent of observed social engineering activity worldwide.”

Juhan Lepassaar, directorul executiv al ENISA, a descris riscul de fond: „Systems and services that we rely on in our daily lives are intertwined, so a disruption on one end can have a ripple effect across the supply chain.” Un asistent AI este unul dintre aceste sisteme. Are acces la documente și, tot mai des, la alte sisteme.

Cele șapte straturi și ce se decide la fiecare

  • Rețea. Se decide cu ce poate comunica sistemul, în ambele sensuri. On-premise, traficul outbound poate fi eliminat, nu doar filtrat.
  • Identitate. Se știe ce om se află în spatele fiecărei cereri. Conturile folosite în comun pe un asistent anulează orice pistă de audit de sub ele.
  • Autorizare. Se știe la ce poate ajunge acel om, iar regula se aplică acolo unde sunt recuperate documentele, nu acolo unde este scris răspunsul.
  • Date. Se clasifică ce are voie să prelucreze sistemul, iar indexul și jurnalele sunt tratate ca niște copii ale sursei, cu aceeași protecție.
  • Aplicație. Se validează ce intră și ce iese. Un text generat care devine o interogare, o comandă sau un email este input nesigur.
  • Model. Se știe ce versiune rulează, de unde a venit și la ce este slabă. Lista OWASP 2025 are supply chain la LLM03 și dezinformarea la LLM09.
  • Operațiuni. Sistemul se actualizează, se monitorizează, se testează și trebuie să poată fi refăcut.

Ce aduce implementarea locală și ce nu înlocuiește

Găzduirea on-premise rezolvă stratul unu și ajută la o parte din stratul patru. Organizația capătă control direct asupra mediului de inferență: ce model, ce versiune, ce traseu de rețea, ce actualizare. O afirmație mai largă nu rezistă la prima analiză de securitate.

La straturile șase și șapte, locația dă doar alegerea modelului, a versiunii și a actualizării: verificarea modelului și actualizarea rămân de făcut. La straturile doi, trei și cinci nu ajută deloc. Nu înlocuiește managementul identității, securitatea endpoint-urilor, securitatea aplicației sau guvernanța, iar sistemul trebuie securizat în continuare ca orice sistem de producție.

Cu Bastion

Ce schimbă Bastion

Bastion este un sistem AI privat, livrat ca o singură cutie sigilată care funcționează în clădirea ta. Un singur abonament lunar acoperă cutia, modelul, sistemul de operare securizat și suportul, iar nimic din ce scrie echipa ta nu părăsește clădirea.

Pentru unitatea livrată, Bastion răspunde de stratul unu și acoperă și straturile șase și șapte: unitatea nu are nevoie de conexiune outbound, modelul și versiunea sunt cunoscute, iar actualizarea vine pe o cale semnată, cu înlocuirea integrală a unității.

Identitatea, autorizarea, clasificarea datelor și verificarea rezultatelor țin de mediul clientului.

Întrebări la care răspunde articolul

Este un AI local mai sigur decât unul din cloud?
La un strat și jumătate din șapte: rețeaua, pentru că traficul outbound poate fi eliminat, nu doar filtrat, și o parte din stratul de date, pentru că indexul și jurnalele rămân în interior. Locația în sine nu schimbă nimic la identitate, autorizare, aplicație, model și operațiuni.
Ajunge un firewall pentru un server AI local?
Nu. Controlul rețelei este unul dintre cele șapte straturi; identitatea, autorizarea, clasificarea datelor, validarea în aplicație, proveniența modelului și operațiunile decid cea mai mare parte a rezultatului.
Ce rămâne în sarcina firmei la un AI local?
Managementul identității, securitatea endpoint-urilor, securitatea aplicației și guvernanța. Implementarea locală dă control direct asupra mediului de inferență (ce model, ce versiune, ce traseu de rețea, ce actualizare), dar nu le înlocuiește pe acestea.

Sursele

  1. 1
  2. 2