„High-risk” este termenul cel mai greșit folosit din acest regulament. Nu înseamnă un sistem AI care ar putea provoca un rău. Înseamnă un sistem care îndeplinește regulile de clasificare din articolul 6, iar acele reguli sunt mai înguste și mai mecanice decât sugerează expresia.
Prima cale: integrat într-un produs reglementat
Articolul 6 alineatul (1) face un sistem high-risk atunci când sunt îndeplinite ambele condiții:
(a) the AI system is intended to be used as a safety component of a product, or the AI system is itself a product, covered by the Union harmonisation legislation listed in Annex I; (b) the product whose safety component pursuant to point (a) is the AI system, or the AI system itself as a product, is required to undergo a third-party conformity assessment, with a view to the placing on the market or the putting into service of that product pursuant to the Union harmonisation legislation listed in Annex I.
Regulamentul (UE) 2024/1689, articolul 6 alineatul (1)
Aceasta este calea utilajelor, a dispozitivelor medicale și a siguranței produselor. Un asistent intern pentru documente nu se află pe ea.
A doua cale: utilizările din anexa III
Articolul 6 alineatul (2) este scurt: „In addition to the high-risk AI systems referred to in paragraph 1, AI systems referred to in Annex III shall be considered to be high-risk.” Anexa III enumeră utilizări din domenii precum ocuparea forței de muncă, educația, serviciile esențiale, aplicarea legii și administrarea justiției.
Clasificarea urmează, prin urmare, scopul pentru care este destinat sistemul, nu marca modelului și nu mărimea companiei.
Calea de ieșire
Articolul 6 alineatul (3) este paragraful pe care majoritatea rezumatelor îl omit. Un sistem din anexa III „shall not be considered to be high-risk where it does not pose a significant risk of harm to the health, safety or fundamental rights of natural persons, including by not materially influencing the outcome of decision making”, dacă este îndeplinită oricare dintre patru condiții:
- the AI system is intended to perform a narrow procedural task
- the AI system is intended to improve the result of a previously completed human activity
- the AI system is intended to detect decision-making patterns or deviations from prior decision-making patterns and is not meant to replace or influence the previously completed human assessment, without proper human review
- the AI system is intended to perform a preparatory task to an assessment relevant for the purposes of the use cases listed in Annex III
De aceea același model de bază poate sta în două categorii diferite, în două aplicații diferite. Rezumarea unui CV pentru un evaluator uman și clasarea candidaților în vederea respingerii nu sunt același sistem în ochii regulamentului, chiar dacă greutățile sunt identice.
Datele, așa cum sunt acum
Comisia Europeană consemnează că „the rules for high-risk use cases in certain sensitive areas (Annex III) have been extended to 2 December 2027” și că „the rules for high-risk AI systems embedded into regulated products (Annex I) have an extended transition period until 2 August 2028”. Prelungirile vin din AI Omnibus, în vigoare de la 27 iulie 2026, în timp ce regulamentul „became applicable on 2 August 2026”.
Nu clasifica AI-ul după marcă și nu îl clasifica după faptul că este în cloud sau on-premise. Clasifică-l după ce face sistemul și asupra cui.
De ce implementarea privată nu schimbă răspunsul
Mutarea unui model pe un server intern nu îi schimbă scopul. Dacă aplicația intră în anexa III, intră în anexa III și pe hardware propriu, cu aceeași documentație, supraveghere umană și controale de risc.
Ce se schimbă este ușurința cu care aceste obligații pot fi dovedite. Versiunea modelului, locul prelucrării, calea de acces și istoricul actualizărilor sunt fapte despre propriul sediu, nu răspunsuri care trebuie cerute unui furnizor.
Pentru orice implementare care pare apropiată de anexa III, clasificarea trebuie verificată pe textul în vigoare și pe ghidurile aplicabile, nu pe o listă generică, inclusiv pe aceasta.
Cu Bastion
Ce schimbă Bastion
Bastion este un sistem AI privat, livrat ca un singur echipament sigilat care funcționează în clădirea ta. Un singur abonament lunar acoperă echipamentul, modelul, sistemul de operare securizat și suportul, iar nimic din ce scrie echipa ta nu părăsește clădirea.
Bastion este infrastructură. Nu decide dacă o utilizare este high-risk și nu poate elimina o clasificare.
Ajută la evidențe: ce model, ce versiune, unde a rulat, cine a ajuns la el și când a fost actualizat, toate verificabile din sediul clientului.
Întrebări la care răspunde articolul
- Ce sistem AI este considerat cu risc ridicat?
- Articolul 6 prevede două căi. Fie sistemul este componentă de siguranță a unui produs, sau este el însuși un produs, acoperit de legislația din anexa I și supus evaluării conformității de către un terț, fie se încadrează într-o utilizare din anexa III.
- Un sistem din anexa III poate ieși din categoria high-risk?
- Articolul 6 alineatul (3) spune că da, dacă nu prezintă un risc semnificativ și îndeplinește una dintre patru condiții, de exemplu îndeplinește o sarcină procedurală îngustă sau îmbunătățește rezultatul unei activități umane deja încheiate.
- Când se aplică regulile pentru sistemele high-risk?
- Calendarul actual al Comisiei indică 2 decembrie 2027 pentru utilizările din anexa III și 2 august 2028 pentru sistemele integrate în produse reglementate. Ambele au fost prelungite prin AI Omnibus, în vigoare de la 27 iulie 2026.
Sursele
- 1
- 2
Citește mai departe
- AI Act în 2026: ce termene au trecut și care s-au mutatO citire pe date a ceea ce se aplică astăzi unei companii obișnuite, ce a fost prelungit prin AI Omnibus și de ce mutarea unui model pe serverul propriu nu schimbă nimic din clasificare.Citește articolul
- Private AI în sănătate: se începe cu administrativul, nu cu diagnosticulCe activități din sănătate sunt realiste la început, ce spun efectiv articolul 9 și regulile de clasificare din AI Act și de ce prelucrarea locală este un avantaj arhitectural, nu un răspuns de conformitate.Citește articolul