AI high-risk: ce clasifică regulamentul și ce nu
„High-risk” nu înseamnă un sistem AI care ar putea face rău. Înseamnă un sistem care îndeplinește regulile de clasificare din articolul 6: două căi de intrare în categorie și una de ieșire.
Prima cale: integrat într-un produs reglementat
Articolul 6 alineatul (1) încadrează un sistem ca high-risk atunci când sunt îndeplinite ambele condiții:
(a) the AI system is intended to be used as a safety component of a product, or the AI system is itself a product, covered by the Union harmonisation legislation listed in Annex I; (b) the product whose safety component pursuant to point (a) is the AI system, or the AI system itself as a product, is required to undergo a third-party conformity assessment, with a view to the placing on the market or the putting into service of that product pursuant to the Union harmonisation legislation listed in Annex I.
Regulamentul (UE) 2024/1689, articolul 6 alineatul (1)
Aceasta este calea dispozitivelor medicale, a ascensoarelor, a jucăriilor și a altor produse reglementate. De la AI Omnibus, alineatele (1a)-(1c) ale articolului 6 o îngustează: un sistem folosit doar pentru aspecte care nu țin de siguranță, cum ar fi asistența utilizatorului sau confortul, nu este componentă de siguranță. Un asistent intern pentru documente nu intră aici.
A doua cale: utilizările din anexa III
Articolul 6 alineatul (2) este scurt: „In addition to the high-risk AI systems referred to in paragraph 1, AI systems referred to in Annex III shall be considered to be high-risk.” Anexa III enumeră utilizări din domenii precum ocuparea forței de muncă, educația, serviciile esențiale, aplicarea legii și administrarea justiției. Clasificarea ține, așadar, de scopul pentru care este făcut sistemul, nu de marca modelului și nici de mărimea companiei.
Calea de ieșire: patru condiții în articolul 6 alineatul (3)
Potrivit articolului 6 alineatul (3), un sistem din anexa III „shall not be considered to be high-risk where it does not pose a significant risk of harm to the health, safety or fundamental rights of natural persons, including by not materially influencing the outcome of decision making”, dacă este îndeplinită oricare dintre patru condiții:
- the AI system is intended to perform a narrow procedural task
- the AI system is intended to improve the result of a previously completed human activity
- the AI system is intended to detect decision-making patterns or deviations from prior decision-making patterns and is not meant to replace or influence the previously completed human assessment, without proper human review
- the AI system is intended to perform a preparatory task to an assessment relevant for the purposes of the use cases listed in Annex III
O singură frază închide această cale pentru orice sistem care face profilarea persoanelor: „Notwithstanding the first subparagraph, an AI system referred to in Annex III shall always be considered to be high-risk where the AI system performs profiling of natural persons.”
Același model poate sta, așadar, în două categorii. Rezumarea unui CV pentru un evaluator uman și clasarea candidaților în vederea respingerii nu sunt același sistem în ochii regulamentului, chiar dacă ponderile modelului sunt identice.
De când se aplică regulile high-risk
| Calea high-risk | Regulile se aplică de la | Sursa |
|---|---|---|
| Utilizările din anexa III, articolul 6 alineatul (2) | 2 decembrie 2027, termen prelungit | Comisia Europeană |
| AI integrat în produse reglementate (anexa I), articolul 6 alineatul (1) | 2 august 2028, după o perioadă de tranziție prelungită | Comisia Europeană |
Ambele date sunt prelungiri. Vin din AI Omnibus, în vigoare de la 27 iulie 2026, în timp ce regulamentul „became applicable on 2 August 2026”.
De ce implementarea privată nu schimbă răspunsul
Mutarea unui model pe un server intern nu îi schimbă scopul. O aplicație care intră în anexa III rămâne acolo și pe hardware propriu, cu aceeași documentație, aceeași supraveghere umană și aceleași controale de risc.
Pentru orice implementare care pare apropiată de anexa III, clasificarea trebuie verificată pe textul în vigoare și pe ghidurile aplicabile, nu pe o listă generică, fie ea și aceasta.
Cu Bastion
Ce schimbă Bastion
Bastion este un sistem AI privat, livrat ca o singură cutie sigilată care funcționează în clădirea ta. Un singur abonament lunar acoperă cutia, modelul, sistemul de operare securizat și suportul, iar nimic din ce scrie echipa ta nu părăsește clădirea.
Bastion este infrastructură. Nu decide dacă o utilizare este high-risk și nu poate elimina o clasificare.
Face obligațiile mai ușor de dovedit. Ce model, ce versiune, unde a rulat, cine a ajuns la el și când a fost actualizat sunt fapte despre o singură cutie, aflată într-un loc cunoscut, nu răspunsuri care trebuie cerute unui furnizor de cloud.
Întrebări la care răspunde articolul
- Ce sistem AI este considerat cu risc ridicat?
- Articolul 6 prevede două căi. Fie sistemul este componentă de siguranță a unui produs, sau este el însuși un produs, acoperit de legislația din anexa I și supus evaluării conformității de către un terț, fie se încadrează într-o utilizare din anexa III.
- Un sistem din anexa III poate ieși din categoria high-risk?
- Articolul 6 alineatul (3) spune că da, dacă nu prezintă un risc semnificativ și îndeplinește una dintre patru condiții, de exemplu îndeplinește o sarcină procedurală îngustă sau îmbunătățește rezultatul unei activități umane deja încheiate. Excepția nu se aplică însă niciodată unui sistem care realizează profilarea persoanelor fizice: un astfel de sistem este considerat întotdeauna cu risc ridicat.
- Când se aplică regulile pentru sistemele high-risk?
- Calendarul actual al Comisiei indică 2 decembrie 2027 pentru utilizările din anexa III și 2 august 2028 pentru sistemele integrate în produse reglementate. Ambele au fost prelungite prin AI Omnibus, în vigoare de la 27 iulie 2026.
Sursele
- 1
- 2
- 3
Citește mai departe
- AI Act în 2026: ce termene au trecut și care s-au mutatO citire pe date a ceea ce se aplică astăzi unei companii obișnuite, ce a fost prelungit prin AI Omnibus și de ce mutarea unui model pe serverul propriu nu schimbă nimic din clasificare.
- Private AI în sănătate: începe cu administrativul, nu cu diagnosticulCe activități din sănătate sunt realiste la început, ce spun articolul 9 și regulile de clasificare din AI Act și de ce prelucrarea locală este un avantaj arhitectural, nu un răspuns de conformitate.