Triedy rizika podľa EU AI Act jednoducho vysvetlené: 4 stupne s príkladmi

Triedy rizika podľa EU AI Act zaraďujú každý systém AI do jedného zo štyroch stupňov: neprijateľné riziko (zakázané), vysoké riziko, obmedzené riziko s povinnosťami transparentnosti a minimálne riziko. Rozhodujúca nie je technológia, ale konkrétny účel použitia. Toto zaradenie určuje, ktoré povinnosti platia a aké vysoké je riziko pokuty.

Dôležité na úvod: nariadenie o AI (nariadenie (EÚ) 2024/1689) nepozná samostatný právny pojem pre AI agentov ani agentickú AI. AI agent sa vždy posudzuje ako bežný systém AI podľa čl. 3 bodu 1, a to podľa svojho účelu použitia. Práve preto sa oplatí pozrieť sa na štyri triedy rizika podrobne.

• Štyri triedy, jedno meradlo: zaradenie sa riadi prípadom použitia, nie modelom. Ten istý chatbot môže mať podľa úlohy minimálne riziko alebo byť vysokorizikový.
• Väčšina B2B aplikácií je nekritická: marketingoví agenti, interní znalostní asistenti a boty zákazníckeho servisu takmer vždy patria do dvoch najnižších stupňov.
• Vysoké riziko vzniká účelom: HR screening, úverový scoring alebo tvorba cien poistenia posúvajú systém AI do vysokorizikovej oblasti. V rámci takého prípadu podľa prílohy III zostáva profilovanie fyzických osôb vždy vysokorizikové.

Štyri triedy rizika v prehľade

EU AI Act vychádza z takzvanej pyramídy rizika. Čím vyššie je potenciálne riziko pre zdravie, bezpečnosť alebo základné práva, tým prísnejšie sú povinnosti. Nasledujúca tabuľka zhŕňa triedy rizika, typické príklady a kľúčové povinnosti.

Dôležité: stupne sa navzájom nevylučujú. Jeden agent môže byť súčasne vysokorizikový (čl. 6) a podliehať povinnostiam transparentnosti podľa čl. 50. Na model, na ktorom je agent postavený, sa navyše vzťahujú pravidlá GPAI, ktoré zaväzujú poskytovateľa modelu.

Stupeň 1: Neprijateľné riziko (zakázané, čl. 5)

Osem praktík je v celej EÚ úplne zakázaných. Zákazy platia už od 2. februára 2025 a za ich porušenie hrozia najvyššie pokuty. Pre marketing a HR sú obzvlášť relevantné:

• Manipulatívne alebo klamlivé techniky so značnou ujmou, napríklad marketingoví agenti optimalizovaní na presviedčanie, ktorí zneužívajú kognitívne skreslenia pod prahom vedomého vnímania (čl. 5 ods. 1 písm. a).
• Zneužívanie zraniteľnosti z dôvodu veku, zdravotného postihnutia alebo sociálno-ekonomickej situácie, napríklad agenti, ktorí ponúkajú starším zákazníkom nevýhodné finančné produkty (písm. b).
• Sociálne skórovanie verejnými alebo súkromnými aktérmi s nevýhodným zaobchádzaním v nesúvisiacich kontextoch (písm. c).
• Rozpoznávanie emócií na pracovisku a vo vzdelávacích inštitúciách. HR analytický agent, ktorý z videa, zvuku alebo biometrických údajov odvodzuje náladu, sústredenie alebo stres zamestnancov, je v pracovnom kontexte zakázaný (písm. f). Výnimky na zdravotné a bezpečnostné účely sú úzke.

Digital Omnibus dopĺňa čl. 5 o dva zákazy: systémy AI, ktoré bez súhlasu vytvárajú realistické sexuálne zobrazenia identifikovateľných osôb, a systémy AI, ktoré vytvárajú zobrazenia sexuálneho zneužívania detí. Tieto zákazy sa podľa harmonogramu Európskej komisie uplatňujú od 2. decembra 2026.

Stupeň 2: Vysokorizikový systém AI (čl. 6, prílohy III a I)

Do vysokorizikovej oblasti vedú dve cesty. Príloha I zahŕňa AI ako bezpečnostný komponent regulovaných výrobkov (napríklad strojových zariadení či zdravotníckych pomôcok). Príloha III uvádza osem samostatných kategórií, z ktorých sú pre B2B obzvlášť relevantné:

• Zamestnanosť a riadenie pracovníkov (bod 4): nábor, screening životopisov, hodnotenie výkonu, povýšenie, ukončenie pracovného pomeru, prideľovanie úloh.
• Základné súkromné a verejné služby (bod 5): posudzovanie úverovej bonity a úverový scoring (okrem odhaľovania podvodov), posudzovanie rizika a tvorba cien v životnom a zdravotnom poistení.
• Kritická infraštruktúra (bod 2): AI ako bezpečnostný komponent pri zásobovaní elektrinou, vodou, plynom alebo v doprave.

Dôležitú výnimku upravuje čl. 6 ods. 3: ani prípad použitia podľa prílohy III nie je vysokorizikový, ak systém plní len úzko vymedzenú procesnú úlohu, zlepšuje výsledok predtým dokončenej ľudskej činnosti, rozpoznáva odchýlky bez toho, aby nahrádzal ľudské posúdenie, alebo vykonáva prípravnú úlohu. Avšak: profilovanie fyzických osôb zostáva vždy vysokorizikové a táto výnimka sa naň nevzťahuje (čl. 6 ods. 3 pododsek 3). Kto sa na výnimku odvoláva, musí odôvodnenie zdokumentovať a systém zaregistrovať v databáze EÚ (čl. 6 ods. 4, čl. 49 ods. 2).

Vysokorizikové systémy si okrem iného vyžadujú systém riadenia rizík (čl. 9), správu údajov (čl. 10), technickú dokumentáciu (čl. 11 s prílohou IV), vedenie záznamov (čl. 12), ľudský dohľad (čl. 14) a tiež presnosť, robustnosť a kybernetickú bezpečnosť (čl. 15). Nasadzujúce subjekty majú navyše povinnosti podľa čl. 26. Patrí k nim aj povinnosť, ktorú v regióne DACH často podceňujú: pred nasadením informovať zamestnancov a ich zástupcov (čl. 26 ods. 7).

Stupeň 3: Obmedzené riziko a povinnosti transparentnosti (čl. 50)

Sem patrí väčšina marketingových aplikácií a aplikácií na dialóg so zákazníkmi. Platia výlučne povinnosti transparentnosti, žiadne podstatné požiadavky na vysoké riziko:

• Čl. 50 ods. 1: systémy AI, ktoré priamo interagujú s ľuďmi, musia byť navrhnuté tak, aby používatelia rozpoznali, že komunikujú s AI, pokiaľ to nie je zrejmé z kontextu. Táto povinnosť sa týka poskytovateľa. Pozor pri rebrandingu white-label chatbota: vtedy sa poskytovateľom stávaš ty a nesieš aj túto povinnosť.
• Čl. 50 ods. 2: poskytovatelia AI, ktorá vytvára syntetický zvukový, obrazový, video alebo textový obsah, musia výstupy strojovo čitateľne označiť ako umelo vytvorené.
• Čl. 50 ods. 4: nasadzujúce subjekty musia zverejniť, že ide o deepfake. Pri textoch generovaných AI o témach verejného záujmu povinnosť odpadá, ak redakčnú zodpovednosť prevzal človek.

Povinnosti platia od 2. augusta 2026. Poskytovatelia generatívnych systémov AI, ktoré boli na trhu už pred týmto dátumom, majú na strojovo čitateľné označovanie podľa ods. 2 čas do 2. decembra 2026, ako stanovuje Digital Omnibus.

Stupeň 4: Minimálne riziko

Všetko ostatné, napríklad spamové filtre, interní RAG agenti pracujúci s necitlivými dokumentmi alebo copiloti na kód na interné použitie. Žiadne podstatné povinnosti okrem gramotnosti v oblasti AI podľa čl. 4 a dobrovoľných kódexov správania (čl. 95).

Kam patria typickí AI agenti?

Prax ukazuje, že ten istý technický stack môže podľa úlohy spadať do úplne odlišných tried. Typické zaradenia:

• Agent na marketingový copywriting (interný): minimálne riziko, plus označovanie podľa čl. 50 ods. 2.
• Chatbot zákazníckeho servisu v obchode: obmedzené riziko (čl. 50 ods. 1).
• Interný agent na riadenie znalostí: minimálne riziko.
• Agent na screening životopisov: vysoké riziko (príloha III bod 4).
• Agent na úverové rozhodnutia: vysoké riziko (príloha III bod 5 písm. b).
• Agent na odhaľovanie podvodov s platobnými kartami: minimálne/obmedzené riziko vďaka výslovnej výnimke. Ak sa ten istý model znovu použije na úverový scoring, zaradenie sa zmení.
• Rozpoznávanie nálady zamestnancov na pracovisku: zakázané (čl. 5 ods. 1 písm. f).

Častý omyl: „Používame len Microsoft 365 Copilot, takže sa nás to netýka.“ Nesprávne. Kto používa Copilot na prípravu rozhodnutia súvisiaceho so zamestnaním, spadá pod prílohu III bod 4. Nasadzujúci subjekt je zodpovedným prevádzkovateľom podľa čl. 26.

Konkrétny príklad s číslami

Rakúsky stredne veľký priemyselný podnik nasadí agenta na screening životopisov, ktorý ročne predtriedi približne 3 000 žiadostí o zamestnanie. Ide o jasný vysokorizikový prípad podľa prílohy III bodu 4 písm. a, pretože systém ovplyvňuje rozhodnutia o zamestnaní a profiluje osoby.

Dôsledky: agent potrebuje ľudský dohľad (personalisti kontrolujú každé poradie uchádzačov) a zamestnanci musia byť informovaní pred uvedením do prevádzky (čl. 26 ods. 7). Zamestnaneckú radu (Betriebsrat) treba informovať podľa § 91 ArbVG. Ak systém zaznamenáva údaje o zamestnancoch nad rámec všeobecných osobných údajov a odborných predpokladov, jeho zavedenie si podľa § 96a ArbVG vyžaduje súhlas zamestnaneckej rady. To isté platí pre systém, ktorý hodnotí zamestnancov a pritom zbiera údaje, ktorých zber neodôvodňuje ich využitie v podniku. Súhlas sa zvyčajne udeľuje formou podnikovej dohody (Betriebsvereinbarung), čo môže v praxi oddialiť spustenie o 3 až 6 mesiacov. Ak zamestnanecká rada súhlas odmietne, môže ho nahradiť zmierovací orgán (Schlichtungsstelle). Povinné posúdenie vplyvu na základné práva (FRIA podľa čl. 27) sa však súkromnoprávneho podniku pri čisto HR screeningovom prípade netýka: FRIA je pre súkromné nasadzujúce subjekty predpísaná len pri posudzovaní úverovej bonity (príloha III bod 5 písm. b) a tvorbe cien životného/zdravotného poistenia (bod 5 písm. c), ako aj pre verejnoprávne subjekty a poskytovateľov verejných služieb. Dobrovoľné preskúmanie dopadov na základné práva je napriek tomu osvedčeným postupom.

Finančné riziko je značné. Pokuty podľa čl. 99 sú odstupňované:

Pri MSP a startupoch platí podľa čl. 99 ods. 6 vždy nižšia z oboch súm; Digital Omnibus rozširuje túto ochranu na malé podniky so strednou trhovou kapitalizáciou (small mid-caps).

Harmonogram po prijatí Digital Omnibusu

Digital Omnibus vyšiel ako nariadenie (EÚ) 2026/1744 24. júla 2026 v Úradnom vestníku EÚ a účinnosť nadobudol 27. júla 2026. Podľa čl. 113 nariadenia o AI sa mali povinnosti pre vysoké riziko pôvodne uplatňovať na systémy podľa prílohy III od 2. augusta 2026 a na AI vo výrobkoch podľa prílohy I od 2. augusta 2027. Omnibus ich posúva na 2. decembra 2027, resp. 2. augusta 2028. Neposunuli sa zákazy (čl. 5, od 2. februára 2025), pravidlá GPAI (od 2. augusta 2025) ani rámec pokút. Povinnosť týkajúca sa gramotnosti v oblasti AI podľa čl. 4 naďalej platí, od Omnibusu však vyžaduje opatrenia na podporu gramotnosti v oblasti AI a nie konkrétnu úroveň gramotnosti. Pauza v riadení súladu teda neprichádza do úvahy.

Pre agentúry a B2B

Pre agentúry: zaradenie do triedy rizika patrí na začiatok každého AI projektu, nie na koniec. Kto pre klientov stavia chatboty alebo marketingových agentov, mal by povinnosť transparentnosti podľa čl. 50 zohľadniť od začiatku a pri rebrandingu cudzích systémov preveriť vlastnú rolu poskytovateľa. Pre B2B manažérov: vytvor si inventár svojich AI aplikácií, priraď každú k triede rizika a sleduj najmä skok z minimálneho na vysoké riziko, ktorý často nepozorovane spôsobí nový zdroj údajov alebo nový účel použitia. Blck Alpaca ťa podporí pri klasifikácii a pri budovaní spoľahlivej dokumentácie súladu.

Upozornenie: tento príspevok slúži na všeobecnú informáciu a nenahrádza právne poradenstvo. Na záväzné posúdenie tvojho konkrétneho prípadu prosím vyhľadaj kvalifikované právne poradenstvo.