EU AI Act pre AI Agentov

Upozornenie: Tento príspevok je informatívny a nepredstavuje právne poradenstvo. Provizórne lehoty z Digital Omnibus sú jasne označené ako provizórne; až do formálneho zverejnenia v Úradnom vestníku EÚ (OJEU) zostávajú pôvodné termíny uplatňovania právnym východiskom.

Prečo je EU AI Act relevantný pre AI Agents – hoci „agentov" vôbec nepozná

EU AI Act – formálne nariadenie (EÚ) 2024/1689 z 13. júna 2024 – je prvou komplexnou, horizontálnou reguláciou AI na svete. Zverejnené 12. júla 2024, účinné od 1. augusta 2024, platí ako priamo uplatniteľné nariadenie vo všetkých členských štátoch. Pre osoby s rozhodovacou právomocou v DACH podnikoch, ktoré nasadzujú alebo ponúkajú AI Agents, je centrálnym koncepčným poznatkom: AI Act nedefinuje ani „AI Agent", ani „Agentic AI". Ani Digital Omnibus zo 7. mája 2026 nezaviedol definíciu agentov.

Agentic-AI systémy – teda AI systémy, ktoré plánujú, volajú tools a vykonávajú viacstupňové reťazce akcií so zníženou účasťou človeka – sú zachytené nepriamo, prostredníctvom štyroch právnych ukotvení:

• všeobecnej definície AI systému (čl. 3 ods. 1);
• pravidiel pre GPAI modely (čl. 51 – 55) pre úroveň Foundation Modelu pod agentom;
• katalógu vysokého rizika podľa prílohy III a transparenčnej vrstvy čl. 50;
• pravidiel pre hodnotový reťazec (čl. 25), keď sa kompozícia, fine-tuning alebo prompt-engineering na strane deployera stáva podstatnou zmenou.

Praktickým dôsledkom, a zároveň najdôležitejším pravidlom pre každý compliance projekt, je: klasifikuje sa nikdy nie „agent" ako architektúra, ale vždy konkrétny prípad použitia (intended purpose). „Office asistent" nie je právnym objektom – agent, ktorý vykonáva CV-Screening, ním však veľmi dobre je.

Definícia AI systému – a prečo každý LLM agent spadá pod ňu

„AI systém" je podľa čl. 3 ods. 1 strojovo založený systém, ktorý je prevádzkovaný s rôznym stupňom autonómie, môže po uvedení do prevádzky vykazovať adaptabilitu a z prijatých vstupov odvodzuje, ako sa generujú výstupy – predpovede, obsah, odporúčania alebo rozhodnutia – ktoré ovplyvňujú fyzické alebo virtuálne prostredia.

Nezáväzné usmernenia Komisie k definícii AI systému (C(2025) 924 final, zverejnené 6. februára 2025) rozkladajú toto na sedem kumulatívnych prvkov, pričom schopnosť inferencie sa považuje za rozhodujúci, nepostrádateľný rozlišovací znak voči bežnému softvéru. Čisto pravidlovo založené systémy, jednoduché optimalizačné postupy (lineárna alebo logistická regresia) a klasické spracovanie dát vypadávajú pre chýbajúcu inferenciu. Každý seriózny AI Agent – LLM-podporované copiloty, RAG systémy s tool-use, autonómne multi-agentové orchestrácie – spĺňa všetkých sedem prvkov. Klasická, deterministická RPA bez inferencie naopak spravidla nie.

Riziková pyramída: štyri stupne plus paralelný GPAI režim

AI Act vrství AI systémy do štyroch stupňov, plus paralelný režim pre GPAI modely. Stupne sa navzájom nevylučujú: agent sa môže súčasne týkať čl. 5, čl. 50 a – prostredníctvom svojho Foundation Modelu – pravidiel pre GPAI.

Strategickým jadrom výpovede je: väčšina nasadení agentov v stredných podnikoch leží v dvoch spodných stupňoch – s malou, ale účinnou podmnožinou (HR, úver, poistenie, kritická infraštruktúra, medicína), ktorá končí v prílohe III alebo prílohe I.

Zakázané praktiky (čl. 5) – červená čiara

Osem kategórií je od 2. februára 2025 v EÚ úplne zakázaných, sankcionovaných najvyšším stupňom pokút (do 35 mil. EUR alebo 7 % celosvetového ročného obratu). Pre DACH agentov priamo najrelevantnejšou zákaznou normou je čl. 5 ods. 1 písm. f): rozpoznávanie emócií na pracovisku – HR-Analytics agenti, ktorí z videa, audia alebo biometrie usudzujú na náladu, sústredenie alebo stres zamestnancov, sú zakázaní (úzke výnimky len pre medicínske a bezpečnostné účely). Digital Omnibus pridal deviaty zákaz: AI systémy na vytváranie nekonsenzuálneho sexuálneho obsahu a AI generovaného materiálu o sexuálnom zneužívaní detí; nekonformné systémy musia byť stiahnuté z trhu do 2. decembra 2026.

Vysoké riziko príloha III – osem kategórií

Príloha III uvádza osem samostatných oblastí vysokého rizika. Pre AI Agents sú najdôležitejšie:

• Zamestnanie a personálny manažment (bod 4): nábor a výber (CV-Screening), hodnotenie výkonu, povýšenie, výpoveď, prideľovanie úloh.
• Základné súkromné a verejné služby (bod 5): posudzovanie úverovej bonity a credit scoring (okrem odhaľovania podvodov), hodnotenie rizika a tvorba cien pri životnom a zdravotnom poistení, triage tiesňového volania.
• Kritická infraštruktúra (bod 2): AI ako bezpečnostný komponent pri doprave, vode, plyne, elektrine, kritickej digitálnej infraštruktúre.

Ostatné kategórie (biometria, vzdelávanie, presadzovanie práva, migrácia/azyl, justícia a demokratické procesy) sú pre typický stredný podnik relevantné zriedkavejšie.

Výnimka podľa čl. 6 ods. 3: Aj pri prípade použitia podľa prílohy III nie je systém vysokorizikový, ak nepredstavuje významné riziko škody – napríklad preto, že plní úzko vymedzenú procedurálnu úlohu, zlepšuje predtým ukončený ľudský výsledok, rozpoznáva odchýlky bez nahradenia ľudského posúdenia, alebo vykonáva prípravnú úlohu. Profilovanie fyzických osôb však zostáva vždy vysokým rizikom (čl. 6 ods. 3 druhý pododsek). Kto sa opiera o výnimku, musí zdôvodnenie zdokumentovať (čl. 6 ods. 4) a klasifikáciu zaregistrovať v databáze EÚ (čl. 49 ods. 2). Usmernenia podľa čl. 6 ods. 5 určené na praktickú implementáciu boli pôvodne splatné do 2. februára 2026, ale k máju 2026 zostali nesplnené.

Príklady: Ako klasifikovať konkrétnych AI Agents

Dôležitou agentovo špecifickou zvláštnosťou je runtime-riziková drift: tá istá agentová platforma môže prepínať medzi rizikovými stupňami v závislosti od inventára tools pripojených za behu. Pridanie HR dátového zdroja môže minimálne rizikového znalostného agenta cez noc premeniť na vysokorizikový systém podľa prílohy III ods. 4. Klasifikácia by sa preto mala znovu posúdiť pri každej zmene konfigurácie tools.

Deployer alebo provider? Čl. 25 ako padacie dvere

Pre DACH prax je otázka rolí rozhodujúca. Deployer (čl. 3 ods. 4) využíva AI systém na vlastnú zodpovednosť – to je štandardná rola takmer všetkých stredných podnikov v DACH. Provider (čl. 3 ods. 3) vyvíja systém a uvádza ho na trh pod vlastným menom alebo ho uvádza do prevádzky. Aj ten, kto buduje interný systém na HR-Screening len pre vlastné použitie, ho síce „neuvádza na trh" – ale „uvádza ho do prevádzky", a plné povinnosti providera nadobúdajú účinnosť.

Čl. 25 je padacími dverami, ktorými sa z deployera stáva provider – so všetkými povinnosťami podľa čl. 16 vrátane posudzovania zhody a technickej dokumentácie podľa prílohy IV. Tri spúšťače:

1. Rebranding – umiestnenie vlastného loga/ochrannej známky na vysokorizikový systém už nachádzajúci sa na trhu (zmluvné pridelenie to nemôže prebiť);
2. podstatná zmena podľa čl. 3 ods. 23 – dodatočná zmena, ktorá nebola predvídaná v pôvodnom posúdení zhody a ktorá sa dotýka zhody s čl. 8 – 15 alebo mení účel;
3. zmena účelu na vysoké riziko – nasadenie predtým nie vysokorizikového (alebo GPAI) systému na nový, teraz vysokorizikový účel.

Pre GPAI modely zavádzajú usmernenia Komisie z 18. júla 2025 indikatívny prah: následná modifikácia s viac ako jednou tretinou pôvodného tréningového compute sa považuje za podstatnú zmenu. Štandardné RAG, prompt-engineering a ľahké LoRA-fine-tuning ležia výrazne pod ním. Agentovo špecifická pasca: Vybudovanie agenta, ktorý kombinuje GPAI od tretej strany s vlastným tool-callingom, memory a orchestráciou, väčšinou nevytvára nový GPAI model – avšak vytvára nový AI systém, ktorého providerom je integrátor. To je najčastejšia chybná klasifikácia v DACH agentových projektoch.

Povinnosti deployera (čl. 26) – jadro stredných podnikov v DACH

Dvanásť operatívnych povinností čl. 26 platí podľa pôvodného harmonogramu od 2. augusta 2026, pre väčšinu kategórií prílohy III podľa Digital Omnibus od 2. decembra 2027 (provizórne). Najdôležitejšie: nasadenie v súlade s inštrukciami providera (26 ods. 1); ľudský dohľad kompetentnými, poverenými osobami (26 ods. 2); monitoring a pozastavenie pri riziku (26 ods. 5); uchovávanie automaticky generovaných logov minimálne 6 mesiacov (26 ods. 6); informovanie dotknutých osôb pri vysokorizikových rozhodnutiach (26 ods. 11); spolupráca pri práve na vysvetlenie (26 ods. 12 v spojení s čl. 86).

Špecifikum DACH: zamestnanecká rada a zastúpenie zamestnancov (čl. 26 ods. 7)

Čl. 26 ods. 7 je v anglickojazyčnej literatúre najviac podceňovanou normou. Pred uvedením vysokorizikového AI systému do prevádzky na pracovisku je potrebné informovať zamestnancov a ich zastúpenie – čo spúšťa národné postupy spolurozhodovania:

• Nemecko: § 87 ods. 1 č. 6 BetrVG dáva zamestnaneckej rade skutočné právo na spolurozhodovanie (nie len informáciu) pri technických zariadeniach na monitorovanie správania/výkonu; §§ 90 a 95 ods. 2a BetrVG vyžadujú informovanie, resp. účasť pri výberových smerniciach podporovaných AI.
• Rakúsko: §§ 91 a 96 ArbVG zakladajú práva na spolupôsobenie zastúpenia zamestnancov/zamestnaneckej rady pri systémoch osobných údajov a kontrolných opatreniach, ktoré sa dotýkajú ľudskej dôstojnosti.
• Švajčiarsko: Mitwirkungsgesetz (čl. 9, 10) a OR 328b.

V praxi to znamená: informovanie podľa čl. 26 ods. 7 pred uvedením do prevádzky, včasná konzultácia so zamestnaneckou radou/zastúpením zamestnancov, často ústiaca do podnikovej dohody. Toto typicky predlžuje vysokorizikový rollout o 3 – 6 mesiacov a malo by sa spustiť paralelne s FRIA.

Posúdenie vplyvu na základné práva (FRIA, čl. 27)

Čl. 27 zaväzuje určitých deployerov k vlastnému posúdeniu vplyvu na základné práva (FRIA) – jednej z mála podstatných vlastných povinností nezávislých od dokumentácie providera. Dotknuté sú verejnoprávne subjekty, súkromní poskytovatelia verejných služieb, ako aj súkromní deployeri systémov podľa prílohy III pre úverovú bonitu (5 písm. b)) a oceňovanie životného/zdravotného poistenia (5 písm. c)). Prevádzkovatelia kritickej infraštruktúry (príloha III ods. 2) sú výslovne vyňatí.

FRIA musí obsahovať šesť prvkov (čl. 27 ods. 1 písm. a) – f)): opis procesu, trvanie a frekvencia používania, dotknuté skupiny osôb, špecifické riziká škody, opatrenia ľudského dohľadu, ako aj mechanizmy governance a sťažností. Je potrebné ho vykonať pred prvým použitím, aktualizovať pri zmene faktov a oznámiť orgánu dohľadu nad trhom (čl. 27 ods. 3); dotazník, ktorý má vypracovať Úrad pre AI (čl. 27 ods. 5), nebol k máju 2026 ešte finalizovaný. DSFA podľa GDPR (čl. 35) typicky pokrýva len 30 – 40 % obsahu FRIA; integrovaná DSFA-plus-FRIA je best practice. Každé základné právo je potrebné posúdiť samostatne – pozitívny účinok na jedno právo nemôže vyvážiť negatívny na iné.

Povinnosti transparentnosti (čl. 50) – od 2. augusta 2026

Čl. 50 leží medzi minimálnym rizikom a vysokým rizikom a platí nezávisle od klasifikácie vysokého rizika. Materiálne povinnosti platia od 2. augusta 2026; prechodná lehota pre technické riešenia označovania/vodoznakov bola Digital Omnibusom skrátená zo šiestich na tri mesiace a končí 2. decembra 2026 (provizórne, závislé od formálneho prijatia).

Štyri povinnosti: čl. 50 ods. 1 – provideri musia AI systémy na priamu interakciu s ľuďmi navrhnúť tak, aby boli používatelia informovaní, že interagujú s AI (okrem prípadu, keď je to z kontextu zjavné; vykladať úzko). Čl. 50 ods. 2 – provideri musia syntetické audio, obrazové, video a textové výstupy strojovo čitateľne označiť ako AI generované. Čl. 50 ods. 3 – deployeri rozpoznávania emócií/biometrickej kategorizácie informujú dotknuté osoby. Čl. 50 ods. 4 – deployeri označujú deepfakes, ako aj AI generované texty k záležitostiam verejného záujmu (výnimka pri ľudskej redakčnej zodpovednosti). Komisia zverejnila prvý návrh kódexu správania k označovaniu 17. decembra 2025, druhý 3. marca 2026 a návrh usmernení k čl. 50 7. – 8. mája 2026.

Povinnosti pre GPAI (čl. 51 – 55) a Code of Practice

Pravidlá pre GPAI sa týkajú úrovne modelu pod každým agentom a platia od 2. augusta 2025; pokuty pre GPAI providerov (čl. 101) sú vymáhateľné od 2. augusta 2026. Všetci GPAI provideri musia poskytnúť technickú dokumentáciu (príloha XI), nadväzujúcu dokumentáciu pre integrátorov (príloha XII – centrálne ukotvenie hodnotového reťazca pre DACH agentových staviteľov), autorskoprávnu policy a verejné zhrnutie tréningových dát. Od kumulovaných 10^25 FLOP sa model považuje za GPAI so systémovým rizikom (čl. 51 ods. 2) s dodatočnými povinnosťami podľa čl. 55.

GPAI Code of Practice z 10. júla 2025 vytvára domnienku zhody pre čl. 53/55. Medzi 26 signatárov patria Amazon, Anthropic, Google, IBM, Microsoft, OpenAI, Mistral AI, Aleph Alpha a Cohere; Meta nepodpísala. Pre DACH deployerov to znamená: agenti na Claude, Gemini, Azure OpenAI alebo ChatGPT štandardne dedia silnejšiu compliance pozíciu, zatiaľ čo nasadenie Llama/Meta modelov zvyšuje záťaž náležitej starostlivosti.

Pokuty a presadzovanie v DACH

Pre MSP platí vždy nižšia suma (čl. 99 ods. 6); Digital Omnibus rozširuje túto ochranu na Small Mid-Caps (SMC). V Nemecku sa má Spolková sieťová agentúra (BNetzA) podľa KI-MIG (vládny návrh 11. februára 2026) stať centrálnym orgánom dohľadu nad trhom, s DAkkS ako notifikujúcim orgánom; jej KI-Service-Desk je už fakticky prvým kontaktným miestom. V Rakúsku funguje KI-Servicestelle pri RTR/KommAustria ako koordinačné miesto, plnohodnotný orgán dohľadu nad trhom je v príprave. Švajčiarsko nepozná priame pokuty podľa AI Act; FINMA (Guidance 08/2024 odkazuje na čl. 9 – 15 AI Act), ekvivalenty FMA a Swissmedic pôsobia sektorovo. Prostredníctvom čl. 2 ods. 1 písm. c) však môžu byť švajčiarske podniky zachytené, ak sa výstupy ich agentov používajú v EÚ.

Časová os a Digital Omnibus

Digital Omnibus (politická dohoda Parlament/Rada 7. mája 2026, formálne prijatie prisľúbené pred 2. augustom 2026) posúva podstatné povinnosti podľa prílohy III na 2. decembra 2027 a povinnosti podľa prílohy I na 2. augusta 2028. Dôležité: Odklad sa týka len podstatných povinností vysokého rizika. Neposunuté sú čl. 4 (Literacy), čl. 5 (zákazy), pravidlá pre GPAI, čl. 50 (skracuje sa len technická lehota implementácie) a rámec pokút. Až do zverejnenia v OJEU zostávajú pôvodné termíny 2. augusta 2026 právnym východiskom – centrálne zabezpečenie pre každú DACH compliance roadmapu. Renomované advokátske kancelárie (Latham & Watkins, Baker McKenzie, CMS, Gleiss Lutz, Bird & Bird) konzistentne varujú: odklad nie je dôvodom na pozastavenie governance práce.

Praktické odporúčania na konanie pre osoby s rozhodovacou právomocou v DACH

Strategickým posolstvom je: dodatočný čas využiť rozumne, nepozastaviť prácu. Vrstvený compliance postoj typicky zahŕňa:

1. AI Literacy najskôr (čl. 4) – rolovo založený, nemeckojazyčný program integrovaný do LMS, s dokumentovanými ukončeniami. Táto povinnosť je účinná od februára 2025, platí pre všetky rizikové stupne a pre úrady je najľahšie preskúmateľná.
2. Register prípadov použitia – každý agent s účelom, klasifikačným memom, ownerom a rolou dohľadu; znovu posúdiť pri každej zmene tools (runtime drift).
3. Vendor-Due-Diligence – potvrdenie compliance providera, podpis CoP Foundation Modelu, dokumentácia podľa prílohy XII, zmluvné pridelenie podľa čl. 25 a eskalačné cesty podľa čl. 73.
4. Navrhnúť sprístupnenie podľa čl. 50 – upozornenie na chatbot („Komunikujete s AI asistentom"), označovanie AI generovaného obsahu, deepfake labels.
5. Proces podľa čl. 26 ods. 7 – konzultáciu so zamestnaneckou radou/zastúpením zamestnancov spustiť včas (3 – 6 mesiacov vopred).
6. FRIA + DSFA integrovane tam, kde sú dotknuté úver, poistenie alebo verejné služby.

Typický stredný podnik v DACH zostáva čistým deployerom, pokiaľ systém využíva v dokumentovanom účele, model podstatne nemení, nerobí rebranding a nepremieňa ho na nový účel podľa prílohy III. Časté sebaklam „Používame len Microsoft 365 Copilot, takže sa nás to netýka" je nesprávny: ak sa Copilot používa na prípravu rozhodnutia súvisiaceho so zamestnaním, deployer končí v oblasti prílohy III ods. 4. Rovnako nesprávne: „Open Source je vyňatý" – výnimka podľa čl. 2 ods. 12 je úzka a neplatí pre vysokorizikové aplikácie, GPAI so systémovým rizikom alebo transparentnosť podľa čl. 50.

Opätovné upozornenie: Tento prehľad je informatívny a nenahrádza právne poradenstvo. Pre záväznú klasifikáciu konkrétneho AI Agenta – najmä pri blízkosti k prílohe III, možnej reklasifikácii podľa čl. 25 alebo cezhraničných švajčiarskych skutkových okolnostiach – je potrebné prípadovo zamerané právne preskúmanie. Provizórne lehoty Digital Omnibus podliehajú výhrade formálneho prijatia pred 2. augustom 2026.