Posúdenie vplyvu na ochranu údajov (DPIA) pri AI agentoch: povinnosť, prahové hodnoty a postup krok za krokom

Posúdenie vplyvu na ochranu údajov (DPIA, nemecky DSFA) je podľa čl. 35 GDPR povinné, ak spracúvanie pravdepodobne povedie k vysokému riziku pre práva a slobody fyzických osôb. Pri AI agentoch je v praxi takmer vždy potrebné, pretože tieto systémy väčšinou spĺňajú viacero rizikových kritérií naraz, napríklad inovatívnu technológiu v kombinácii s profilovaním, automatizovaným rozhodovaním alebo zlučovaním dátových súborov z viacerých zdrojov.

Tento článok je súčasťou tematického celku „Nasadenie AI agentov v súlade s GDPR“ a prináša spoľahlivý postup krok za krokom a kontrolný zoznam spúšťačov pre prevádzkovateľov v regióne DACH.

Rýchle odpovede

• Prahová hodnota: DPIA je povinné, hneď ako je vysoké riziko pravdepodobné (čl. 35 ods. 1). Čl. 35 ods. 3 uvádza tri typové prípady, čl. 35 ods. 4 ukladá dozorným orgánom povinnosť zverejniť zoznamy povinných DPIA, v Nemecku zoznam DSK pre neverejný sektor, v Rakúsku nariadenie DSFA-V úradu na ochranu údajov. Vo Švajčiarsku vyplýva povinnosť DPIA z čl. 22 DSG; GDPR sa tam uplatní len vtedy, ak sú splnené podmienky čl. 3 ods. 2 GDPR.
• Realita AI: AI agenti kvôli profilovaniu, automatizovanému rozhodovaniu a inovatívnej technológii takmer vždy vyvolávajú povinnosť DPIA.
• Postup: DPIA sa riadi zdokumentovaným procesom: opis spracúvania ako povinná súčasť, potom nevyhnutnosť/primeranosť, identifikácia rizík, hodnotenie rizík a nápravné opatrenia. Pri vysokom zvyškovom riziku nasleduje predchádzajúca konzultácia podľa čl. 36.

Čo je DPIA podľa čl. 35 GDPR

Čl. 35 ods. 1 GDPR ukladá prevádzkovateľovi povinnosť vykonať DPIA, ak typ spracúvania, najmä pri využití nových technológií, s ohľadom na povahu, rozsah, kontext a účely pravdepodobne povedie k vysokému riziku pre práva a slobody fyzických osôb. DPIA je tak predradeným nástrojom riadenia rizík: vypracúva sa pred začatím spracúvania a dokumentuje, či a ako sú riziká zvládnuté.

Dôležité: prevádzkovateľ (controller) zostáva za DPIA zodpovedný, aj keď AI agenta sám nevyvinul. DSK vo svojej orientačnej pomôcke „Umelá inteligencia a ochrana údajov“ (verzia 1.0, 6. mája 2024) uvádza, že pri nasadení AI aplikácií bude DPIA v mnohých prípadoch potrebné (bod 39). Ak prevádzkovateľ nie je zároveň poskytovateľom AI systému, je pritom odkázaný na informácie poskytovateľa o tom, ako systém funguje (bod 40).

Kedy sa DPIA pri AI agentoch stáva povinným

Čl. 35 ods. 3 uvádza tri zákonné typové prípady (domnienky):

1. Systematické a rozsiahle hodnotenie osobných aspektov vrátane profilovania s významným účinkom.
2. Rozsiahle spracúvanie osobitných kategórií údajov (čl. 9) alebo údajov týkajúcich sa odsúdení za trestné činy (čl. 10).
3. Systematické monitorovanie verejne prístupných miest vo veľkom rozsahu.

Okrem toho čl. 35 ods. 4 GDPR ukladá dozorným orgánom povinnosť zverejniť zoznamy spracúvaní, pri ktorých je DPIA povinné. Pre súkromných prevádzkovateľov v Nemecku platí zoznam povinných DPIA, ktorý vydala DSK pre neverejný sektor (verzia 1.1 zo 17. októbra 2018), v Rakúsku nariadenie DSFA-V úradu na ochranu údajov (BGBl. II Nr. 278/2018). Vo Švajčiarsku vyplýva povinnosť DPIA z čl. 22 DSG. GDPR sa na švajčiarskych prevádzkovateľov vzťahuje len vtedy, ak ponúkajú tovar alebo služby osobám v EÚ alebo tam monitorujú ich správanie (čl. 3 ods. 2 GDPR). Pre AI agentov sú v zozname DSK relevantné najmä tieto položky:

• Nasadenie AI, ktorá spracúva osobné údaje na riadenie interakcie s dotknutými osobami alebo na hodnotenie osobných aspektov (č. 11), napríklad v zákazníckej podpore
• Zlučovanie údajov z viacerých zdrojov vo veľkom rozsahu, ak sa z nich pripravujú rozhodnutia s právnym účinkom, napríklad pri scoringu (č. 5), alebo ak sa v nich hľadajú neznáme súvislosti (č. 10)
• Rozsiahle profily o záujmoch, vzťahoch alebo osobnosti (č. 9)
• Automatizované vyhodnocovanie video- alebo zvukových záznamov na hodnotenie osobnosti (č. 13)
• Biometrická identifikácia alebo genetické údaje, ak je splnené aspoň jedno ďalšie kritérium WP248 (č. 1 a 2)
• Rozsiahle vyhodnocovanie správania zamestnancov na hodnotenie ich práce (č. 8)

Praktický dôsledok: AI agenti kvôli jednému alebo viacerým z týchto bodov takmer vždy vyvolávajú povinnosť DPIA.

Kontrolný zoznam spúšťačov pre AI agentov

Ak spracúvanie spadá pod typový prípad podľa čl. 35 ods. 3 alebo je v zozname povinných DPIA podľa čl. 35 ods. 4, DPIA je povinné. Pre ostatné kritériá platí podľa usmernení WP248 rev.01 orientačné pravidlo: ak sú splnené aspoň dve kritériá, DPIA treba vykonať, v jednotlivých prípadoch už pri jednom. V prípade pochybností sa odporúča zdokumentované predbežné preskúmanie prahovej hodnoty („threshold assessment“), ktoré zdôvodní, prečo by DPIA nebolo potrebné; tým sa zohľadňuje zásada zodpovednosti podľa čl. 5 ods. 2.

Metodika DPIA krok za krokom

Opis spracúvania je podľa čl. 35 ods. 7 písm. a GDPR predradenou povinnou súčasťou každého DPIA: systematický opis AI agenta vrátane diagramu toku údajov, ktorý zachytáva každý prenos osobných údajov (používateľ → runtime agenta → API modelu → vektorové úložisko → MCP server → observability backend → logy), k tomu systémová architektúra s mapou ďalších sprostredkovateľov a mapovanie rolí (prevádzkovateľ, spoloční prevádzkovatelia, sprostredkovateľ, ďalší sprostredkovatelia s neprerušeným reťazcom podľa čl. 28 ods. 4).

Na tomto základe nasledujú štyri kľúčové kroky, ktoré vyplývajú z čl. 35 ods. 7 písm. b až d GDPR. Zhodujú sa s usmerneniami WP248 rev.01 pracovnej skupiny zriadenej podľa článku 29, ktoré potvrdil EDPB. Krátky dokument DSK č. 5 ich zaraďuje do cyklu prípravy, vykonania, implementácie a preskúmania:

1. Nevyhnutnosť a primeranosť. Je spracúvanie striktne nevyhnutné? Postačili by anonymné, pseudonymné alebo syntetické údaje? Sú množstvo údajov a doba uchovávania minimalizované? Konkrétne pri RAG: indexovanie pseudonymizovaných chunkov a minimalizácia kontextových payloadov.
2. Identifikácia rizík. Zachytenie rizík špecifických pre AI (pozri ďalšiu časť) vo vzťahu k príslušným skupinám dotknutých osôb.
3. Hodnotenie rizík. Hodnotenie každého rizika podľa súčinu pravdepodobnosti výskytu a závažnosti.
4. Riešenie rizík a akceptovanie zvyškového rizika. Technické opatrenia podľa čl. 32 (šifrovanie, pseudonymizácia, kontroly prístupu, logovanie, obrana proti prompt injection), organizačné opatrenia (školenia, riadenie) a zmluvné opatrenia (klauzuly zmluvy so sprostredkovateľom), ako aj zdokumentované akceptovanie zvyškového rizika.

K tomu patria potrebné doklady o konzultáciách: stanovisko zodpovednej osoby (čl. 35 ods. 2), účasť zamestnaneckej rady, resp. zástupcov zamestnancov vo verejnej službe, kde je to relevantné (§ 87 BetrVG, rakúsky ArbVG, švajčiarske pravidlá o účasti zamestnancov), a tam, kde je to možné, aj získanie názoru dotknutých skupín osôb (čl. 35 ods. 9).

Riziká špecifické pre AI v registri rizík

Pri AI agentoch je katalóg rizík podstatne širší než pri klasickom spracúvaní údajov. DPIA musí zohľadniť minimálne:

• Halucinácia: vymyslené, ale vierohodné osobné údaje; zároveň nesprávne údaje (čl. 5 ods. 1 písm. d) a riziko reidentifikácie
• Zaujatosť (bias) a diskriminácia vo výstupoch scoringu a rankingu
• Prompt injection vrátane útokov naprieč tenantmi, ktoré extrahujú cudzie údaje
• Únik pamäte (memory leakage) medzi reláciami cez zdieľané úložisko alebo systémové prompty
• Regurgitácia na výstupe osobných údajov (PII) z trénovacích dát
• Scope creep a neoprávnená inferencia
• Exfiltrácia údajov cez volania nástrojov (tool calls) k nezdokumentovaným ďalším sprostredkovateľom
• Reidentifikácia cez inverziu embeddingov: embeddingy nie sú automaticky anonymné a považujú sa za pseudonymné osobné údaje
• Riziko dodávateľského reťazca v päť- až osemstupňovom reťazci ďalších sprostredkovateľov

Orientačná pomôcka DSK k RAG (2025) dopĺňa dve riziká špecifické pre RAG: membership inference attacks a data poisoning. Publikácia DSK „Požiadavky na AI systémy z hľadiska ochrany údajov“ (17. júna 2025) navyše poskytuje operatívne priradenie k štandardnému modelu ochrany údajov (SDM).

Konkrétny príklad s číslami: agent zákazníckeho servisu

Rakúsky podnik s 800 zamestnancami plánuje agenta zákazníckeho servisu na báze Azure OpenAI. Agent spracuje mesačne približne 40 000 konverzácií, z ktorých podľa odhadu 30 percent (teda približne 12 000) obsahuje v promptoch identifikujúce údaje zákazníkov. Rozhodnutia o eskalácii sa najprv pripravujú automatizovane.

V DPIA sa riziko „regurgitácia na výstupe osobných údajov (PII) z trénovacích dát“ hodnotí s pravdepodobnosťou „stredná“ a závažnosťou „vysoká“. Náprava: výstupné filtre, red team test na memorizáciu, zdokumentované vyváženie záujmov. Pri riziku „únik pamäte medzi reláciami“ znižuje striktná izolácia tenantov pravdepodobnosť zo „strednej“ na „nízku“. Uchovávanie promptov vo vlastnom systéme je obmedzené na 30 dní s odstránením citlivých údajov pred trvalým uložením. K tomu pribúda monitorovanie zneužitia zo strany Microsoftu: oprávnení zamestnanci Microsoftu môžu kontrolovať označené prompty a odpovede, pri nasadeniach v EHP pôsobia v EHP. Pri schválenom „Modified Abuse Monitoring“ táto ľudská kontrola odpadá. Keďže sa každé rozhodnutie so závažnými dôsledkami eskaluje k človeku a agent rozhodnutia iba pripravuje, zvyškové riziko podľa čl. 22 klesá na prijateľnú úroveň. Výsledok: predchádzajúca konzultácia podľa čl. 36 nie je potrebná.

Predchádzajúca konzultácia podľa čl. 36

Ak po všetkých opatreniach zostáva vysoké zvyškové riziko, treba pred začatím spracúvania konzultovať s dozorným orgánom podľa čl. 36. V kontexte AI agentov je to zriedkavé, ale reálne pri HR screeningových agentoch s významným účinkom na uchádzačov, pri autonómnych agentoch na zdravotnícku triáž a pri agentoch na poisťovací underwriting. Ak dozorný orgán dospeje k názoru, že spracúvanie nie je v súlade s GDPR, poskytne v lehote do ôsmich týždňov písomné odporúčania; pri zložitom spracúvaní môže lehotu predĺžiť o šesť týždňov (čl. 36 ods. 2 GDPR). Podľa švajčiarskeho práva platí čl. 23 DSG: EDÖB oznámi svoje námietky do dvoch mesiacov, pri zložitom spracúvaní do troch.

Integrácia s FRIA podľa EU AI Act

Pre nasadzujúce subjekty (deployers) vysokorizikových systémov podľa prílohy III, ktoré sú verejnoprávnymi subjektmi alebo súkromnými subjektmi poskytujúcimi verejné služby, alebo pôsobia vo vymedzených oblastiach, vyžaduje čl. 27 EU AI Act posúdenie vplyvu na základné práva (FRIA). Pre systémy z prílohy III platí táto povinnosť až od 2. decembra 2027: AI Omnibus (nariadenie (EÚ) 2026/1744) odložil povinnosti pre vysokorizikové systémy z kapitoly III oddielov 1 až 3, ku ktorým patrí čl. 27, z 2. augusta 2026 na tento dátum. Čl. 27 ods. 4 výslovne umožňuje, aby FRIA dopĺňala DPIA podľa GDPR a znovu využila prekrývajúci sa obsah. Odporúčaný postup:

• Vykonať najprv DPIA (alebo súbežne) podľa metodiky GDPR.
• Rozšíriť ho o prvky špecifické pre FRIA: vplyvy na základné práva nad rámec ochrany údajov (nediskriminácia, dôstojnosť, sloboda prejavu, účinný prostriedok nápravy), dotknuté skupiny osôb, škody, dohľad, mechanizmy podávania sťažností.
• Vytvoriť jediný zlúčený artefakt s krížovými odkazmi na čl. 35 GDPR a čl. 27 AI Act.

Poznámka k prepojeniu: právo na vysvetlenie rozhodovania v individuálnom prípade podľa čl. 86 EU AI Act majú osoby, ktorých sa rozhodnutie na základe vysokorizikového AI systému podľa prílohy III (okrem bodu 2, kritická infraštruktúra) právne alebo podobne významne dotýka. Uplatní sa len vtedy, ak právo Únie, napríklad GDPR, nestanovuje rovnocenné právo (čl. 86 ods. 3). Čl. 86 nie je súčasťou kapitoly III; začiatok jeho uplatňovania 2. augusta 2026 AI Omnibus neodložil. Toto právo však nadväzuje na vysokorizikové systémy podľa prílohy III a ich klasifikácia podľa čl. 6 ods. 2 platí až od 2. decembra 2027 (čl. 113 AI Act v znení AI Omnibusu). Zatiaľ nie je jasné, či sa čl. 86 v praxi uplatní skôr.

Pre agentúry a B2B

Marketingové agentúry a B2B poskytovatelia, ktorí nasadzujú AI agentov pre klientov, sú často sprostredkovateľmi. Povinnosť DPIA potom leží na klientovi ako prevádzkovateľovi, agentúra však musí dodať spoľahlivý opis spracúvania a mapu ďalších sprostredkovateľov. To sa často podceňuje. Ak sú agentúra a klient spoločnými prevádzkovateľmi podľa čl. 26 GDPR, agentúra nesie povinnosť DPIA spolu s klientom. Kto už vo fáze ponuky prinesie šablónu DPIA, diagram toku údajov a preverený katalóg opatrení, výrazne skráti schvaľovacie cykly a zníži riziko najčastejšej výhrady pri audite: zavedenie Copilota alebo agentov bez DPIA a bez konzultácie so zamestnaneckou radou. Blck Alpaca pomáha firmám v regióne DACH nastaviť DPIA od preskúmania prahovej hodnoty až po zlúčený artefakt DPIA/FRIA.

Právne upozornenie: Tento príspevok slúži na všeobecnú informáciu a nepredstavuje právne poradenstvo. Pre záväzné posúdenie konkrétneho spracúvania AI agentom sa, prosím, obráť na kvalifikovaného právneho poradcu a na svoj príslušný dozorný orgán.