Agent na overovanie faktov: odhaľ halucinácie pred publikovaním

Agent na overovanie faktov je systém umelej inteligencie, ktorý automatizovane verifikuje obsah pred publikovaním: rozloží text na jednotlivé tvrdenia (claims), každé porovná s dôveryhodnými zdrojmi a označí nepodložené, protirečivé alebo vymyslené výroky. Cieľom je odhaliť halucinácie, nesprávne čísla a chybné citácie skôr, než sa zverejnia. Je kontrolnou inštanciou medzi konceptom a schválením, nie však náhradou za konečnú redakčnú zodpovednosť.

• Čo robí: štyri kroky: extrakcia tvrdení, porovnanie so zdrojmi (retrieval/web), označenie problematických výrokov, skórovanie istoty pre každé tvrdenie.
• Prečo je potrebný: jazykové modely halucinujú aj pri kontrolovaných úlohách. Pri sumarizovaní zadaných dokumentov sa miery chybovosti podľa modelu pohybujú od niekoľkých percent až po dvojciferné hodnoty (Vectara Hallucination Leaderboard, merané pomocou HHEM-2.3 na viac než 7 700 dokumentoch).
• Kde je jeho hranica: agent znižuje riziko, no nenahrádza ľudské schválenie. Overí len to, čo pokrývajú jeho zdroje.

Prečo sú halucinácie pred publikovaním obchodným rizikom

Faktické halucinácie v obsahu typu thought leadership v B2B realite regiónu DACH vyjdú najavo, a to rýchlo. Technickí nákupcovia v priemyselných stredných podnikoch rozpoznajú nesprávny technický výrok okamžite a vyvodzujú z neho závery o dôslednosti autora. Vo finančnom kontexte je jediné halucinované číslo v podkladoch pre predstavenstvo (board pack) katastrofálne a poškodzuje dôveryhodnosť zodpovednej osoby na roky. V právnom prostredí vedú vymyslené citácie súdnych rozhodnutí k reálnym sankciám: prípad Mata v. Avianca (USA, 2023) je kanonickým precedensom a porovnateľné prípady sa odvtedy vyskytli aj v nemeckých advokátskych kanceláriách.

Integrácia živého vyhľadávania na webe problém len presunula. Podľa auditu NewsGuard zopakovalo desať popredných AI nástrojov v auguste 2025 v 35 % prípadov nepravdivé informácie k aktuálnym témam, oproti 18 % v auguste 2024. Zároveň miera odmietnutia odpovede klesla z 31 % na 0 %. Modely teda odpovedajú častejšie a rozhodnejšie, no svoje doklady čerpajú zo sčasti znečisteného informačného ekosystému. Pre automatizované obsahové pipeline to znamená: bez vlastného stupňa overovania sa chyby bez prekážok dostanú až do zverejnenia.

Štyri kroky agenta na overovanie faktov

Spoľahlivý agent na overovanie faktov nepracuje ako nepriehľadné celkové posúdenie („text pôsobí správne“), ale rozloží úlohu na zrozumiteľné, jednotlivo overiteľné kroky.

1. Extrakcia tvrdení

Agent rozloží text na atomárne, overiteľné tvrdenia. Z vety „Firma v roku 2025 zvýšila tržby o 30 % a otvorila kanceláriu vo Viedni“ vzniknú dve samostatné tvrdenia, ktoré sa overujú oddelene. Čisté názorové vyjadrenia, jasne označené prognózy a štylistické pasáže sa označia ako neoveriteľné a nepovažujú sa za faktické chyby. Dobrá extrakcia je základom celého procesu: ak sa tvrdenie nesprávne izoluje, buď sa stratí kontext, alebo vzniknú zdanlivé chyby.

2. Porovnanie so zdrojmi (retrieval/web)

Ku každému tvrdeniu agent vyhľadá doklady. Bežné sú dva typy zdrojov: interný, kurátorovaný korpus cez retrieval (briefing, výskumné dokumenty, produktové dáta, schválená znalostná databáza) a, ak je to povolené, otvorené vyhľadávanie na webe pre aktuálne alebo externé fakty. Interný korpus býva spravidla spoľahlivejší, pretože je kurátorovaný; vyhľadávanie na webe je širšie, no rizikovejšie. Náročné tímy tu pracujú podľa rovnakého vzoru, ktorý sa v praxi v regióne DACH už osvedčil: namiesto dôvery v surový model sa overuje voči doménovo špecifickému korpusu zdrojov cez retrieval, podobne ako v advokátskych kanceláriách, ktoré svoje modely rozširujú cez RAG o nemecké právne korpusy, namiesto toho, aby sa spoliehali na pamäť modelu.

3. Označenie tvrdení

Pri každom tvrdení agent rozhodne, či nájdený zdroj výrok podporuje, vyvracia alebo nepokrýva (nepodložené). Technicky ide o posúdenie entailmentu (vyplývania): vyplýva tvrdenie logicky z dokladu? Protirečivé a nepodložené výroky sa pre redakciu viditeľne označia, pričom nepodložené výslovne neznamená „nesprávne“, ale „neoveriteľné dostupnými zdrojmi“, a teda vyžadujúce vysvetlenie.

4. Skórovanie istoty

Každý nález dostane skóre istoty, ktoré vyjadruje, ako veľmi si je agent svojím posúdením istý. Častým a spoľahlivým postupom je self-consistency: tvrdenie sa overuje viackrát, respektíve voči viacerým dokladom; ak sa posúdenia zhodujú, istota stúpa, ak sa rozchádzajú, klesá a prípad sa eskaluje na ľudské overenie. Skóre riadi prioritizáciu: vysoká istota pri „vyvrátené“ patrí na začiatok frontu recenzenta, nízka istota signalizuje, že si agent sám nie je istý.

Tabuľka: typ tvrdenia, metóda overenia, akcia

Príklad: odhalená halucinácia

Fiktívny príklad so zástupnými hodnotami: automaticky vytvorený koncept blogového článku o zavádzaní AI v stredných podnikoch obsahuje vetu: „Podľa odvetvovej štúdie X využívalo v roku 2026 už 57 % nemeckých firiem aktívne AI v účtovníctve.“ Agent na overovanie faktov túto vetu spracuje takto:

```
Extrahované tvrdenie: "57 % nemeckých firiem využíva v roku 2026 aktívne AI v účtovníctve (zdroj: odvetvová štúdia X)"
Typ tvrdenia: Číslo/štatistika s uvedením zdroja
Retrieval: Zhoda vo výskumnom korpuse (odvetvová štúdia X, 2026)
Text dokladu: "41 % firiem využíva aktívne AI; marketing/komunikácia 57 %,
controlling/účtovníctvo 17 %"
Entailment: PROTIREČENIE
Nález: Číslo 57 % patrí k marketingu/komunikácii, nie k účtovníctvu;
aktívne využívanie celkovo je na úrovni 41 %, účtovníctvo na 17 %
Istota: 0,93 (jednoznačný doklad zo zdroja, viackrát potvrdený)
Akcia: BLOKOVAŤ, pred publikovaním opraviť
```

Ide tu o typický vzor konfabulácie: číslo 57 % sa v zdroji naozaj nachádza, no je priradené nesprávnej kategórii. Vzniká tak vierohodne znejúce, no fakticky nesprávne prepojenie, ktoré ľudský čitateľ bez zdroja sotva zaznamená. Agent ho zachytí, pretože neoveruje vierohodnosť, ale konkrétny doklad. Práve takéto zámeny, správne číslo s nesprávnym vzťahom, sú v obsahu generovanom AI časté a obzvlášť záludné, pretože pôsobia seriózne.

Hranica: zníženie rizika, nie odovzdanie zodpovednosti

Agent na overovanie faktov merateľne znižuje riziko, no nenahrádza redakčnú zodpovednosť. Obmedzujú ho tri štrukturálne dôvody. Po prvé overuje len to, čo pokrývajú jeho zdroje: výrok, ku ktorému v korpuse neexistuje doklad, zostáva „nepodložený“, nie „overený“. Po druhé agent sám používa jazykový model a môže sa pri posudzovaní entailmentu mýliť, veď aj Google AI Overviews boli podľa analýzy zverejnenej v roku 2026 v závislosti od verzie modelu ešte v približne 9 až 15 % prípadov nesprávne. Po tretie, a v regióne DACH obzvlášť relevantné: výsledok verifikácie je len taký dobrý ako súbor zdrojov. Ak je znečistený alebo zastaraný, agent produkuje verifikované nepravdy.

Tým sa presúva aj zodpovednosť za governance zdrojov. V regulovaných kontextoch musia byť samotné zdroje pre retrieval prípustné: v súlade s GDPR a pri osobách viazaných profesijným tajomstvom, ako sú daňoví poradcovia či advokáti, navyše zlučiteľné s ich povinnosťou mlčanlivosti. Rozhodujúce sú v Nemecku § 203 StGB, v Rakúsku stavovské predpisy, napríklad § 9 RAO pre advokátov a § 80 WTBG 2017 pre daňových poradcov, a vo Švajčiarsku čl. 321 StGB, napríklad pre advokátov. To presahuje bežné spracúvanie údajov sprostredkovateľom. Povinnosti EÚ v oblasti transparentnosti podľa čl. 50 AI Act platia od 2. augusta 2026. Poskytovatelia generatívnych AI systémov musia výstupy strojovo čitateľne označovať; pre systémy uvedené na trh ešte pred 2. augustom 2026 na to platí prechodné obdobie do 2. decembra 2026 (čl. 111 ods. 4 AI Act). Nasadzujúce subjekty musia označiť deepfaky ako umelo vytvorené, rovnako ako texty generované AI, ktoré sa uverejňujú s cieľom informovať verejnosť o záležitostiach verejného záujmu. Pri takýchto textoch táto povinnosť odpadá, ak prešli ľudským preskúmaním alebo redakčnou kontrolou a redakčnú zodpovednosť za uverejnenie nesie konkrétna osoba (čl. 50 ods. 4 AI Act). Agent na overovanie faktov s ľudským schválením môže byť súčasťou tejto redakčnej kontroly, no nenahrádza ju. Toto všetko je informatívne a nie je to právne poradenstvo.

Spoľahlivým referenčným bodom pre hospodárnosť zostáva konzervatívny údaj: recenzovaná štúdia Brynjolfssona, Liho a Raymonda (The Quarterly Journal of Economics 2025) meria v zákazníckom servise s asistenciou AI v priemere o 15 % viac vyriešených požiadaviek za hodinu, pri menej skúsených a menej kvalifikovaných pracovníkoch približne o 30 %. To je realistická spodná hranica, nie strop „10ד z predajných slajdov dodávateľov. Prínos agenta na overovanie faktov sa primárne neprejavuje v rýchlosti, ale v odvrátenej škode: nezverejnený nepravdivý výrok, nepoškodená dôvera. Ako bezpečnostné riziko vedie OWASP halucinácie pod LLM09 Misinformation, viac o tom v článku OWASP LLM Top 10 (2025) vysvetlené.

Pre agentúry a B2B tímy

Kto automatizuje obsah, potrebuje stupeň overovania ako pevný krok pipeline, nie ako dodatočnú vzorkovú kontrolu. Pre agentúry je agent na overovanie faktov konkrétnym argumentom v otázke kvality a zodpovednosti voči klientom: zrozumiteľné zoznamy tvrdení, zdokumentované zdroje a jasná eskalačná cesta pre nepodložené výroky. B2B tímom sa odporúča začať tam, kde je škoda najväčšia: najprv tvrdenia o číslach, citátoch a compliance, s povinným ľudským schválením pre všetko, čo je právne záväzné. Blck Alpaca navrhuje takéto verifikačné workflow pre obsahové pipeline v regióne DACH: od governance zdrojov cez architektúru agenta až po začlenenie do existujúceho redakčného procesu, bez oslabenia ľudskej zodpovednosti za schválenie.