Fact checking z AI: agent wykrywa halucynacje przed publikacją

Agent do weryfikacji faktów to system AI, który automatycznie weryfikuje treści przed publikacją: rozkłada tekst na pojedyncze twierdzenia (claims), porównuje każde z nich z wiarygodnymi źródłami i oznacza stwierdzenia niepoparte dowodami, sprzeczne lub zmyślone. Jego celem jest wykrycie halucynacji, błędnych liczb i przekłamanych cytatów, zanim zostaną opublikowane. Jest instancją kontrolną między szkicem a zatwierdzeniem, ale nie zastępuje ostatecznej odpowiedzialności redakcyjnej.

• Co robi: cztery kroki: ekstrakcja twierdzeń, porównanie ze źródłami (retrieval/sieć), oznaczanie problematycznych stwierdzeń, ocena pewności dla każdego twierdzenia.
• Dlaczego jest potrzebny: modele językowe halucynują nawet przy kontrolowanych zadaniach. Przy streszczaniu dostarczonych dokumentów odsetek błędów wynosi, zależnie od modelu, od kilku procent do wartości dwucyfrowych (Vectara Hallucination Leaderboard, pomiar za pomocą HHEM-2.3 na ponad 7700 dokumentach).
• Gdzie leży jego granica: agent zmniejsza ryzyko, ale nie zastępuje zatwierdzenia przez człowieka. Sprawdza tylko to, co obejmują jego źródła.

Dlaczego halucynacje przed publikacją to ryzyko biznesowe

W realiach B2B halucynacje faktograficzne w treściach typu thought leadership zostają zauważone, i to szybko. Kupujący o profilu inżynierskim w przemysłowych MŚP natychmiast rozpoznają błędne stwierdzenie techniczne i wyciągają wnioski co do staranności nadawcy. W finansach jedna zhalucynowana liczba w materiałach dla zarządu to katastrofa, która na lata podważa wiarygodność osoby odpowiedzialnej. W środowisku prawniczym zmyślone powołania na orzeczenia sądowe skutkują realnymi sankcjami: sprawa Mata v. Avianca (USA, 2023) to kanoniczny precedens, a podobne przypadki zdarzyły się już także w niemieckich kancelariach.

Integracja wyszukiwania w sieci na żywo jedynie przesunęła problem. Według audytu NewsGuard dziesięć czołowych narzędzi AI w sierpniu 2025 r. powtarzało fałszywe informacje na tematy bieżące w 35% przypadków, wobec 18% w sierpniu 2024 r. Jednocześnie odsetek odmów odpowiedzi spadł z 31% do 0%. Modele odpowiadają więc częściej i bardziej stanowczo, ale czerpią dowody z częściowo zanieczyszczonego ekosystemu informacyjnego. Dla zautomatyzowanych pipeline'ów treści oznacza to, że bez własnego etapu weryfikacji błędy bez przeszkód docierają aż do publikacji.

Cztery kroki agenta do weryfikacji faktów

Solidny agent do weryfikacji faktów nie działa jak nieprzejrzysta ocena całościowa („tekst wygląda na poprawny”), lecz dzieli zadanie na zrozumiałe kroki, które można sprawdzić pojedynczo.

1. Ekstrakcja twierdzeń

Agent rozkłada tekst na atomowe, weryfikowalne twierdzenia. Ze zdania „Firma zwiększyła w 2025 r. przychody o 30% i otworzyła biuro w Wiedniu” powstają dwa osobne twierdzenia, które są sprawdzane oddzielnie. Czyste opinie, wyraźnie oznaczone prognozy i fragmenty stylistyczne są oznaczane jako nieweryfikowalne i nie są traktowane jako błędy faktyczne. Dobra ekstrakcja jest podstawą całego procesu: jeśli twierdzenie zostanie źle wyodrębnione, albo ginie kontekst, albo powstają pozorne błędy.

2. Porównanie ze źródłami (retrieval/sieć)

Dla każdego twierdzenia agent szuka dowodów. Zwykle stosuje się dwa typy źródeł: wewnętrzny, wyselekcjonowany korpus przeszukiwany przez retrieval (brief, dokumenty badawcze, dane produktowe, zatwierdzona baza wiedzy) oraz, jeśli jest to dozwolone, otwarte wyszukiwanie w sieci dla faktów bieżących lub zewnętrznych. Korpus wewnętrzny jest z reguły bardziej wiarygodny, bo jest wyselekcjonowany; wyszukiwanie w sieci ma szerszy zasięg, ale jest bardziej ryzykowne. Wymagające zespoły pracują tu według tego samego schematu, który sprawdził się już w praktyce w regionie DACH (Niemcy, Austria, Szwajcaria): zamiast ufać surowemu modelowi, weryfikuje się treść przez retrieval na podstawie dziedzinowego korpusu źródeł, podobnie jak kancelarie, które wzbogacają swoje modele przez RAG o niemieckie korpusy prawne, zamiast polegać na pamięci modelu.

3. Oznaczanie twierdzeń

Dla każdego twierdzenia agent rozstrzyga, czy znalezione źródło je potwierdza, obala, czy nie obejmuje (brak dowodu). Technicznie jest to ocena typu entailment: czy twierdzenie wynika logicznie z dowodu? Stwierdzenia sprzeczne i niepoparte dowodami są wyraźnie oznaczane dla redakcji, przy czym „niepoparte” wcale nie oznacza „fałszywe”, lecz „nieweryfikowalne na podstawie dostępnych źródeł”, a więc wymagające wyjaśnienia.

4. Ocena pewności

Każde ustalenie otrzymuje wskaźnik pewności, który wyraża, jak bardzo agent jest pewny swojej oceny. Częstą i niezawodną metodą jest self-consistency: twierdzenie sprawdza się kilkakrotnie lub na podstawie kilku dowodów; jeśli oceny są zgodne, pewność rośnie, a jeśli się rozchodzą, pewność spada i sprawa trafia do weryfikacji przez człowieka. Wskaźnik steruje priorytetyzacją: „obalone” z wysoką pewnością trafia na górę kolejki recenzenta, a niska pewność sygnalizuje, że sam agent nie jest pewny.

Tabela: typ twierdzenia, metoda weryfikacji, działanie

Przykład: wykryta halucynacja

Fikcyjny przykład z wartościami zastępczymi: automatycznie wygenerowany szkic wpisu na blogu o wdrażaniu AI w MŚP zawiera zdanie: „Według badania branżowego X w 2026 r. już 57% niemieckich firm aktywnie korzystało z AI w księgowości.” Agent do weryfikacji faktów przetwarza to zdanie w następujący sposób:

```
Ekstrakcja: "57% niemieckich firm aktywnie korzysta z AI w księgowości w 2026 r. (źródło: badanie branżowe X)"
Typ twierdzenia: Liczba/statystyka ze wskazaniem źródła
Retrieval: Trafienie w korpusie badawczym (badanie branżowe X, 2026)
Tekst dowodu: "41% firm aktywnie korzysta z AI; marketing/komunikacja 57%,
controlling/księgowość 17%"
Entailment: SPRZECZNOŚĆ
Ustalenie: Liczba 57% dotyczy marketingu/komunikacji, a nie księgowości;
łączne aktywne użycie wynosi 41%, księgowość 17%
Pewność: 0,93 (jednoznaczny dowód w źródle, wielokrotnie potwierdzony)
Działanie: ZABLOKOWAĆ, poprawić przed publikacją
```

Mamy tu do czynienia z typowym wzorcem konfabulacji: liczba 57% rzeczywiście występuje w źródle, ale została przypisana do niewłaściwej kategorii. To powiązanie brzmi wiarygodnie, ale jest fałszywe co do faktów, a czytelnik bez dostępu do źródła raczej go nie zauważy. Agent je wychwytuje, bo nie sprawdza, czy coś brzmi wiarygodnie, lecz konkretny dowód. Właśnie takie pomyłki (prawidłowa liczba, błędne odniesienie) są częste w treściach generowanych przez AI i szczególnie zdradliwe, bo brzmią poważnie.

Granica: redukcja ryzyka, a nie przekazanie odpowiedzialności

Agent do weryfikacji faktów mierzalnie zmniejsza ryzyko, ale nie zastępuje odpowiedzialności redakcyjnej. Ograniczają go trzy przyczyny strukturalne. Po pierwsze, sprawdza tylko to, co obejmują jego źródła: stwierdzenie, dla którego w korpusie nie ma dowodu, pozostaje „niepoparte”, a nie „sprawdzone”. Po drugie, agent sam korzysta z modelu językowego i może się pomylić w ocenie entailmentu, bo nawet Google AI Overviews według analizy opublikowanej w 2026 r. mylił się, zależnie od wersji modelu, w mniej więcej 9 do 15% przypadków. Po trzecie, co w regionie DACH szczególnie istotne: wynik weryfikacji jest tylko tak dobry jak pula źródeł. Jeśli jest ona zanieczyszczona lub nieaktualna, agent produkuje zweryfikowane nieprawdy.

Tym samym przesuwa się także odpowiedzialność za zarządzanie źródłami. W regulowanych kontekstach same źródła wykorzystywane w retrievalu muszą być dopuszczalne: zgodne z RODO, a w przypadku osób zobowiązanych do zachowania tajemnicy zawodowej, takich jak doradcy podatkowi czy adwokaci, dodatkowo zgodne z ich obowiązkiem zachowania tajemnicy. Miarodajne są w Niemczech § 203 StGB, w Austrii prawo zawodowe, np. § 9 RAO dla adwokatów i § 80 WTBG 2017 dla doradców podatkowych, a w Szwajcarii art. 321 StGB, np. dla adwokatów. Wykracza to poza standardowe powierzenie przetwarzania danych. Unijne obowiązki w zakresie przejrzystości wynikające z art. 50 AI Act obowiązują od 2 sierpnia 2026 r. Dostawcy systemów generatywnej AI muszą oznaczać generowane wyniki w formacie nadającym się do odczytu maszynowego; dla systemów wprowadzonych do obrotu przed 2 sierpnia 2026 r. obowiązuje okres przejściowy do 2 grudnia 2026 r. (art. 111 ust. 4 AI Act). Podmioty stosujące muszą ujawniać deepfake'i, a także teksty wygenerowane przez AI, które są publikowane w celu informowania opinii publicznej o sprawach leżących w interesie publicznym. W przypadku takich tekstów obowiązek ujawnienia nie ma zastosowania, jeśli zostały one poddane weryfikacji przez człowieka lub kontroli redakcyjnej, a odpowiedzialność redakcyjną za publikację ponosi konkretna osoba (art. 50 ust. 4 AI Act). Agent do weryfikacji faktów z zatwierdzaniem przez człowieka może być częścią tej kontroli redakcyjnej, ale jej nie zastępuje. Wszystko to ma charakter informacyjny i nie stanowi porady prawnej.

Wiarygodny punkt odniesienia dla opłacalności pozostaje konserwatywny: recenzowane badanie autorstwa Brynjolfsson, Li & Raymond (The Quarterly Journal of Economics 2025) wykazuje w obsłudze klienta wspieranej przez AI średnio o 15% więcej rozwiązanych zgłoszeń na godzinę, a w przypadku mniej doświadczonych i niżej wykwalifikowanych pracowników około 30%. To realistyczna podłoga, a nie sufit „10×” z prezentacji dostawców. Agent do weryfikacji faktów przekłada się przede wszystkim nie na szybkość, lecz na uniknięte szkody: nieopublikowane fałszywe stwierdzenie, nienaruszone zaufanie. Jako ryzyko bezpieczeństwa OWASP klasyfikuje halucynacje w kategorii LLM09 Misinformation; więcej przeczytasz w artykule OWASP LLM Top 10 (2025): wyjaśnienie.

Dla agencji i zespołów B2B

Kto automatyzuje tworzenie treści, potrzebuje etapu weryfikacji jako stałego kroku w pipeline, a nie wyrywkowej kontroli po fakcie. Dla agencji agent do weryfikacji faktów to konkretny argument w kwestii jakości i odpowiedzialności wobec klientów: przejrzyste listy twierdzeń, udokumentowane źródła i jasna ścieżka eskalacji dla stwierdzeń niepopartych dowodami. W przypadku zespołów B2B najlepiej zacząć tam, gdzie potencjalna szkoda jest największa: najpierw twierdzenia dotyczące liczb, cytatów i compliance, z obowiązkowym zatwierdzaniem przez człowieka wszystkiego, co wiąże prawnie. Blck Alpaca projektuje takie procesy weryfikacji dla pipeline'ów treści firm w Europie: od zarządzania źródłami, przez architekturę agentów, po integrację z istniejącym procesem redakcyjnym, bez rozmywania odpowiedzialności człowieka za zatwierdzenie.