Agent de fact-checking : détecter les hallucinations avant publication

Un agent de fact-checking est un système d'IA qui vérifie automatiquement un contenu avant sa publication : il décompose un texte en affirmations distinctes (claims), confronte chacune à des sources fiables et signale les affirmations non étayées, contradictoires ou inventées. L'objectif est de détecter les hallucinations, les chiffres erronés et les citations inexactes avant leur publication. Il constitue l'instance de contrôle entre le brouillon et la validation, sans pour autant remplacer la responsabilité éditoriale finale.

• Ce qu'il fait : quatre étapes : extraction des affirmations, confrontation aux sources (retrieval/web), signalement des affirmations problématiques, score de confiance pour chaque affirmation.
• Pourquoi il est nécessaire : les modèles de langage hallucinent même sur des tâches contrôlées. Pour le résumé de documents fournis, les taux d'erreur vont, selon le modèle, de quelques pour cent à des valeurs à deux chiffres (Vectara Hallucination Leaderboard, mesuré avec HHEM-2.3 sur plus de 7 700 documents).
• Où se situe sa limite : l'agent réduit le risque, mais ne remplace pas la validation humaine. Il ne vérifie que ce que couvrent ses sources.

Pourquoi les hallucinations avant publication représentent un risque pour l'entreprise

Dans la réalité du B2B, les hallucinations factuelles dans les contenus de thought leadership se remarquent, et vite. Les acheteurs issus de l'ingénierie dans les PME industrielles repèrent immédiatement une affirmation technique erronée et en tirent des conclusions sur le sérieux de l'émetteur. Dans la finance, un seul chiffre halluciné dans un dossier destiné au conseil d'administration est catastrophique et entame pour des années la crédibilité de la personne responsable. Dans le domaine juridique, des références jurisprudentielles inventées entraînent de véritables sanctions : l'affaire Mata v. Avianca (États-Unis, 2023) est le précédent de référence, et des cas comparables se sont depuis produits aussi dans des cabinets d'avocats allemands.

L'intégration de la recherche web en temps réel n'a fait que déplacer le problème. Selon un audit de NewsGuard, dix outils d'IA de premier plan ont répété de fausses informations sur des sujets d'actualité dans 35 % des cas en août 2025, contre 18 % en août 2024. Dans le même temps, le taux de refus de répondre est passé de 31 % à 0 %. Les modèles répondent donc plus souvent et avec plus d'assurance, mais tirent leurs preuves d'un écosystème informationnel en partie pollué. Pour les pipelines de contenu automatisés, cela signifie que sans étape de vérification dédiée, les erreurs passent sans frein jusqu'à la publication.

Les quatre étapes d'un agent de fact-checking

Un agent de fact-checking fiable ne fonctionne pas comme une évaluation globale opaque (« le texte semble correct »), mais découpe la tâche en étapes traçables, vérifiables une à une.

1. Extraction des affirmations

L'agent décompose le texte en affirmations atomiques et vérifiables. « L'entreprise a augmenté son chiffre d'affaires de 30 % en 2025 et ouvert un bureau à Vienne » devient deux claims distincts, vérifiés séparément. Les simples opinions, les prévisions clairement signalées et les passages stylistiques sont marqués comme non vérifiables et ne sont pas traités comme des erreurs factuelles. Une bonne extraction est le fondement de tout le processus : si un claim est mal isolé, soit du contexte se perd, soit de fausses erreurs apparaissent.

2. Confrontation aux sources (retrieval/web)

Pour chaque claim, l'agent cherche des preuves. Deux types de sources sont courants : un corpus interne sélectionné, interrogé par retrieval (brief, documents de recherche, données produit, base de connaissances validée) et, si c'est autorisé, la recherche web ouverte pour les faits d'actualité ou externes. Le corpus interne est en général plus fiable parce qu'il fait l'objet d'une sélection ; la recherche web est plus large, mais plus risquée. Les équipes exigeantes suivent ici le même schéma, qui a déjà fait ses preuves dans la pratique en région DACH (Allemagne, Autriche, Suisse) : au lieu de faire confiance à un modèle brut, on vérifie par retrieval à partir d'un corpus de sources propre au domaine, à l'image des cabinets d'avocats qui augmentent leurs modèles par RAG avec des corpus juridiques allemands au lieu de se fier à la mémoire du modèle.

3. Signalement des affirmations

Pour chaque claim, l'agent détermine si la source trouvée étaye l'affirmation, la réfute ou ne la couvre pas (non étayée). Techniquement, il s'agit d'un jugement d'entailment : le claim découle-t-il logiquement de la preuve ? Les affirmations contradictoires et non étayées sont signalées de manière visible pour la rédaction, sachant que « non étayée » ne veut surtout pas dire « fausse », mais « non vérifiable avec les sources disponibles », et appelle donc une explication.

4. Score de confiance

Chaque constat reçoit un score de confiance qui exprime le degré de certitude de l'agent dans son jugement. Une méthode courante et fiable est la self-consistency : le claim est vérifié plusieurs fois ou par rapport à plusieurs preuves ; si les jugements concordent, la confiance augmente ; s'ils divergent, elle baisse et le cas remonte vers une vérification humaine. Le score pilote la priorisation : un « réfuté » à confiance élevée va en tête de la file de relecture, tandis qu'une confiance faible signale que l'agent lui-même n'est pas sûr.

Tableau : type d'affirmation, méthode de vérification, action

Exemple : une hallucination détectée

Exemple fictif avec des valeurs d'illustration : un brouillon d'article de blog généré automatiquement sur l'adoption de l'IA dans les PME contient la phrase : « Selon l'étude sectorielle X, 57 % des entreprises allemandes utilisaient déjà activement l'IA en comptabilité en 2026. » L'agent de fact-checking traite cette phrase ainsi :

```
Claim extrait : "57 % des entreprises allemandes utilisent activement l'IA en comptabilité en 2026 (source : étude sectorielle X)"
Type de claim : Chiffre/statistique avec source
Retrieval : Résultat dans le corpus de recherche (étude sectorielle X, 2026)
Texte de preuve : "41 % des entreprises utilisent activement l'IA ; marketing/communication 57 %,
contrôle de gestion/comptabilité 17 %"
Entailment : CONTRADICTION
Constat : Le chiffre de 57 % concerne le marketing/la communication, pas la comptabilité ;
l'utilisation active globale est de 41 %, la comptabilité de 17 %
Confiance : 0,93 (preuve sans ambiguïté dans la source, confirmée plusieurs fois)
Action : BLOQUER, corriger avant publication
```

On a ici un schéma de confabulation typique : le chiffre de 57 % figure bien dans la source, mais il est rattaché à la mauvaise catégorie. C'est un lien plausible en apparence mais factuellement faux, qu'un lecteur humain ne remarquerait guère sans la source. L'agent le repère parce qu'il ne vérifie pas la plausibilité, mais la preuve concrète. Ce type de confusion (bon chiffre, mauvaise référence) est fréquent dans les contenus générés par IA et particulièrement délicat, car il paraît sérieux.

La limite : réduire le risque, pas transférer la responsabilité

Un agent de fact-checking réduit le risque de manière mesurable, mais ne remplace pas la responsabilité éditoriale. Trois raisons structurelles le limitent. Premièrement, il ne vérifie que ce que couvrent ses sources : une affirmation pour laquelle aucune preuve n'existe dans le corpus reste « non étayée », pas « vérifiée ». Deuxièmement, l'agent utilise lui-même un modèle de langage et peut se tromper dans son jugement d'entailment : même Google AI Overviews se trompait encore dans environ 9 à 15 % des cas selon la version du modèle, d'après une analyse publiée en 2026. Troisièmement, et c'est particulièrement important dans la région DACH : un résultat de vérification ne vaut que ce que vaut le corpus de sources. S'il est pollué ou obsolète, l'agent produit des contre-vérités vérifiées.

La responsabilité de la gouvernance des sources se déplace donc elle aussi. Dans les contextes réglementés, les sources de retrieval elles-mêmes doivent être admissibles : conformes au RGPD et, pour les professionnels soumis au secret professionnel comme les conseillers fiscaux ou les avocats, également compatibles avec leur obligation de confidentialité. Les textes de référence sont, en Allemagne, le § 203 StGB ; en Autriche, le droit professionnel, par exemple le § 9 RAO pour les avocats et le § 80 WTBG 2017 pour les conseillers fiscaux ; et en Suisse, l'art. 321 StGB, par exemple pour les avocats. Cela va au-delà d'un contrat de sous-traitance standard au sens du RGPD. Les obligations de transparence de l'UE prévues à l'article 50 du règlement sur l'IA s'appliquent depuis le 2 août 2026. Les fournisseurs de systèmes d'IA générative doivent marquer leurs sorties dans un format lisible par machine ; pour les systèmes mis sur le marché avant le 2 août 2026, une période transitoire jusqu'au 2 décembre 2026 s'applique (article 111, paragraphe 4, du règlement sur l'IA). Les déployeurs doivent signaler les deepfakes, ainsi que les textes générés par IA publiés dans le but d'informer le public sur des questions d'intérêt public. Pour ces textes, l'obligation de signalement ne s'applique pas lorsqu'ils ont fait l'objet d'un examen humain ou d'un contrôle éditorial et qu'une personne assume la responsabilité éditoriale de la publication (article 50, paragraphe 4, du règlement sur l'IA). Un agent de fact-checking avec validation humaine peut faire partie de ce contrôle éditorial, mais ne le remplace pas. Tout ceci est fourni à titre informatif et ne constitue pas un conseil juridique.

Le point de référence solide pour la rentabilité reste prudent : l'étude évaluée par les pairs de Brynjolfsson, Li & Raymond (The Quarterly Journal of Economics 2025) mesure dans le service client assisté par IA en moyenne 15 % de demandes résolues en plus par heure, et environ 30 % pour les employés moins expérimentés et moins qualifiés. C'est le plancher réaliste, pas le plafond « 10× » des présentations des fournisseurs. Un agent de fact-checking ne joue pas d'abord sur la vitesse, mais sur le préjudice évité : une fausse affirmation non publiée, une confiance préservée. En tant que risque de sécurité, l'OWASP classe les hallucinations sous LLM09 Misinformation ; pour en savoir plus, lis l'article OWASP LLM Top 10 (2025) expliqué.

Pour les agences et les équipes B2B

Quiconque automatise ses contenus a besoin d'une étape de vérification intégrée en dur dans le pipeline, et non d'un échantillonnage a posteriori. Pour les agences, l'agent de fact-checking est un argument concret de qualité et de responsabilité vis-à-vis des clients : listes d'affirmations traçables, sources documentées et procédure d'escalade claire pour les affirmations non étayées. Pour les équipes B2B, mieux vaut commencer là où le préjudice potentiel est le plus élevé : d'abord les affirmations portant sur des chiffres, des citations et la conformité, avec une validation humaine obligatoire pour tout ce qui engage juridiquement. Blck Alpaca conçoit ce type de workflows de vérification pour les pipelines de contenu d'entreprises en Europe : de la gouvernance des sources à l'intégration dans le processus éditorial existant, en passant par l'architecture des agents, sans diluer la responsabilité humaine de validation.