Multi-Agent Debate : parvenir au consensus par la discussion

Le Multi-Agent Debate est un pattern d'architecture dans lequel plusieurs agents LLM proposent indépendamment des solutions, critiquent les propositions des autres et convergent, au fil de plusieurs tours, vers une réponse commune de meilleure qualité. Un agent modérateur ou critique pilote la discussion et tranche en dernier ressort. Ce pattern améliore la qualité du raisonnement et l'exactitude factuelle, au prix de coûts et d'une latence nettement plus élevés. C'est donc un outil pour des tâches à forte valeur et sensibles aux erreurs, pas pour les volumes de routine.

• Ce qu'il apporte : plusieurs agents se contredisent de manière productive, mettent au jour erreurs et angles morts et révisent leurs réponses au lieu de figer un premier jet.
• Ce qu'il coûte : selon une estimation approximative, 3-6x plus de tokens qu'un agent unique, davantage pour des configurations plus importantes, plus une latence élevée, car les tours se déroulent de manière séquentielle.
• Quand il est rentable : pour le raisonnement exigeant et lorsque l'exactitude factuelle est primordiale (droit, sciences, réglementation, vérification d'allégations) ; pas pour les tâches de routine à fort volume.

Positionnement : le Debate comme pattern Evaluator-Optimizer

La taxonomie d'Anthropic issue de Building Effective Agents (décembre 2024, Schluntz & Zhang) ne mentionne pas le Multi-Agent Debate. On peut toutefois le rattacher au pattern de workflow Evaluator-Optimizer, souvent appelé aussi Critic-Generator. La forme de base est simple : un agent générateur propose une solution, un agent critique ou juge l'évalue et exige une révision. Dans la forme étendue, qu'Anthropic ne décrit pas, plusieurs agents de même rang débattent de manière contradictoire, et un modérateur tranche à la fin.

Le mécanisme décisif est la critique explicite et itérative. Contrairement à un agent unique qui livre sa première réponse plausible, chaque réponse est ici confrontée à un interlocuteur qui en cherche activement les faiblesses. Les travaux de recherche du MIT et de Google Brain sur le Multi-Agent Debate (Du et al., 2023, ICML 2024), sur lesquels repose cette approche, l'étayent : une confrontation structurée peut réduire les erreurs de raisonnement et les hallucinations, car ce qu'un agent laisse passer, un autre l'intercepte.

Point important pour le positionnement dans le contexte B2B européen : l'Evaluator-Optimizer est l'un des sept patterns de cette taxonomie, et le Multi-Agent Debate peut se lire comme sa forme étendue. En 2026, la plupart des « agents » en production restent soit un LLM unique doté d'outils (Augmented LLM), soit un agent unique dans une boucle d'outils (Autonomous Agent). Le Debate est une escalade délibérée, pas un choix par défaut.

Comment se déroule un débat

Une exécution type de Multi-Agent Debate suit ce schéma :

1. Tour de propositions : deux agents ou plus répondent indépendamment à la même question, idéalement avec des prompts ou des modèles différents pour créer de la diversité.
2. Tour de critique : chaque agent reçoit les propositions des autres et en désigne concrètement les faiblesses, les erreurs factuelles ou les lacunes logiques.
3. Tour de révision : chaque agent retravaille sa réponse à la lumière de la critique. Cela peut se répéter sur plusieurs itérations.
4. Consensus/décision : les agents convergent vers une réponse commune, ou un agent modérateur/juge choisit ou synthétise la solution finale.

La valeur naît aux deuxième et troisième tours. Un débat où personne ne contredit vraiment n'est qu'une Self-Consistency coûteuse.

Rapport avec la Self-Consistency, l'ensembling et le Mixture-of-Agents

Le Multi-Agent Debate est souvent confondu avec des méthodes apparentées. Les différences pèsent sur l'architecture comme sur les coûts.

La Self-Consistency génère plusieurs chemins de réponse indépendants à partir du même modèle et retient à la majorité la réponse la plus fréquente. Les exécutions ne savent rien les unes des autres : il n'y a pas de discussion, seulement une agrégation par vote.

Le Mixture-of-Agents (MoA) est un ensemble parallèle de plusieurs LLM doté d'un agrégateur qui synthétise les réponses. Le travail de référence de Together AI (Wang et al., arXiv:2406.04692, ICLR 2025 Spotlight) montre qu'une configuration MoA en couches composée de modèles open source a dépassé GPT-4 Omni sur AlpacaEval 2.0 (65,1 % contre 57,5 %). Le MoA ne fait toutefois qu'agréger : les modèles ne se critiquent pas mutuellement de manière itérative.

Le Multi-Agent Debate va au-delà des deux : les agents voient les propositions des autres, les critiquent explicitement et les révisent sur plusieurs tours. Il est discursif et itératif, et ne se limite pas au vote ou à l'agrégation.

Les facteurs de coût du MoA (4-8×) et du Debate (3-6×) sont des estimations approximatives pour de petites configurations (situation en 2026) et augmentent avec le nombre de modèles, d'agents et de tours ; le facteur ~N× de la Self-Consistency découle directement du nombre de chemins échantillonnés. Pour décider : la Self-Consistency est l'amélioration de qualité la moins chère, le MoA apporte la diversité des modèles, et le Debate est la seule méthode offrant une véritable correction mutuelle, mais aussi celle dont la latence est la plus élevée, car chaque tour doit s'appuyer sur le précédent.

Quand le Debate améliore vraiment la qualité

Le Multi-Agent Debate est un pattern quality-bound, pas latency-bound. Ses champs d'application adaptés sont avant tout :

• Les tâches de raisonnement très sensibles, où la qualité compte plus que le coût
• La rédaction de notes juridiques
• La rédaction scientifique et les dossiers réglementaires
• La vérification d'allégations marketing sous l'angle de l'exactitude et de la conformité

Le dénominateur commun : une mauvaise réponse coûte cher, et la tâche gagne à ce qu'un second point de vue remette en question le premier. L'exactitude factuelle s'améliore, car un agent critique peut signaler les affirmations non étayées avant qu'elles n'atterrissent dans la réponse finale.

Quand s'en passer : pour les workflows de routine à fort volume. Si chaque requête consomme trois à six fois plus de tokens et que le temps de réponse se multiplie, ce n'est pas défendable pour du support standard, de la classification simple ou de la génération de masse.

Modes de défaillance et parades

Trois risques sont déterminants en pratique :

• Mode Collapse : le critique approuve par réflexe au lieu de nommer de vraies faiblesses. Le débat dégénère en écho coûteux.
• Chambre d'écho : les agents se renforcent mutuellement dans une prémisse fausse, issue par exemple d'un prompt principal défectueux. Parade : diversifier les sous-agents avec des modèles ou des prompts différents (à la manière du MoA) et instaurer un rôle de critique explicite.
• Reward hacking / explosion des coûts : si le critique sert en même temps de source d'entraînement, il peut s'auto-récompenser ; et sans limite de tours, les coûts en tokens s'envolent.

S'y ajoute un mode de défaillance général des systèmes multi-agents, les défaillances en cascade : si un agent hallucine un fait, le modérateur peut le reprendre dans la réponse finale. Une parade efficace consiste à prévoir un agent vérificateur/juge dédié, doté d'un retrieval ancré dans les sources et de citations obligatoires.

Exemple de configuration : vérification d'allégations avec trois agents

Une configuration concrète et réaliste pour une agence qui veut vérifier si une allégation marketing tient la route sur le plan factuel :

```
Question : "L'allégation 'solution leader en Europe' est-elle prouvable ?"

Tour 1 : proposition :
Agent A (modèle 1, prompt "optimiste") : évaluation provisoire A
Agent B (modèle 2, prompt "sceptique") : évaluation provisoire B

Tour 2 : critique :
L'agent A critique B (sources manquantes ?)
L'agent B critique A (superlatifs non étayés ?)

Tour 3 : révision :
Les agents A et B retravaillent leur réponse sur la base de la critique

Conclusion : vérificateur/modérateur (modèle 3) :

• vérifie chaque affirmation par retrieval (citation obligatoire)
• synthétise une évaluation finale étayée
  ```

Calcul d'ordre de grandeur : si un agent unique consomme environ 4 000 tokens pour cette tâche, la forme minimale (un générateur, un critique, une révision) coûte déjà en gros 3 à 6 fois plus. La configuration présentée nécessite au moins sept appels au LLM et, à partir du tour 2, chaque agent traite en plus les textes de la partie adverse. On arrive donc plutôt à 7 à 10 fois plus, soit environ 28 000 à 40 000 tokens (notre estimation, situation en 2026). Pour une seule allégation à forte valeur, c'est défendable ; pour 10 000 allégations par jour, non. C'est précisément ce seuil, « le surcoût par opération en vaut-il la peine ? », qui constitue la véritable décision d'architecture.

Le pattern peut être mis en œuvre sans développement maison : LangGraph modélise les boucles Evaluator-Optimizer sous forme de graphe à états, AutoGen prend en charge le Group Chat avec prise de parole à tour de rôle, et tous deux sont sous licence MIT. AutoGen est toutefois en mode maintenance et ne reçoit plus de nouvelles fonctionnalités. Microsoft désigne le Microsoft Agent Framework comme son successeur.

Pour les agences et le B2B

Pour les agences marketing et les décideurs B2B en Europe, le message est pragmatique : le Multi-Agent Debate est un instrument ciblé pour des livrables à forte valeur et sensibles aux erreurs, pas un levier standard pour tous les workflows. Les cas typiques sont la vérification des allégations et de la conformité, les textes spécialisés solides et les projets de documents réglementaires. Qui l'utilise doit mettre en balance, en connaissance de cause, la consommation de tokens (3 à 10 fois celle d'un agent unique selon la configuration) et la latence plus élevée face au risque d'erreur, et toujours travailler avec des modèles variés et un vérificateur pour éviter la chambre d'écho et le Mode Collapse. Blck Alpaca conçoit ces topologies d'agents de sorte que la profondeur de discussion n'intervienne que là où elle est rentable, avec des plafonds de coûts clairs par opération et des sources traçables pour chaque affirmation. La page Intégration d'agents IA décrit comment nous mettons en œuvre ces systèmes.