Multi-Agent Debate: Konsensbildung durch Diskussion

Multi-Agent Debate ist ein Architekturmuster, bei dem mehrere LLM-Agenten unabhängig Lösungen vorschlagen, die Vorschläge der anderen kritisieren und über mehrere Runden zu einer gemeinsamen, qualitativ besseren Antwort konvergieren. Ein Moderator- oder Kritik-Agent steuert die Diskussion und entscheidet final. Das Muster erhöht Reasoning-Qualität und Faktentreue, zum Preis deutlich höherer Kosten und Latenz. Es ist damit ein Werkzeug für hochwertige, fehlersensible Aufgaben, nicht für Routinevolumen.

• Was es leistet: Mehrere Agenten widersprechen sich produktiv, decken Fehler und blinde Flecken auf und revidieren ihre Antworten, statt einen Erstentwurf zu zementieren.
• Was es kostet: Grob geschätzt 3-6x mehr Tokens als ein Einzel-Agent, bei größeren Setups mehr, plus hohe Latenz, weil Runden sequenziell ablaufen.
• Wann es sich lohnt: Bei anspruchsvollem Reasoning und hoher Faktentreue-Anforderung (Recht, Wissenschaft, Regulatorik, Claim-Prüfung); nicht bei Routine-Hochvolumen.

Einordnung: Debate als Evaluator-Optimizer-Muster

In der Anthropic-Taxonomie aus Building Effective Agents (Dezember 2024, Schluntz & Zhang) kommt Multi-Agent Debate nicht vor. Das Muster lässt sich aber dem Workflow-Muster Evaluator-Optimizer zuordnen, oft auch Critic-Generator genannt. Die Grundform ist simpel: Ein Generator-Agent schlägt eine Lösung vor, ein Kritiker- oder Judge-Agent bewertet sie und fordert eine Revision. In der erweiterten Form, die Anthropic nicht beschreibt, debattieren mehrere gleichrangige Agenten adversarisch, und ein Moderator entscheidet am Ende.

Der entscheidende Mechanismus ist die explizite, iterative Kritik. Anders als bei einem einzelnen Agenten, der seine erste plausible Antwort liefert, wird hier jede Antwort einem Gegenüber ausgesetzt, das aktiv nach Schwächen sucht. Die zugrunde liegende Multi-Agent-Debate-Forschung von MIT und Google Brain (Du et al., 2023, ICML 2024) unterfüttert diesen Ansatz: Eine strukturierte Auseinandersetzung kann Reasoning-Fehler und Halluzinationen reduzieren, weil das, was ein Agent übersieht, ein anderer abfängt.

Wichtig für die Einordnung im DACH-B2B-Kontext: Evaluator-Optimizer ist eines von sieben Mustern in dieser Taxonomie, Multi-Agent Debate lässt sich als dessen erweiterte Form lesen. Die meisten produktiven „Agenten" sind 2026 nach wie vor entweder ein einzelner LLM mit Tools (Augmented LLM) oder ein einzelner Agent in einer Tool-Schleife (Autonomous Agent). Debate ist eine bewusste Eskalation, kein Default.

Wie eine Debatte abläuft

Ein typischer Multi-Agent-Debate-Lauf folgt diesem Schema:

1. Vorschlagsrunde: Zwei oder mehr Agenten beantworten dieselbe Frage unabhängig, idealerweise mit unterschiedlichen Prompts oder Modellen, um Vielfalt zu erzeugen.
2. Kritikrunde: Jeder Agent erhält die Vorschläge der anderen und benennt konkret Schwächen, Faktenfehler oder logische Lücken.
3. Revisionsrunde: Jeder Agent überarbeitet seine Antwort im Licht der Kritik. Dies kann über mehrere Iterationen laufen.
4. Konsens/Entscheidung: Die Agenten konvergieren auf eine gemeinsame Antwort, oder ein Moderator-/Judge-Agent wählt bzw. synthetisiert die finale Lösung.

Der Wert entsteht in den Runden zwei und drei. Eine Debatte, in der niemand wirklich widerspricht, ist nur teures Self-Consistency.

Verhältnis zu Self-Consistency, Ensembling und Mixture-of-Agents

Multi-Agent Debate wird oft mit verwandten Verfahren verwechselt. Die Unterschiede sind architektonisch bedeutsam und kostenrelevant.

Self-Consistency erzeugt mehrere unabhängige Antwortpfade desselben Modells und nimmt die häufigste Antwort per Mehrheit. Die Läufe wissen nichts voneinander, es gibt keine Diskussion, nur Aggregation durch Abstimmung.

Mixture-of-Agents (MoA) ist ein paralleles Ensemble über mehrere LLMs mit einem Aggregator, der die Antworten synthetisiert. Die Referenzarbeit von Together AI (Wang et al., arXiv:2406.04692, ICLR 2025 Spotlight) zeigt, dass eine geschichtete MoA-Konfiguration aus Open-Source-Modellen GPT-4 Omni auf AlpacaEval 2.0 übertraf (65,1 % vs. 57,5 %). MoA aggregiert jedoch nur, die Modelle kritisieren einander nicht iterativ.

Multi-Agent Debate geht über beide hinaus: Die Agenten sehen die Vorschläge der anderen, kritisieren sie explizit und revidieren über mehrere Runden. Es ist diskursiv und iterativ, nicht nur abstimmend oder aggregierend.

Die Kostenfaktoren für MoA (4-8×) und Debate (3-6×) sind grobe Schätzungen für kleine Setups (Stand 2026) und steigen mit der Zahl der Modelle, Agenten und Runden; der ~N×-Faktor für Self-Consistency ergibt sich unmittelbar aus der Zahl der gesampelten Pfade. Für eine Entscheidung gilt: Self-Consistency ist die günstigste Qualitätsverbesserung, MoA bringt Modellvielfalt, und Debate ist das einzige Verfahren mit echter wechselseitiger Korrektur, dafür auch das mit der höchsten Latenz, weil die Runden aufeinander aufbauen müssen.

Wann Debate die Qualität wirklich erhöht

Multi-Agent Debate ist ein quality-bound, kein latency-bound Muster. Geeignete Einsatzfelder sind vor allem:

• Hochsensible Reasoning-Aufgaben, bei denen Qualität wichtiger ist als Kosten
• Juristische Memo-Erstellung
• Wissenschaftliches Schreiben und regulatorische Eingaben
• Prüfung von Marketing-Claims auf Korrektheit und Compliance

Der gemeinsame Nenner: Eine falsche Antwort ist teuer, und die Aufgabe profitiert davon, dass ein zweiter Standpunkt den ersten herausfordert. Faktentreue verbessert sich, weil ein Kritiker-Agent unbelegte Behauptungen markieren kann, bevor sie in die Endantwort wandern.

Wann man darauf verzichten sollte: Bei routinemäßigen Hochvolumen-Workflows. Wenn pro Anfrage drei bis sechs Mal so viele Tokens anfallen und die Antwortzeit sich vervielfacht, ist das für Standard-Support, einfache Klassifikation oder Massengenerierung nicht vertretbar.

Fehlermodi und ihre Gegenmittel

Drei Risiken sind für die Praxis entscheidend:

• Mode Collapse: Der Kritiker stimmt reflexhaft zu, statt echte Schwächen zu benennen. Die Debatte degeneriert zu teurem Echo.
• Echo-Chamber: Die Agenten verstärken eine falsche Prämisse, etwa aus einem fehlerhaften Lead-Prompt, gegenseitig. Gegenmittel: Sub-Agenten mit unterschiedlichen Modellen oder Prompts diversifizieren (MoA-Stil) und eine explizite Kritiker-Rolle einziehen.
• Reward Hacking / Kostenexplosion: Wenn der Kritiker zugleich Trainingsquelle ist, kann er sich selbst belohnen; und ohne Rundenlimit eskalieren die Tokenkosten.

Begleitend gilt der allgemeine Multi-Agent-Fehlermodus Cascading-Failures: Halluziniert ein Agent einen Fakt, kann der Moderator ihn in die finale Antwort übernehmen. Ein wirksames Gegenmittel ist ein dedizierter Verifier-/Judge-Agent mit gegroundetem Retrieval und Pflicht-Zitationen.

Beispiel-Setup: Claim-Prüfung mit drei Agenten

Ein konkretes, realistisches Setup für eine Agentur, die einen Marketing-Claim auf faktische Haltbarkeit prüfen will:

```
Frage: "Ist der Claim 'führende Lösung im DACH-Raum' belegbar?"

Runde 1: Vorschlag:
Agent A (Modell 1, Prompt "optimistisch"): Entwurf-Bewertung A
Agent B (Modell 2, Prompt "skeptisch"): Entwurf-Bewertung B

Runde 2: Kritik:
Agent A kritisiert B (fehlende Quellen?)
Agent B kritisiert A (unbelegte Superlative?)

Runde 3: Revision:
Agent A und Agent B überarbeiten auf Basis der Kritik

Abschluss: Verifier/Moderator (Modell 3):

• prüft jede Behauptung gegen Retrieval (Pflicht-Zitation)
• synthetisiert finale, belegte Einschätzung
  ```

Rechenbeispiel zur Größenordnung: Verbraucht ein Einzel-Agent für diese Aufgabe rund 4.000 Tokens, kostet schon die Minimalform (ein Generator, ein Kritiker, eine Revision) grob das 3-6-fache. Das gezeigte Setup braucht mindestens sieben LLM-Aufrufe, und ab Runde 2 verarbeitet jeder Agent zusätzlich die Texte der Gegenseite. Es landet damit eher beim 7- bis 10-fachen, also bei grob 28.000 bis 40.000 Tokens (eigene Schätzung, Stand 2026). Bei einem einzelnen, hochwertigen Claim ist das vertretbar, bei 10.000 Claims pro Tag nicht. Genau diese Schwelle, „lohnt sich der Mehraufwand pro Vorgang?", ist die eigentliche Architekturentscheidung.

Umsetzbar ist das Muster ohne Eigenbau: LangGraph bildet Evaluator-Optimizer-Schleifen als zustandsbehafteten Graphen ab, AutoGen unterstützt Group Chat mit Turn-Taking, und beide stehen unter MIT-Lizenz. AutoGen ist allerdings im Wartungsmodus und bekommt keine neuen Funktionen mehr. Als Nachfolger nennt Microsoft das Microsoft Agent Framework.

Für Agenturen und B2B

Für Marketing-Agenturen und DACH-B2B-Entscheider ist die Botschaft pragmatisch: Multi-Agent Debate ist ein gezieltes Instrument für hochwertige, fehlersensible Outputs, kein Standard-Hebel für jeden Workflow. Typische Fälle sind Claim- und Compliance-Prüfung, fundierte Fachtexte und regulatorische Entwürfe. Wer es einsetzt, sollte den Tokenaufwand, je nach Setup das 3- bis 10-fache eines Einzel-Agenten, und die höhere Latenz bewusst gegen das Fehlerrisiko abwägen und immer mit diversen Modellen plus Verifier arbeiten, um Echo-Chamber und Mode Collapse zu vermeiden. Blck Alpaca konzipiert solche Agenten-Topologien so, dass die Diskussionstiefe nur dort anfällt, wo sie sich rechnet, mit klaren Kostengrenzen pro Vorgang und nachvollziehbaren Quellen für jede Aussage. Wie wir solche Systeme umsetzen, beschreibt die Seite KI-Agent-Integration.