AI Agent vs. Chatbot: Wo der Unterschied liegt

Ein Chatbot reagiert auf eine Nutzer-Nachricht mit einer Text-Antwort und endet dort. Ein AI Agent verfolgt ein vorgegebenes Ziel autonom: Er plant mehrstufig, wählt und nutzt eigenständig externe Tools (APIs, Datenquellen, Code), beobachtet die Ergebnisse und passt seinen Plan iterativ an, bis das Ziel erreicht oder abgebrochen ist. Der Unterschied ist strukturell, nicht graduell – ein Agent handelt, ein Chatbot antwortet.

Die drei wichtigsten Antworten vorweg:

• Was sie tun: Chatbot = Text-Antwort auf eine Nachricht. Agent = Handlung über mehrere Schritte zur Zielerreichung.
• Wer den Pfad steuert: Beim Chatbot ist die Logik vorgegeben (Intent-Matching oder einfaches LLM). Beim Agenten entscheidet das LLM dynamisch, welcher Schritt und welches Tool als Nächstes kommt.
• Was sie können: Chatbots haben in der Regel keinen Tool-Zugriff und nur Session-Gedächtnis. Agenten kombinieren Tools, Memory (Kurz- und Langzeit/RAG) und einen Planner.

Ein konkretes Beispiel

Die Anfrage lautet: „Storniere meine letzte Bestellung und erstatte den Betrag."

Ein Chatbot erkennt die Absicht (Intent „Stornierung") und antwortet mit Text: „Um Ihre Bestellung zu stornieren, gehen Sie bitte in Ihr Kundenkonto unter ‚Meine Bestellungen'." Er informiert – handeln muss der Nutzer selbst.

Ein AI Agent zerlegt das Ziel: Er ruft über eine API die letzte Bestellung ab (Tool 1), prüft die Stornierbarkeit anhand der Lieferdaten (Reasoning), löst die Stornierung im Bestellsystem aus (Tool 2), stößt im Payment-System die Rückerstattung an (Tool 3) und bestätigt das Ergebnis. Scheitert ein Schritt, plant er um – etwa eine Eskalation an einen Menschen, wenn die Erstattung über einem Schwellenwert liegt (Guardrail / Human-in-the-Loop).

Die Vier-Eigenschaften-Checkliste

Ob etwas ein echter Agent ist, lässt sich anhand von vier Pflicht-Eigenschaften prüfen. Alle vier müssen erfüllt sein – sonst handelt es sich um einen Chatbot, einen Workflow oder einen Assistant:

1. LLM-gestützte Steuerung – das (Large) Language Model trifft die Kontrollentscheidungen, kein deterministischer Code.
2. Mehrschrittige Planung – der klassische Reasoning-Loop: Perceive → Reason → Act → Observe, oft iterativ.
3. Tool-Use – eigenständiges Aufrufen externer Funktionen, APIs, Datenbanken oder MCP-Server.
4. Zielorientierte Autonomie – innerhalb definierter Guardrails arbeitet das System selbstständig auf ein Ziel hin.

Anthropic bringt die Architektur-Unterscheidung auf den Punkt: Bei Agenten steuert das LLM Pfad und Tool-Use dynamisch, bei Workflows laufen LLMs durch vordefinierte Code-Pfade. OpenAI definiert Agenten als „systems that independently accomplish tasks on behalf of users". Ein Chatbot erfüllt typischerweise keine dieser Bedingungen vollständig.

Die Vergleichsmatrix: Agent vs. Chatbot vs. RPA vs. Workflow vs. Assistant

Die Matrix macht den Kern sichtbar: Je weiter rechts und oben die Autonomie steigt, desto höher werden Wartungs- und Compliance-Aufwand. Ein Chatbot ist günstig und stabil, weil er wenig kann; ein Agent ist mächtig, aber teuer in Betrieb und Governance.

„Agent washing" – warum die Abgrenzung entscheidungsrelevant ist

Der Markt ist voll von Lösungen, die als „Agent" verkauft werden, aber bei genauer Prüfung regelbasierte Chatbots, RPA-Skripte oder einstufige LLM-Assistants sind. Dieses „Agent washing" ist eines der häufigsten Pitfalls bei der Beschaffung. Die Folge: Sie zahlen Agenten-Preise und tragen ggf. Agenten-Compliance-Aufwand für eine Funktionalität, die ein einfacher Workflow ebenso erbracht hätte.

Auch der umgekehrte Fehler ist teuer: Wird ein Agent für simples Retrieval oder einen vorab planbaren Prozess eingesetzt, zahlt man unnötig mit Token-Kosten, Wartung und Compliance. Gartner prognostiziert (Juni 2025), dass über 40 % der agentischen KI-Projekte bis Ende 2027 abgebrochen werden – oft, weil der Use Case keinen echten Agenten gebraucht hätte. Gleichzeitig zeigt die McKinsey State of AI 2025, dass erst 23 % der Unternehmen mindestens einen agentischen Use Case skalieren, während 39 % experimentieren – die Lücke zwischen Hype und Produktivbetrieb ist real.

Die Faustregel: Ein Agent lohnt sich erst, wenn der Lösungsweg nicht vorab planbar ist und eine dynamische LLM-Entscheidung über Reihenfolge und Tool-Wahl tatsächlich gebraucht wird. Ist der Pfad bekannt, sind Workflow-Automation oder ein Copilot günstiger, stabiler und compliance-ärmer.

Wann was sinnvoll ist

• Chatbot: FAQ, einfache Auskünfte, Lead-Qualifizierung über Dialog – feste Intents, kein Handlungsbedarf im Hintergrund.
• Workflow / RPA: klar definierter, wiederholbarer Pfad mit bekannten Schritten (z. B. nächtlicher Datenabgleich).
• Assistant / Copilot: Mensch im Lead, KI unterstützt punktuell (Entwürfe, Zusammenfassungen) – ohne Autonomie für irreversible Aktionen.
• AI Agent: offene, mehrstufige Aufgaben mit unsicherem Lösungsweg, in denen das LLM dynamisch planen und Tools orchestrieren muss – mit Guardrails und Human-in-the-Loop für kritische Schritte.

Hinweis: Compliance-Angaben sind informational und keine Rechtsberatung.