Was sind AI Agents?

Definition: Was ist ein AI Agent?

Ein KI-Agent (AI Agent) ist ein softwarebasiertes System auf Basis eines (Large) Language Models, das ein vorgegebenes Ziel autonom verfolgt: Es nimmt seine Umgebung wahr, plant mehrstufig, wählt und nutzt externe Werkzeuge (Tools, APIs, Datenquellen) eigenständig, beobachtet die Ergebnisse und passt seinen Plan iterativ an — bis das Ziel erreicht oder abgebrochen ist.

Diese Definition deckt sich mit den kanonischen Beschreibungen der führenden Anbieter. Anthropic trennt architektonisch zwischen Agenten (das LLM steuert Pfad und Tool-Use dynamisch) und Workflows (vordefinierte Code-Pfade). OpenAI beschreibt Agenten als „systems that independently accomplish tasks on behalf of users". IBM betont das autonome Erledigen von Aufgaben durch den Entwurf von Workflows mit Tools, Microsoft ergänzt den Aspekt der „context awareness".

Die vier Pflicht-Eigenschaften

Ein System ist nur dann ein echter Agent, wenn es alle vier der folgenden Eigenschaften erfüllt. Fehlt eine, handelt es sich um einen Chatbot, einen Workflow oder einen Assistant:

1. LLM-gestützte Steuerung — Das Language Model trifft die Steuerungsentscheidungen, nicht deterministischer Code als primäre Kontrollinstanz.
2. Mehrschrittige Planung — Der Ablauf folgt dem Muster Perceive → Reason → Act → Observe, oft über mehrere Iterationen.
3. Tool-Use — Der Agent nutzt eigenständig externe Funktionen, APIs oder Datenbanken.
4. Zielorientierte Autonomie — Der Agent verfolgt ein Ziel selbstständig, aber innerhalb definierter Guardrails.

Genau dieser Punkt sorgt in der Praxis für „Agent washing": Viele als „Agent" vermarktete Produkte sind in Wahrheit Chatbots mit einem einzelnen Tool-Call oder klassische RPA-Skripte.

Abgrenzung: Agent vs. Chatbot vs. RPA vs. Workflow vs. Assistant

Die folgende Matrix zeigt, worin sich ein Agent von verwandten Konzepten unterscheidet. Die Spalten beschreiben jeweils das typische Verhalten — Übergänge sind in der Praxis fließend.

Die wichtigste Trennlinie: Ein Workflow oder RPA-Bot folgt einem vordefinierten Pfad, während ein Agent die Reihenfolge der Schritte und die Tool-Wahl dynamisch entscheidet. Ein Chatbot reagiert primär mit Text; ein Agent handelt mehrstufig und autonom.

Die 5 Komponenten eines AI Agents

Technisch betrachtet besteht ein Agent aus fünf Kernkomponenten, die zusammenspielen:

1. LLM-Core — die Reasoning-Engine. Sie wählt den nächsten Schritt und steuert das Function-Calling. Hier wird entschieden, ob überhaupt ein Tool genutzt wird und welches.
2. Memory — das Gedächtnis. Das Kurzzeitgedächtnis ist der Konversations-Context des aktuellen Laufs; das Langzeitgedächtnis wird über Vektordatenbanken, RAG (Retrieval-Augmented Generation) oder Dateien realisiert.
3. Tools — die Hände des Agenten. Dazu zählen Function-Calls, APIs, MCP-Server, Browser oder Code-Sandboxes.
4. Planner — zerlegt das Ziel in Teilschritte. Die Planung kann implizit im LLM ablaufen oder explizit als Graph modelliert sein.
5. Executor — führt die Tool-Calls aus, managt die einzelnen Turns sowie Loop-Limits und setzt die Guardrails durch.

Der Reasoning-Loop: Perceive → Reason → Act → Observe

Das Herzstück jedes Agenten ist ein iterativer Schleifenmechanismus. Konzeptionell geht er auf das ReAct-Muster (Yao et al. 2022) zurück, das Reasoning und Acting verbindet:

1. Perceive — Der Agent nimmt Input und Ziel, den aktuellen Context und sein Memory wahr.
2. Reason — Das LLM plant: Welches Tool oder welcher Schritt ist als Nächstes sinnvoll?
3. Act — Der Agent führt die Aktion aus (Tool-Call, API-Aufruf, Code-Ausführung).
4. Observe — Der Agent liest das Ergebnis aus und schreibt es ins Memory.

Danach prüft der Agent: Ist das Ziel erreicht? Wenn nicht, beginnt der Loop erneut bei Perceive. Genau diese dynamische Wiederholung — und nicht ein fest verdrahteter Ablauf — macht den Unterschied zu klassischer Automatisierung aus. Sicherheitsmechanismen wie Loop-Limits, Token-Budgets und Human-in-the-Loop-Punkte verhindern dabei endloses Schleifen oder irreversible Fehlhandlungen.

Reifegrade: L1 bis L5

Nicht jedes System, das LLMs nutzt, ist gleich autonom. Ein nützliches Reifegradmodell unterscheidet fünf Stufen:

• L1 — Reflex-Agent: Regelbasiert, ohne echtes Reasoning (z. B. ein FAQ-Bot).
• L2 — Augmented LLM: Ein LLM mit einem einzelnen Tool-Call, rein reaktiv.
• L3 — Workflow-Agent: Das LLM agiert innerhalb einer deterministischen Pipeline (Prompt-Chaining, Routing). Der Pfad ist weitgehend vorgegeben.
• L4 — Autonomer Agent: Das LLM steuert Reihenfolge und Tool-Wahl dynamisch und durchläuft den vollen Loop (z. B. Coding-Agenten wie Claude Code oder Deep-Research-Systeme).
• L5 — Multi-Agent-System: Mehrere autonome Agenten koordinieren sich, etwa über A2A-Protokolle (Agent-to-Agent), mit einem Orchestrator und Spezialisten-Agenten.

Für die meisten produktiven B2B-Anwendungen liegt der „Sweet Spot" heute zwischen L3 und L4. L5-Systeme sind mächtig, aber anfällig für Compounding Errors — kleine Fehler einzelner Agenten, die sich über die Kette aufschaukeln.

Framework-Überblick

Für den Bau von Agenten hat sich ein vielfältiges, herstellerneutrales Ökosystem etabliert. Die folgende Auswahl deckt die gängigsten Optionen ab:

• LangGraph — Graph- bzw. State-Machine-Ansatz, geeignet für komplexe, kontrollierte Workflows.
• CrewAI — auf Multi-Agent-Systeme mit definierten Rollen ausgerichtet.
• OpenAI Agents SDK — minimalistisch, mit Tools, Handoffs, Guardrails und Tracing.
• Anthropic Claude Agent SDK — Toolkit zum Bau von Agenten auf Basis der Claude-Modelle.
• Microsoft Agent Framework — vereint AutoGen und Semantic Kernel, mit nativer MCP- und A2A-Unterstützung.
• n8n — Low-Code-Plattform, besonders im DACH-KMU-Umfeld verbreitet.
• Pydantic AI — Fokus auf Typensicherheit für robuste, gut testbare Agenten.

Wichtig: Die Framework-Wahl sollte nach der Use-Case-Klärung erfolgen — nicht davor.

AI Agents im DACH-Kontext: Compliance und Souveränität

Wer Agenten im DACH-Raum produktiv einsetzt, sollte mehrere Regelwerke früh einplanen:

• EU AI Act, Art. 50 (Transparenz): Die Offenlegungspflicht gegenüber Nutzern (z. B. dass sie mit einem KI-System interagieren) gilt unverändert ab dem 02.08.2026.
• High-Risk (Annex III): Laut der Digital-Omnibus-Einigung vom 07.05.2026 könnten die Pflichten ggf. erst ab dem 02.12.2027 greifen — bis zur formalen Annahme gilt rechtlich jedoch weiterhin der 02.08.2026.
• EU AI Act, Art. 4 (KI-Kompetenz): Die Schulungspflicht für Personal gilt bereits seit dem 02.02.2025.
• DSGVO, Art. 22: Bei automatisierten Einzelentscheidungen muss ein menschlicher Override möglich sein.
• DSGVO, Art. 28: Mit LLM-Anbietern ist eine Auftragsverarbeitungsvereinbarung (AVV) erforderlich.
• DSGVO, Art. 35: Bei neuer Technologie oder systematischer Verarbeitung ist in der Regel eine Datenschutz-Folgenabschätzung (DSFA) nötig — bei der Agenten-Einführung ist sie meist erforderlich.
• Mitbestimmung: In Deutschland greift BetrVG §87 Abs. 1 Nr. 6, in Österreich ArbVG §96. Der Betriebsrat ist also früh einzubinden.

Für Organisationen mit hohen Anforderungen an digitale Souveränität existieren EU-basierte Optionen, etwa Aleph Alpha Pharia (auf STACKIT), Mistral, IONOS oder OVHcloud.

Typische Fehler (Pitfalls)

In der Praxis scheitern Agenten-Projekte selten an der Technik allein. Die häufigsten Fallstricke:

• Agent washing: Ein Chatbot oder RPA-Bot wird als „Agent" verkauft.
• Framework-Wahl vor Use-Case-Klarheit: Führt ins „Pilot Purgatory" — rund zwei Drittel der Piloten erreichen keine Skalierung.
• Unterschätzte Datenaufbereitung und eine übersprungene DSFA.
• Ignorierte Mitbestimmung (BetrVG / ArbVG).
• Token-Kosten-Explosion durch unkontrollierte Reasoning- und Tool-Loops.
• Agenten als deterministisch behandeln, obwohl sie probabilistisch arbeiten.
• Fehlende Observability und kein Audit-Trail.
• Vendor-Lock-in sowie der Einsatz eines „Agenten" für simples Retrieval, wo ein Workflow oder Assistant besser passt.
• Kein Human-in-the-Loop bei irreversiblen Aktionen und Compounding Errors in Multi-Agent-Systemen.

Dass diese Risiken real sind, zeigen die Marktdaten: Laut Gartner (Juni 2025) werden über 40 % der agentischen KI-Projekte bis Ende 2027 abgebrochen. Gleichzeitig melden laut Bitkom (2026) 33 % der Unternehmen höhere Kosten als erwartet.

Wann lohnt sich ein Agent?

Die zentrale Entscheidungsregel lautet: Ein Agent lohnt sich erst, wenn der Lösungspfad nicht vorab planbar ist und eine LLM-Entscheidung gebraucht wird. Lässt sich der Ablauf vollständig vorab modellieren, sind eine Workflow-Automation oder ein Copilot günstiger, schneller und robuster.

Ein pragmatischer Einstieg sieht so aus:

• 1 bis 3 Use Cases mit klarem, messbarem ROI auswählen.
• Mit einem Low-Risk- bzw. Read-only-Piloten starten.
• Human-in-the-Loop für alle irreversiblen Aktionen vorsehen.
• DSFA und Betriebsrat ab Tag 1 mitdenken.
• Auf einen vendor-agnostischen Stack setzen, um Lock-in zu vermeiden.

Der Reifegrad des Marktes unterstreicht diese Vorsicht: Laut McKinsey State of AI 2025 skalieren erst 23 % der Unternehmen mindestens einen agentischen Use Case, weitere 39 % experimentieren — zusammen also 62 %. In keiner einzelnen Funktion liegt der Anteil skalierter Agenten jedoch über 10 %.

Ausblick

Agentic AI entwickelt sich rasch von der Experimentier- in die Standardisierungsphase. Zwei Protokolle treiben die Interoperabilität voran: Das Model Context Protocol (MCP) wurde in der Spec-Version 2025-11-25 weiterentwickelt und im Dezember 2025 an die Linux Foundation bzw. die Agentic AI Foundation gespendet; es zählt bereits über 10.000 aktive MCP-Server. Das A2A-Protokoll (Agent-to-Agent) liegt seit Juni 2025 ebenfalls bei der Linux Foundation und wird von über 150 Organisationen unterstützt.

Diese Standardisierung senkt die Hürden für Multi-Agent-Systeme und vendor-agnostische Architekturen. Gleichzeitig steigt der regulatorische Reifegrad — gerade im DACH-Raum mit EU AI Act und DSGVO. Für Entscheider bedeutet das: Wer heute mit klar abgegrenzten, gut governten Piloten startet, schafft die Grundlage, um beim nächsten Reifegradsprung nicht im „Pilot Purgatory" stecken zu bleiben.