Autonomiestufen von AI Agents (L1–L5)

Definition: Was sind die Autonomiestufen von AI Agents?

Die Autonomiestufen von AI Agents beschreiben in fünf Reifegraden (L1–L5), wie eigenständig ein KI-System Entscheidungen trifft und seine Aufgaben erfüllt. Sie reichen vom regelbasierten Reflex-Bot (L1) über ein LLM mit einzelnem Tool-Call (L2) und einen Workflow-Agenten in einer deterministischen Pipeline (L3) bis zu einem voll autonomen Agenten (L4) und einem koordinierten Multi-Agent-System (L5). Ein einheitliches Standardmodell dafür gibt es nicht. Die fünf Stufen sind unsere Einteilung und lehnen sich an Anthropics Unterscheidung von Workflows und Agenten an.

Das entscheidende Unterscheidungsmerkmal ist nicht die eingesetzte Technik, sondern eine einzige Frage: Wie viel der Ablaufsteuerung übernimmt das LLM dynamisch, und wie viel ist in festem Code vorgegeben? Mit jeder Stufe verschiebt sich die Kontrolle vom deterministischen Code zum Sprachmodell. Das steigert den möglichen Nutzen, erhöht aber zugleich Komplexität, Kosten und Governance-Aufwand.

Drei Kernaussagen vorweg:

• Echte Agenten beginnen ab L4. Erst hier steuert das LLM Reihenfolge und Tool-Wahl dynamisch und durchläuft den vollen Reasoning-Loop. L1 bis L3 sind Vorstufen mit zunehmender, aber begrenzter Autonomie.
• Höher ist nicht automatisch besser. Die passende Stufe richtet sich nach dem Use Case. Lässt sich ein Ablauf vorab planen, ist ein niedrigerer Reifegrad günstiger und robuster.
• Der Sweet Spot liegt für die meisten B2B-Anwendungen zwischen L3 und L4: genug Autonomie für echten Nutzen, aber noch beherrschbar.

Ein konkretes Beispiel: dieselbe Aufgabe über fünf Stufen

Nehmen wir eine wiederkehrende Aufgabe (die Bearbeitung einer Kundenanfrage per E-Mail) und betrachten, wie sie auf jeder Stufe gelöst würde:

• L1: Ein FAQ-Bot erkennt das Schlüsselwort „Rechnung" und schickt eine vordefinierte Standardantwort. Keine Anpassung, kein Kontext.
• L2: Ein LLM liest die E-Mail, ruft einmal ein Tool auf (z. B. eine Bestellnummer-Suche) und formuliert daraus eine Antwort. Reaktiv, ein einzelner Schritt.
• L3: Das LLM läuft durch eine fest definierte Pipeline: Erst Klassifikation (Routing nach Anfragetyp), dann Datenabruf, dann Antwortentwurf, dann Freigabe. Der Pfad ist vorgegeben, das LLM füllt die Stationen.
• L4: Der Agent entscheidet selbst, welche Schritte nötig sind. Vielleicht prüft er erst den Bestellstatus, stellt fest, dass eine Rückfrage an die Logistik nötig ist, ruft dort ein zweites Tool, prüft das Ergebnis und entwirft erst dann die Antwort. Reihenfolge und Tool-Wahl sind nicht vorprogrammiert.
• L5: Ein Orchestrator verteilt die Anfrage an spezialisierte Agenten, etwa einen Recherche-Agenten, einen Compliance-Agenten und einen Texter-Agenten, die sich untereinander koordinieren und ihre Teilergebnisse zusammenführen.

Dieselbe Aufgabe, fünf grundverschiedene Architekturen. Der Aufwand steigt von links nach rechts deutlich, ebenso der potenzielle Nutzen bei komplexen, schlecht vorab planbaren Fällen.

Die fünf Autonomiestufen im Detail

L1: Reflex-Agent

Regelbasierte Systeme ohne echtes Reasoning. Sie reagieren nach festen Wenn-dann-Regeln auf Auslöser. Typische Beispiele: ein klassischer FAQ-Bot mit Intent-Matching oder ein Thermostat. Es gibt keine Planung und keine LLM-gesteuerte Entscheidung, das Verhalten ist vollständig vorgegeben.

L2: Augmented LLM

Ein Sprachmodell, das um einen einzelnen Tool-Call erweitert ist und rein reaktiv arbeitet. Das LLM beantwortet eine Anfrage und darf dafür einmal ein Werkzeug nutzen, etwa eine Web-Suche. Beispiel: ein Support-Chatbot, der per Tool-Call einmal den Bestellstatus abfragt. Es gibt bereits LLM-Reasoning, aber keinen mehrstufigen, selbstgesteuerten Loop.

L3: Workflow-Agent

Das LLM agiert innerhalb einer deterministischen Pipeline. Techniken wie Prompt-Chaining (Schritte hintereinander) oder Routing (Verzweigung nach Anfragetyp) strukturieren den Ablauf. Das LLM trifft an den einzelnen Stationen Entscheidungen, aber der Pfad selbst ist im Code vorgegeben. Genau diese Abgrenzung betont auch Anthropic: Workflows folgen vordefinierten Code-Pfaden, bei Agenten steuert das LLM den Ablauf dynamisch.

L4: Autonomer Agent

Hier beginnt der Agent im engeren Sinne. Das LLM steuert Reihenfolge und Tool-Wahl dynamisch und durchläuft den vollen Reasoning-Loop: Perceive → Reason → Act → Observe, iterativ, bis das Ziel erreicht oder abgebrochen ist. Beispiele sind Coding-Agenten wie Claude Code oder Deep-Research-Systeme, die selbstständig recherchieren, Zwischenergebnisse bewerten und ihren Plan anpassen.

L5: Multi-Agent-System

Mehrere autonome Agenten koordinieren sich, typischerweise über ein A2A-Protokoll (Agent-to-Agent). Ein Orchestrator verteilt Teilaufgaben an Spezialisten-Agenten und führt deren Ergebnisse zusammen. L5-Systeme sind die mächtigste, aber auch anfälligste Stufe: Sie neigen zu Compounding Errors, also kleinen Fehlern einzelner Agenten, die sich über die Koordinationskette aufschaukeln. Streng genommen ist L5 eine Architekturstufe. Das Gesamtsystem verteilt die Entscheidungen auf mehrere Agenten, der einzelne Agent darin hat aber nicht zwingend mehr Autonomie als ein L4-Agent.

Vergleichsmatrix der fünf Stufen

Die folgende Übersicht fasst die Stufen anhand der entscheidenden Kriterien zusammen. Die Übergänge sind in der Praxis fließend.

Die wichtigste Trennlinie verläuft zwischen L3 und L4: Bis L3 ist der Pfad fest verdrahtet, ab L4 entscheidet ihn das LLM zur Laufzeit. Genau dieser Sprung definiert den Übergang von der Automatisierung zum echten Agenten.

Wie Unternehmen ihren Reifegrad einordnen

Um die eigene Position auf der Skala zu bestimmen, helfen drei Leitfragen, die aussagekräftiger sind als jede Marketing-Bezeichnung eines Anbieters:

1. Wer entscheidet die Schrittreihenfolge? Steht der Ablauf fest im Code (→ bis L3) oder bestimmt ihn das LLM zur Laufzeit (→ ab L4)?
2. Wie viele Tools nutzt das System eigenständig? Keines (L1), genau eines (L2), feste vordefinierte (L3) oder dynamisch ausgewählte (L4/L5)?
3. Wie hoch ist die tatsächliche Autonomie? Reagiert das System nur, oder verfolgt es ein Ziel über mehrere selbst gewählte Schritte hinweg?

Diese Einordnung schützt auch vor „Agent washing": Viele als „Agent" vermarktete Produkte erreichen real nur L2 oder L3. Laut Gartner (Juni 2025) verfügen nur rund 130 Anbieter über echte Agent-Fähigkeiten, die Bezeichnung allein sagt also wenig über den tatsächlichen Reifegrad aus.

Die zweite Erkenntnis: Ein höherer Reifegrad ist kein Ziel an sich. Die zentrale Entscheidungsregel lautet, dass sich ein Agent (L4/L5) erst lohnt, wenn der Lösungspfad nicht vorab planbar ist. Lässt sich der Ablauf vollständig modellieren, ist ein L3-Workflow günstiger, schneller und robuster. Wer L4/L5 wählt, wo L3 gereicht hätte, zahlt mit höheren Token-Kosten, mehr Wartung und größerem Compliance-Aufwand, ohne zusätzlichen Nutzen.

Die Marktdaten stützen diese Vorsicht: Laut Gartner (Juni 2025) werden über 40 % der agentischen KI-Projekte bis Ende 2027 abgebrochen, wegen steigender Kosten, unklaren Geschäftswerts oder unzureichender Risikokontrollen. Nach unserer Erfahrung treibt zu viel Autonomie vor allem Kosten und Risiko. Gleichzeitig berichten laut McKinsey State of AI 2025 erst 23 % der Befragten, dass ihr Unternehmen mindestens ein agentisches KI-System skaliert, 39 % experimentieren mit Agenten. In keiner einzelnen Geschäftsfunktion geben mehr als 10 % der Befragten an, dass ihr Unternehmen dort Agenten skaliert. Der Markt bewegt sich also überwiegend noch im unteren bis mittleren Reifegrad.

Empfehlung: vom richtigen Reifegrad aus starten

Für Entscheider im DACH-Raum ergibt sich daraus ein pragmatischer Pfad: Den niedrigsten Reifegrad wählen, der den Use Case löst. Ein Read-only-Pilot auf L3 oder ein eng begrenzter L4-Agent mit Human-in-the-Loop für alle irreversiblen Aktionen ist ein deutlich solideres Fundament als ein ambitioniertes L5-System ohne Governance.

Die regulatorischen Pflichten richten sich nach Einsatzzweck und Risiko, nicht nach der Autonomiestufe. Die Transparenzpflicht aus Art. 50 EU AI Act gilt seit 2. August 2026 und greift schon beim LLM-Chatbot auf L2: Nutzer müssen erfahren, dass sie mit einer KI interagieren, sofern das nicht offensichtlich ist. Höhere Stufen machen automatisierte Entscheidungen im Einzelfall nach Art. 22 DSGVO wahrscheinlicher und damit auch eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO. Verarbeitet ein externer LLM-Anbieter personenbezogene Daten in deinem Auftrag, brauchst du auf jeder Stufe einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO. Kann ein Agent Verhalten oder Leistung von Beschäftigten überwachen, hat in Deutschland ein bestehender Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG mitzubestimmen. In Österreich braucht ein Kontrollsystem, das die Menschenwürde berührt, die Zustimmung des Betriebsrats nach § 96 Abs. 1 Z 3 ArbVG. Verarbeitet ein System Daten von Beschäftigten, die über allgemeine Angaben zur Person und fachliche Voraussetzungen hinausgehen, greift in der Regel § 96a ArbVG; dort kann die Schlichtungsstelle die Zustimmung ersetzen. In der Schweiz gilt das revidierte Datenschutzgesetz (DSG); AI Act und DSGVO greifen dort nur bei EU-Bezug, etwa wenn ein System Menschen in der EU anspricht oder seine Ergebnisse in der EU genutzt werden. Diese Angaben dienen nur der Information und sind keine Rechtsberatung.

Wer den eigenen Reifegrad sauber einordnet, statt der höchsten Stufe nachzujagen, vermeidet das „Pilot Purgatory“ und schafft die Basis, um beim nächsten Reifegradsprung tatsächlich zu skalieren.