Token-Economics: Wie AI-Agent-Kosten wirklich entstehen
Token-Economics bei AI Agents bezeichnet die Kostenmechanik, bei der jeder Agenten-Lauf nach verbrauchten Tokens abgerechnet wird: Input-, Output-, Cached- und Reasoning-Tokens. Anders als beim Chatbot vervielfachen Agenten den Verbrauch durch Multi-Step-Schleifen, Tool-Calls und Sub-Agenten. Eine Kalkulation nach Token-Preis pro Anfrage unterschätzt die realen Produktionskosten deshalb um ein Vielfaches.
Auf einen Blick
- Ein einzelner Agenten-Lauf erzeugt 2026 typisch 5 bis 20 LLM-Aufrufe (Planner, Tool-Call, Auswertung, Verifikation). Sub-Agenten-Kaskaden multiplizieren den Token-Verbrauch zusätzlich um das 3- bis 10-Fache.
- Vier Token-Arten treiben die Rechnung: Input, Output (teurer), Cached-Input (bei Anthropic mindestens 90 Prozent günstiger) und Reasoning-Tokens (werden zum Output-Tarif abgerechnet).
- API-Tokens sind selten mehr als 30 bis 50 Prozent der Gesamtkosten (TCO). Vektor-Store, Observability, Compute und Compliance machen den Rest aus.
- Prompt-Caching ist der größte FinOps-Hebel 2026: 60 bis 90 Prozent Cache-Trefferquote senken Input-Kosten um rund 50 bis 80 Prozent.
- Eval-getriebenes Model-Routing (kleines Modell als Default, großes nur bei messbarer Lücke) spart 30 bis 60 Prozent ohne Qualitätsverlust.
- Alle Preise Stand 2026 sind volatil. Budget-Guardrails wie Token-Caps pro Workflow sind Pflicht, nicht Kür.
Token-Economics bei AI Agents bezeichnet die Kostenmechanik, bei der jeder Agenten-Lauf nach verbrauchten Tokens abgerechnet wird: Input-, Output-, Cached- und Reasoning-Tokens. Anders als beim Chatbot vervielfachen Agenten den Verbrauch durch Multi-Step-Schleifen, Tool-Calls und Sub-Agenten. Eine Kalkulation nach Token-Preis pro Anfrage unterschätzt die realen Produktionskosten dadurch um ein Vielfaches. Wer ein Agenten-Budget plant, muss diese Mechanik verstehen, sonst fehlt in seiner Kalkulation der größte Teil der Rechnung.
- Tokens sind die Abrechnungseinheit, nicht Anfragen. Eine Nutzeranfrage an einen Agenten erzeugt Stand 2026 typisch 5 bis 20 LLM-Aufrufe. Jeder davon kostet erneut.
- Output und Reasoning sind teuer, Cached-Input ist billig. Output kostet bei Claude das Fünffache des Inputs, bei GPT-5.5 das Sechsfache; wiederverwendeter Kontext (Cache) bei Anthropic höchstens 10 Prozent.
- API-Tokens sind selten mehr als 30 bis 50 Prozent der Gesamtkosten. Vektor-Store, Observability, Compute und Compliance treiben den Rest.
Die vier Token-Arten und wie sie abrechnen
Jeder LLM-Aufruf zerfällt in unterschiedlich bepreiste Token-Buckets. Wer nur den Output sieht, unterschätzt den Input systematisch, denn der Agent schleppt System-Prompt, Tool-Definitionen und wachsenden Kontext bei jedem Schritt erneut mit.
- Input-Tokens umfassen alles, was ins Modell geht: System-Prompt, Tool-Definitionen, abgerufener RAG-Kontext, Konversationsverlauf und die eigentliche Anfrage. Ein Workflow mit fünf definierten Tools zu je 150 Tokens addiert allein 750 Input-Tokens zu jedem Request.
- Output-Tokens sind die generierte Antwort. Sie kosten laut Anthropic-Preisliste bei allen Claude-Modellen das Fünffache des Inputs, bei GPT-5.5 das Sechsfache. Claude Sonnet 4.6 etwa liegt bei 3 USD Input gegen 15 USD Output pro Million Tokens.
- Cached-Input-Tokens sind wiederverwendeter, stabiler Kontext. Anthropic liest Cache laut Preisliste zu 0,1-fachem Basispreis (90 Prozent Rabatt), bei Opus 5.5 und Sonnet 5.5 zu 0,05-fachem, bei Fable 5.1 und Mythos 5.1 zu 0,025-fachem. OpenAI berechnet auf der GPT-5.x-Familie rund 10 Prozent des Basispreises. Das ist der wirkungsstärkste Kosten-Hebel, der seit Beginn der nutzungsbasierten Abrechnung eingeführt wurde.
- Reasoning-Tokens entstehen beim internen Nachdenken von Reasoning-Modellen. Sie werden Stand 2026 bei OpenAI und Anthropic schlicht zum Output-Tarif abgerechnet. Praktische Folge: Ein Aufruf mit 20.000 Reasoning-Tokens kostet bei 25 USD/Mio. Output rund 0,50 USD allein für das Denken, bevor ein einziges sichtbares Wort generiert ist.
Der Multiplikator: warum Agenten den Verbrauch explodieren lassen
Der entscheidende Unterschied zum Chatbot ist nicht der Token-Preis, sondern die Aufrufanzahl. Eine einzige Nutzeranfrage, die 2023 noch ein Modell-Call war, übersetzt sich 2026 routinemäßig in eine Kette: Planner, Tool-Auswahl, Interpretation des Tool-Ergebnisses, Nächster-Schritt-Entscheidung, Output-Formatierung, oft mit expliziten Verifikationsschleifen. Das sind 5 bis 20 Aufrufe. Sub-Agenten-Kaskaden treiben das gelegentlich auf 50 und mehr.
Drei Multiplikatoren stapeln sich:
- Multi-Step-Ausführung vervielfacht den Verbrauch gegenüber einem Einzelaufruf um das 5- bis 20-Fache, je nach Zahl der Schritte. Jeder Tool-Call ist ein eigener Completion-Aufruf mit eigenem Kontext.
- Sub-Agenten-Fan-out vervielfacht den Token-Verbrauch um das 3- bis 10-Fache gegenüber Einzel-Agenten. Jeder Sub-Agent ist eine separate Completion mit eigenem Kontextfenster und eigenen Tool-Definitionen.
- Fehlschlag und Retry addieren das 1,3- bis 3-Fache bei schwacher Verifikation. Agentische Workflows, die scheitern und neu starten, verbrennen Tokens auf dem Weg dorthin.
Hinzu kommt das Kontext-Wachstum: Mit jedem Schritt wächst der Konversationsverlauf, der als Input erneut bezahlt wird. Lange Kontexte sind doppelt teuer: Oberhalb von 200.000 Tokens berechnen mehrere Anbieter (Gemini-Pro-Modelle, OpenAI GPT-5.5 ab 272.000 Tokens) einen Aufschlag von 2-fach Input und 1,5-fach Output. Naives Vollstopfen des Kontextfensters ist daher selten die günstige Lösung.
Versteckte Kosten: die Rechnung unter der API-Linie
Bei einer agentischen Last auf Konzern-Skala ist die API-Token-Linie selten mehr als 30 bis 50 Prozent der Gesamtkosten (TCO). Budgets, die nur die Preisliste des Modellanbieters ansetzen, verfehlen systematisch mindestens die halbe Rechnung. Die folgenden Posten sind im DACH-Raum die häufigsten blinden Flecken (Anteile als Richtwert für eine repräsentative Konzern-Last, Stand 2026):
Kostentreiber | Ursache | Hebel |
|---|---|---|
Direkte Modell-Tokens | Input, Output, Reasoning pro Aufruf | Caching, Routing, Eval-basierte Modellwahl |
Tool-Use-Kaskade | 5 bis 20 LLM-Aufrufe pro Anfrage | max_iterations und max_tool_calls als Hard-Cap |
Sub-Agenten-Fan-out | jede Sub-Agenten-Completion separat | Advisor-Muster statt voller Sub-Agenten-Kaskade |
Retry-Schleifen | schwache Verifikation, fehlgeschlagene Läufe | bessere Verifikation, Token-Budget pro Trace |
Indirekte Modellkosten | Tool-Definitionen als Input je Call (5 Tools = 750 Tokens) | Tool-Definitionen cachen, Output-Schemas verschlanken |
Vektor-Store und Embeddings | RAG-Speicher, Embedding-Generierung, Queries | self-hosted Qdrant statt managed; gezieltes Retrieval |
Compute und Sandbox | Container, VM-Minuten für Coding-/Tool-Agenten | nur bei tatsächlichem Bedarf hochfahren |
Observability | Monitoring des Token-Verbrauchs | self-hosted Langfuse statt Datadog auf Konzern-Skala |
EU-Region-Aufschlag | rund 10 Prozent (OpenAI auf Data-Residency-Endpunkten in der EU, für Modelle, die ab dem 5. März 2026 erschienen sind) | Steady-State auf EU, Burst nach US, wo die DSGVO es zulässt |
Souveränitäts-Aufpreis | 1,5- bis 3-facher Preis bei SAP, Telekom, OVHcloud | nur für regulierte Lasten, sonst Verhandlungshebel |
Compliance-Ops | AVV-Kette, Sub-Prozessor-Disclosure je Anbieter | Anbieterzahl niedrig halten, Vertragsvorlagen nutzen |
Die versteckten Posten in Zahlen: Vektor-Store und Embeddings liegen bei 5 bis 15 Prozent der Gesamtkosten, Observability bei 2 bis 8 Prozent, Compute und Sandbox bei 10 bis 25 Prozent. Im DACH-Raum kommen Faktoren dazu, die US-Budgets nicht kennen: der EU-Region-Aufschlag von rund 10 Prozent, der Souveränitäts-Aufpreis von Faktor 1,5 bis 3, sowie laufende Compliance-Kosten von realistisch 5.000 bis 20.000 Euro pro Jahr und aktivem Vertragspartner. Diese DACH-spezifischen Faktoren erhöhen die Gesamtkosten um 15 bis 35 Prozent gegenüber einer vergleichbaren US-Last.
Der Modellwahl-Hebel: klein, groß, oder geroutet
Nicht jeder Schritt braucht das teuerste Modell. Der zweitgrößte FinOps-Hebel nach Caching ist Routing: das günstige Modell als Standard, das teure nur bei messbarer Lücke. Die Preisspreizung ist erheblich (Stand 2026): Laut Anthropic-Preisliste liegt Claude Haiku 4.5 bei 1 USD Input / 5 USD Output pro Million, Sonnet 4.6 bei 3 / 15, Opus 4.6 bei 5 / 25; GPT-5.5 liegt laut OpenAI bei 5 / 30. Am unteren Ende steht Claude Haiku 5.5 mit 0,10 / 0,50 USD bei Prompts bis 100.000 Tokens, ein Fünfzigstel von Opus 4.6. DeepSeek verlangt für V4.1 Flash laut Preisliste 0,15 USD Input, zu Spitzenzeiten 0,30 USD, allerdings über eine in China gehostete API.
Anthropic hat das Routing-Muster Stand 2026 mit dem Advisor Tool formalisiert (Beta seit 9. April 2026): Sonnet oder Haiku als Ausführer, Opus als bei Bedarf zugeschalteter Berater in einem einzigen API-Aufruf. Die veröffentlichten Benchmarks zeigen, wie stark der Hebel ist: Sonnet plus Opus-Advisor erreichte 74,8 Prozent auf SWE-bench Multilingual, Sonnet allein 72,1 Prozent. Trotzdem sanken die Kosten pro agentischer Aufgabe um 11,9 Prozent gegenüber Sonnet allein. Haiku plus Opus-Advisor verdoppelte den BrowseComp-Score (19,7 auf 41,2 Prozent) bei 85 Prozent geringeren Kosten als Sonnet solo.
Die nüchterne Faustregel dahinter: Das günstigste Modell, das den Eval besteht, ist das richtige Modell. Beim Listenpreis liegt Opus 4.6 (5 / 25 USD) etwa um den Faktor 1,7 über Sonnet 4.6 (3 / 15 USD); in der 5.5-Generation (Opus 5.5 zu 4 / 20, Sonnet 5.5 zu 2 / 10 USD) ist es Faktor 2. Ob sich dieser Aufpreis lohnt, zeigt erst der Eval auf dem konkreten Workflow. Teams, die nach Eval-Ergebnis statt nach Bauchgefühl routen, senken die Modellkosten typisch um 30 bis 60 Prozent ohne Qualitätsverlust.
Rechenbeispiel: 1.000 Agenten-Läufe
Konkret, mit Sonnet-4.6-Tarifen (3 USD Input / 15 USD Output pro Million, Stand 2026, volatil). Angenommen ein Recherche-Agent mit durchschnittlich 8 LLM-Aufrufen pro Lauf, je 4.000 Input- und 800 Output-Tokens.
Unoptimiert, ohne Caching:
- Input: 1.000 Läufe x 8 Aufrufe x 4.000 Tokens = 32 Mio. Tokens x 3 USD = 96 USD
- Output: 1.000 x 8 x 800 = 6,4 Mio. Tokens x 15 USD = 96 USD
- Direkte Token-Kosten: rund 192 USD pro 1.000 Läufe
Mit 80 Prozent Cache-Trefferquote auf dem gesamten Prompt-Präfix (System-Prompt, Tool-Definitionen und bisheriger Verlauf): Ein Cache-Treffer kostet bei Sonnet 4.6 laut Anthropic-Preisliste 0,30 USD pro Million statt 3 USD, also ein Zehntel. Für die restlichen 20 Prozent zahlst du den Basispreis oder, wenn sie neu in den Cache geschrieben werden, das 1,25-Fache (5-Minuten-Cache). Die Input-Kosten sinken damit von 96 auf etwa 27 bis 32 USD, der Output bleibt. Gesamt: rund 123 bis 128 USD, eine Ersparnis von rund einem Drittel allein durch Caching.
Wenn dann noch 60 Prozent der Aufrufe per Routing auf Haiku 4.5 (1 / 5 USD) statt Sonnet 4.6 laufen, weil der Eval es zulässt, sinkt die direkte Linie weiter Richtung 70 bis 80 USD pro 1.000 Läufe. Und das ist nur die API-Linie. Rechnet man Vektor-Store, Observability und Compliance-Ops dazu, liegen die realen Gesamtkosten erneut deutlich höher. Genau deshalb sind Token-Caps pro Workflow (max_iterations, max_tool_calls, max_sub_agent_depth) Stand 2026 der Governance-Standard: Sie verhindern, dass ein einziger außer Kontrolle geratener Lauf die Kalkulation sprengt.
FinOps und Budget-Guardrails
Die wirksamen Maßnahmen sind kein Geheimwissen, sondern Ingenieurspraxis. Gestapelt liefert ein gut instrumentiertes FinOps-Programm 60 bis 80 Prozent Kostenreduktion gegenüber dem unoptimierten Ausgangswert:
- Aggressives Prompt-Caching als größter Einzelhebel: 60 bis 90 Prozent Cache-Trefferquote auf dem Prompt-Präfix senken Input-Kosten um rund 50 bis 80 Prozent, weil ein Cache-Treffer bei den meisten Claude-Modellen ein Zehntel des Basispreises kostet. Der 5-Minuten-Cache amortisiert sich nach dem ersten Lese-Zugriff, der 1-Stunden-Cache nach dem zweiten.
- Eval-getriebenes Routing über LiteLLM, OpenRouter oder Portkey: billiges Modell als Default, Advisor-/Eskalations-Muster für die harten Fälle.
- Batch-API für Nicht-Echtzeit-Lasten mit pauschal 50 Prozent Rabatt, kombinierbar mit Caching. Ein gecachter Batch-Request kann so auf 5 Prozent des Standardpreises fallen.
- Token-Budget pro Workflow mit Hard-Caps und Kostenattribution pro Mandant, Team oder Workflow. Ohne diese Attribution kann FinOps die einzige Frage des CFO nicht beantworten: Welche Geschäftseinheit verursacht diese Rechnung?
- Open-Weight-Fallback für die Long-Tail-Lasten (Zusammenfassung, Klassifikation, einfache Extraktion): im DACH-Raum über EU-gehostete Anbieter wie Together AI EU-Region oder DeepInfra Frankfurt, da die China-gehostete DeepSeek-Direkt-API für DSGVO-gebundene Lasten ausscheidet.
Für Agenturen und B2B-Entscheider
Wer im DACH-Raum AI-Agenten produktiv betreibt oder für Kunden baut, sollte die Token-Ökonomie zur Kernkompetenz machen, denn die größten Kostenhebel liegen nicht im Vertrag, sondern in der technischen Umsetzung. Procurement-Teams, die um fünf Prozent Mengenrabatt ringen, lassen anderswo fünfzig Prozent liegen. Für Agenturen bedeutet das: Cost-Attribution pro Kunde via Helicone oder Portkey, transparente Kostenweitergabe mit klarer Marge auf der operativen Komplexität (10 Vertragspartner heißen 10 AVV-Ketten), und souveränes Hosting als Premium-Tier für Kunden mit DSGVO-Bindung.
Für B2B gilt: Eval-getriebene Modellwahl, Caching ab Tag eins, Token-Caps pro Workflow und ein Exit-Pfad zu Open-Weight-Anbietern für jede Last, die eine sinnvolle Monatsschwelle überschreitet. Blck Alpaca aus Wien begleitet DACH-Unternehmen genau bei dieser Kalkulation: von der Workflow-Architektur über FinOps-Guardrails bis zur souveränen Bereitstellung. Hinweis: Sämtliche Preisangaben in diesem Artikel sind Stand 2026 und volatil; die Preisbänder verschieben sich quartalsweise und sollten vor jeder Budget-Entscheidung gegen die aktuelle Anbieter-Dokumentation geprüft werden.
Öffnet den Chat mit einem vorbereiteten Prompt.
Häufig gestellte Fragen
Was ist der Unterschied zwischen Input-, Output- und Reasoning-Tokens?
Warum kostet ein AI Agent so viel mehr als ein Chatbot?
Wie berechne ich die LLM-Kosten eines Agenten realistisch?
Welche Maßnahmen senken AI-Agent-Kosten am stärksten?
Welche versteckten Kosten werden bei AI-Agent-Budgets am häufigsten übersehen?
Tiefer einsteigen?
Erhalte neue Analysen direkt ins Postfach, oder sieh dir an, wie wir dieses Wissen für Unternehmen umsetzen.