Zum Inhalt springen
10.5Fortgeschritten7 min

Token-Economics: Wie AI-Agent-Kosten wirklich entstehen

Sebastian KarallAktualisiert 27. Oktober 2026
Definition

Token-Economics bei AI Agents bezeichnet die Kostenmechanik, bei der jeder Agenten-Lauf nach verbrauchten Tokens abgerechnet wird: Input-, Output-, Cached- und Reasoning-Tokens. Anders als beim Chatbot vervielfachen Agenten den Verbrauch durch Multi-Step-Schleifen, Tool-Calls und Sub-Agenten. Eine Kalkulation nach Token-Preis pro Anfrage unterschätzt die realen Produktionskosten deshalb um ein Vielfaches.

Auf einen Blick

  • Ein einzelner Agenten-Lauf erzeugt 2026 typisch 5 bis 20 LLM-Aufrufe (Planner, Tool-Call, Auswertung, Verifikation). Sub-Agenten-Kaskaden multiplizieren den Token-Verbrauch zusätzlich um das 3- bis 10-Fache.
  • Vier Token-Arten treiben die Rechnung: Input, Output (teurer), Cached-Input (bei Anthropic mindestens 90 Prozent günstiger) und Reasoning-Tokens (werden zum Output-Tarif abgerechnet).
  • API-Tokens sind selten mehr als 30 bis 50 Prozent der Gesamtkosten (TCO). Vektor-Store, Observability, Compute und Compliance machen den Rest aus.
  • Prompt-Caching ist der größte FinOps-Hebel 2026: 60 bis 90 Prozent Cache-Trefferquote senken Input-Kosten um rund 50 bis 80 Prozent.
  • Eval-getriebenes Model-Routing (kleines Modell als Default, großes nur bei messbarer Lücke) spart 30 bis 60 Prozent ohne Qualitätsverlust.
  • Alle Preise Stand 2026 sind volatil. Budget-Guardrails wie Token-Caps pro Workflow sind Pflicht, nicht Kür.

Token-Economics bei AI Agents bezeichnet die Kostenmechanik, bei der jeder Agenten-Lauf nach verbrauchten Tokens abgerechnet wird: Input-, Output-, Cached- und Reasoning-Tokens. Anders als beim Chatbot vervielfachen Agenten den Verbrauch durch Multi-Step-Schleifen, Tool-Calls und Sub-Agenten. Eine Kalkulation nach Token-Preis pro Anfrage unterschätzt die realen Produktionskosten dadurch um ein Vielfaches. Wer ein Agenten-Budget plant, muss diese Mechanik verstehen, sonst fehlt in seiner Kalkulation der größte Teil der Rechnung.

  • Tokens sind die Abrechnungseinheit, nicht Anfragen. Eine Nutzeranfrage an einen Agenten erzeugt Stand 2026 typisch 5 bis 20 LLM-Aufrufe. Jeder davon kostet erneut.
  • Output und Reasoning sind teuer, Cached-Input ist billig. Output kostet bei Claude das Fünffache des Inputs, bei GPT-5.5 das Sechsfache; wiederverwendeter Kontext (Cache) bei Anthropic höchstens 10 Prozent.
  • API-Tokens sind selten mehr als 30 bis 50 Prozent der Gesamtkosten. Vektor-Store, Observability, Compute und Compliance treiben den Rest.

Die vier Token-Arten und wie sie abrechnen

Jeder LLM-Aufruf zerfällt in unterschiedlich bepreiste Token-Buckets. Wer nur den Output sieht, unterschätzt den Input systematisch, denn der Agent schleppt System-Prompt, Tool-Definitionen und wachsenden Kontext bei jedem Schritt erneut mit.

  • Input-Tokens umfassen alles, was ins Modell geht: System-Prompt, Tool-Definitionen, abgerufener RAG-Kontext, Konversationsverlauf und die eigentliche Anfrage. Ein Workflow mit fünf definierten Tools zu je 150 Tokens addiert allein 750 Input-Tokens zu jedem Request.
  • Output-Tokens sind die generierte Antwort. Sie kosten laut Anthropic-Preisliste bei allen Claude-Modellen das Fünffache des Inputs, bei GPT-5.5 das Sechsfache. Claude Sonnet 4.6 etwa liegt bei 3 USD Input gegen 15 USD Output pro Million Tokens.
  • Cached-Input-Tokens sind wiederverwendeter, stabiler Kontext. Anthropic liest Cache laut Preisliste zu 0,1-fachem Basispreis (90 Prozent Rabatt), bei Opus 5.5 und Sonnet 5.5 zu 0,05-fachem, bei Fable 5.1 und Mythos 5.1 zu 0,025-fachem. OpenAI berechnet auf der GPT-5.x-Familie rund 10 Prozent des Basispreises. Das ist der wirkungsstärkste Kosten-Hebel, der seit Beginn der nutzungsbasierten Abrechnung eingeführt wurde.
  • Reasoning-Tokens entstehen beim internen Nachdenken von Reasoning-Modellen. Sie werden Stand 2026 bei OpenAI und Anthropic schlicht zum Output-Tarif abgerechnet. Praktische Folge: Ein Aufruf mit 20.000 Reasoning-Tokens kostet bei 25 USD/Mio. Output rund 0,50 USD allein für das Denken, bevor ein einziges sichtbares Wort generiert ist.

Der Multiplikator: warum Agenten den Verbrauch explodieren lassen

Der entscheidende Unterschied zum Chatbot ist nicht der Token-Preis, sondern die Aufrufanzahl. Eine einzige Nutzeranfrage, die 2023 noch ein Modell-Call war, übersetzt sich 2026 routinemäßig in eine Kette: Planner, Tool-Auswahl, Interpretation des Tool-Ergebnisses, Nächster-Schritt-Entscheidung, Output-Formatierung, oft mit expliziten Verifikationsschleifen. Das sind 5 bis 20 Aufrufe. Sub-Agenten-Kaskaden treiben das gelegentlich auf 50 und mehr.

Drei Multiplikatoren stapeln sich:

  • Multi-Step-Ausführung vervielfacht den Verbrauch gegenüber einem Einzelaufruf um das 5- bis 20-Fache, je nach Zahl der Schritte. Jeder Tool-Call ist ein eigener Completion-Aufruf mit eigenem Kontext.
  • Sub-Agenten-Fan-out vervielfacht den Token-Verbrauch um das 3- bis 10-Fache gegenüber Einzel-Agenten. Jeder Sub-Agent ist eine separate Completion mit eigenem Kontextfenster und eigenen Tool-Definitionen.
  • Fehlschlag und Retry addieren das 1,3- bis 3-Fache bei schwacher Verifikation. Agentische Workflows, die scheitern und neu starten, verbrennen Tokens auf dem Weg dorthin.

Hinzu kommt das Kontext-Wachstum: Mit jedem Schritt wächst der Konversationsverlauf, der als Input erneut bezahlt wird. Lange Kontexte sind doppelt teuer: Oberhalb von 200.000 Tokens berechnen mehrere Anbieter (Gemini-Pro-Modelle, OpenAI GPT-5.5 ab 272.000 Tokens) einen Aufschlag von 2-fach Input und 1,5-fach Output. Naives Vollstopfen des Kontextfensters ist daher selten die günstige Lösung.

Versteckte Kosten: die Rechnung unter der API-Linie

Bei einer agentischen Last auf Konzern-Skala ist die API-Token-Linie selten mehr als 30 bis 50 Prozent der Gesamtkosten (TCO). Budgets, die nur die Preisliste des Modellanbieters ansetzen, verfehlen systematisch mindestens die halbe Rechnung. Die folgenden Posten sind im DACH-Raum die häufigsten blinden Flecken (Anteile als Richtwert für eine repräsentative Konzern-Last, Stand 2026):

Kostentreiber

Ursache

Hebel

Direkte Modell-Tokens

Input, Output, Reasoning pro Aufruf

Caching, Routing, Eval-basierte Modellwahl

Tool-Use-Kaskade

5 bis 20 LLM-Aufrufe pro Anfrage

max_iterations und max_tool_calls als Hard-Cap

Sub-Agenten-Fan-out

jede Sub-Agenten-Completion separat

Advisor-Muster statt voller Sub-Agenten-Kaskade

Retry-Schleifen

schwache Verifikation, fehlgeschlagene Läufe

bessere Verifikation, Token-Budget pro Trace

Indirekte Modellkosten

Tool-Definitionen als Input je Call (5 Tools = 750 Tokens)

Tool-Definitionen cachen, Output-Schemas verschlanken

Vektor-Store und Embeddings

RAG-Speicher, Embedding-Generierung, Queries

self-hosted Qdrant statt managed; gezieltes Retrieval

Compute und Sandbox

Container, VM-Minuten für Coding-/Tool-Agenten

nur bei tatsächlichem Bedarf hochfahren

Observability

Monitoring des Token-Verbrauchs

self-hosted Langfuse statt Datadog auf Konzern-Skala

EU-Region-Aufschlag

rund 10 Prozent (OpenAI auf Data-Residency-Endpunkten in der EU, für Modelle, die ab dem 5. März 2026 erschienen sind)

Steady-State auf EU, Burst nach US, wo die DSGVO es zulässt

Souveränitäts-Aufpreis

1,5- bis 3-facher Preis bei SAP, Telekom, OVHcloud

nur für regulierte Lasten, sonst Verhandlungshebel

Compliance-Ops

AVV-Kette, Sub-Prozessor-Disclosure je Anbieter

Anbieterzahl niedrig halten, Vertragsvorlagen nutzen

Die versteckten Posten in Zahlen: Vektor-Store und Embeddings liegen bei 5 bis 15 Prozent der Gesamtkosten, Observability bei 2 bis 8 Prozent, Compute und Sandbox bei 10 bis 25 Prozent. Im DACH-Raum kommen Faktoren dazu, die US-Budgets nicht kennen: der EU-Region-Aufschlag von rund 10 Prozent, der Souveränitäts-Aufpreis von Faktor 1,5 bis 3, sowie laufende Compliance-Kosten von realistisch 5.000 bis 20.000 Euro pro Jahr und aktivem Vertragspartner. Diese DACH-spezifischen Faktoren erhöhen die Gesamtkosten um 15 bis 35 Prozent gegenüber einer vergleichbaren US-Last.

Der Modellwahl-Hebel: klein, groß, oder geroutet

Nicht jeder Schritt braucht das teuerste Modell. Der zweitgrößte FinOps-Hebel nach Caching ist Routing: das günstige Modell als Standard, das teure nur bei messbarer Lücke. Die Preisspreizung ist erheblich (Stand 2026): Laut Anthropic-Preisliste liegt Claude Haiku 4.5 bei 1 USD Input / 5 USD Output pro Million, Sonnet 4.6 bei 3 / 15, Opus 4.6 bei 5 / 25; GPT-5.5 liegt laut OpenAI bei 5 / 30. Am unteren Ende steht Claude Haiku 5.5 mit 0,10 / 0,50 USD bei Prompts bis 100.000 Tokens, ein Fünfzigstel von Opus 4.6. DeepSeek verlangt für V4.1 Flash laut Preisliste 0,15 USD Input, zu Spitzenzeiten 0,30 USD, allerdings über eine in China gehostete API.

Anthropic hat das Routing-Muster Stand 2026 mit dem Advisor Tool formalisiert (Beta seit 9. April 2026): Sonnet oder Haiku als Ausführer, Opus als bei Bedarf zugeschalteter Berater in einem einzigen API-Aufruf. Die veröffentlichten Benchmarks zeigen, wie stark der Hebel ist: Sonnet plus Opus-Advisor erreichte 74,8 Prozent auf SWE-bench Multilingual, Sonnet allein 72,1 Prozent. Trotzdem sanken die Kosten pro agentischer Aufgabe um 11,9 Prozent gegenüber Sonnet allein. Haiku plus Opus-Advisor verdoppelte den BrowseComp-Score (19,7 auf 41,2 Prozent) bei 85 Prozent geringeren Kosten als Sonnet solo.

Die nüchterne Faustregel dahinter: Das günstigste Modell, das den Eval besteht, ist das richtige Modell. Beim Listenpreis liegt Opus 4.6 (5 / 25 USD) etwa um den Faktor 1,7 über Sonnet 4.6 (3 / 15 USD); in der 5.5-Generation (Opus 5.5 zu 4 / 20, Sonnet 5.5 zu 2 / 10 USD) ist es Faktor 2. Ob sich dieser Aufpreis lohnt, zeigt erst der Eval auf dem konkreten Workflow. Teams, die nach Eval-Ergebnis statt nach Bauchgefühl routen, senken die Modellkosten typisch um 30 bis 60 Prozent ohne Qualitätsverlust.

Rechenbeispiel: 1.000 Agenten-Läufe

Konkret, mit Sonnet-4.6-Tarifen (3 USD Input / 15 USD Output pro Million, Stand 2026, volatil). Angenommen ein Recherche-Agent mit durchschnittlich 8 LLM-Aufrufen pro Lauf, je 4.000 Input- und 800 Output-Tokens.

Unoptimiert, ohne Caching:

  • Input: 1.000 Läufe x 8 Aufrufe x 4.000 Tokens = 32 Mio. Tokens x 3 USD = 96 USD
  • Output: 1.000 x 8 x 800 = 6,4 Mio. Tokens x 15 USD = 96 USD
  • Direkte Token-Kosten: rund 192 USD pro 1.000 Läufe

Mit 80 Prozent Cache-Trefferquote auf dem gesamten Prompt-Präfix (System-Prompt, Tool-Definitionen und bisheriger Verlauf): Ein Cache-Treffer kostet bei Sonnet 4.6 laut Anthropic-Preisliste 0,30 USD pro Million statt 3 USD, also ein Zehntel. Für die restlichen 20 Prozent zahlst du den Basispreis oder, wenn sie neu in den Cache geschrieben werden, das 1,25-Fache (5-Minuten-Cache). Die Input-Kosten sinken damit von 96 auf etwa 27 bis 32 USD, der Output bleibt. Gesamt: rund 123 bis 128 USD, eine Ersparnis von rund einem Drittel allein durch Caching.

Wenn dann noch 60 Prozent der Aufrufe per Routing auf Haiku 4.5 (1 / 5 USD) statt Sonnet 4.6 laufen, weil der Eval es zulässt, sinkt die direkte Linie weiter Richtung 70 bis 80 USD pro 1.000 Läufe. Und das ist nur die API-Linie. Rechnet man Vektor-Store, Observability und Compliance-Ops dazu, liegen die realen Gesamtkosten erneut deutlich höher. Genau deshalb sind Token-Caps pro Workflow (max_iterations, max_tool_calls, max_sub_agent_depth) Stand 2026 der Governance-Standard: Sie verhindern, dass ein einziger außer Kontrolle geratener Lauf die Kalkulation sprengt.

FinOps und Budget-Guardrails

Die wirksamen Maßnahmen sind kein Geheimwissen, sondern Ingenieurspraxis. Gestapelt liefert ein gut instrumentiertes FinOps-Programm 60 bis 80 Prozent Kostenreduktion gegenüber dem unoptimierten Ausgangswert:

  • Aggressives Prompt-Caching als größter Einzelhebel: 60 bis 90 Prozent Cache-Trefferquote auf dem Prompt-Präfix senken Input-Kosten um rund 50 bis 80 Prozent, weil ein Cache-Treffer bei den meisten Claude-Modellen ein Zehntel des Basispreises kostet. Der 5-Minuten-Cache amortisiert sich nach dem ersten Lese-Zugriff, der 1-Stunden-Cache nach dem zweiten.
  • Eval-getriebenes Routing über LiteLLM, OpenRouter oder Portkey: billiges Modell als Default, Advisor-/Eskalations-Muster für die harten Fälle.
  • Batch-API für Nicht-Echtzeit-Lasten mit pauschal 50 Prozent Rabatt, kombinierbar mit Caching. Ein gecachter Batch-Request kann so auf 5 Prozent des Standardpreises fallen.
  • Token-Budget pro Workflow mit Hard-Caps und Kostenattribution pro Mandant, Team oder Workflow. Ohne diese Attribution kann FinOps die einzige Frage des CFO nicht beantworten: Welche Geschäftseinheit verursacht diese Rechnung?
  • Open-Weight-Fallback für die Long-Tail-Lasten (Zusammenfassung, Klassifikation, einfache Extraktion): im DACH-Raum über EU-gehostete Anbieter wie Together AI EU-Region oder DeepInfra Frankfurt, da die China-gehostete DeepSeek-Direkt-API für DSGVO-gebundene Lasten ausscheidet.

Für Agenturen und B2B-Entscheider

Wer im DACH-Raum AI-Agenten produktiv betreibt oder für Kunden baut, sollte die Token-Ökonomie zur Kernkompetenz machen, denn die größten Kostenhebel liegen nicht im Vertrag, sondern in der technischen Umsetzung. Procurement-Teams, die um fünf Prozent Mengenrabatt ringen, lassen anderswo fünfzig Prozent liegen. Für Agenturen bedeutet das: Cost-Attribution pro Kunde via Helicone oder Portkey, transparente Kostenweitergabe mit klarer Marge auf der operativen Komplexität (10 Vertragspartner heißen 10 AVV-Ketten), und souveränes Hosting als Premium-Tier für Kunden mit DSGVO-Bindung.

Für B2B gilt: Eval-getriebene Modellwahl, Caching ab Tag eins, Token-Caps pro Workflow und ein Exit-Pfad zu Open-Weight-Anbietern für jede Last, die eine sinnvolle Monatsschwelle überschreitet. Blck Alpaca aus Wien begleitet DACH-Unternehmen genau bei dieser Kalkulation: von der Workflow-Architektur über FinOps-Guardrails bis zur souveränen Bereitstellung. Hinweis: Sämtliche Preisangaben in diesem Artikel sind Stand 2026 und volatil; die Preisbänder verschieben sich quartalsweise und sollten vor jeder Budget-Entscheidung gegen die aktuelle Anbieter-Dokumentation geprüft werden.

Mit KI zusammenfassenChatGPTClaudePerplexity

Öffnet den Chat mit einem vorbereiteten Prompt.

Häufig gestellte Fragen

Was ist der Unterschied zwischen Input-, Output- und Reasoning-Tokens?
Input-Tokens sind alles, was an das Modell geht (System-Prompt, Tool-Definitionen, Kontext, Nutzeranfrage). Output-Tokens sind die generierte Antwort und kosten bei Claude das Fünffache des Inputs, bei GPT-5.5 das Sechsfache. Reasoning-Tokens entstehen beim internen Nachdenken von Reasoning-Modellen und werden Stand 2026 bei OpenAI und Anthropic zum Output-Tarif abgerechnet. Ein Aufruf mit 20.000 Reasoning-Tokens kostet bei 25 USD/Mio. Output rund 0,50 USD allein fürs Denken. Cached-Input-Tokens sind wiederverwendeter Kontext und kosten bei Anthropic höchstens 10 Prozent des Basis-Inputs.
Warum kostet ein AI Agent so viel mehr als ein Chatbot?
Ein Chatbot ist ein Aufruf: Frage rein, Antwort raus. Ein Agent durchläuft pro Nutzeranfrage typisch 5 bis 20 LLM-Aufrufe: Planung, Tool-Auswahl, Auswertung des Tool-Ergebnisses, Nächster-Schritt-Entscheidung, Verifikation. Bei jedem Aufruf wachsen Kontext und Tool-Definitionen mit, die als Input erneut bezahlt werden. Sub-Agenten-Muster vervielfachen das um das 3- bis 10-Fache, fehlgeschlagene Läufe mit Retry um das 1,3- bis 3-Fache. Schon ohne Sub-Agenten verbraucht ein Agent so mindestens das 5- bis 20-Fache eines klassischen Prompt-in/Antwort-raus-Aufrufs, mit Sub-Agenten und Retries ein Vielfaches davon.
Wie berechne ich die LLM-Kosten eines Agenten realistisch?
Nicht nur den Token-Tarif anschauen. Rechne pro Lauf: durchschnittliche Aufrufanzahl mal durchschnittliche Input- und Output-Tokens pro Aufruf, gewichtet mit dem Cache-Trefferanteil. Dann den Sub-Agenten-Faktor und den Retry-Aufschlag einrechnen; die Multi-Step-Ausführung steckt schon in der Aufrufanzahl. Anschließend die versteckten Posten dazurechnen: Embeddings und Vektor-Store (5 bis 15 Prozent), Observability (2 bis 8 Prozent), Compute/Sandbox (10 bis 25 Prozent), Compliance-Ops. Die API-Tokens sind am Ende meist unter der Hälfte der Gesamtkosten.
Welche Maßnahmen senken AI-Agent-Kosten am stärksten?
Drei Hebel dominieren Stand 2026. Erstens aggressives Prompt-Caching: Wer das stabile Prompt-Präfix (System-Prompt, Tool-Definitionen, bisheriger Verlauf) cacht, senkt die Input-Kosten bei 60 bis 90 Prozent Trefferquote um rund 50 bis 80 Prozent, weil ein Cache-Treffer laut Anthropic-Preisliste bei den meisten Claude-Modellen ein Zehntel des Basispreises kostet. Zweitens eval-getriebenes Model-Routing: Das günstigste Modell, das den Test besteht, ist das richtige. Das spart 30 bis 60 Prozent. Drittens Batch-Verarbeitung für Nicht-Echtzeit-Lasten mit pauschal 50 Prozent Rabatt, kombinierbar mit Caching. Gestapelt erreicht ein gut instrumentiertes FinOps-Programm 60 bis 80 Prozent Kostenreduktion gegenüber dem unoptimierten Ausgangswert.
Welche versteckten Kosten werden bei AI-Agent-Budgets am häufigsten übersehen?
Die teuersten blinden Flecken sind: Tool-Definitionen, die bei jedem Aufruf als Input mitbezahlt werden (5 Tools mit je 150 Tokens sind 750 Tokens pro Request); Retry-Schleifen bei schwacher Verifikation; der Vektor-Store für RAG; Observability-Tooling; sowie im DACH-Raum der EU-Region-Aufschlag von rund 10 Prozent, der Souveränitäts-Aufpreis von Faktor 1,5 bis 3 und die laufenden Compliance-Kosten pro Vertragspartner. Diese DACH-Faktoren erhöhen die Gesamtkosten um 15 bis 35 Prozent gegenüber einer vergleichbaren US-Last.

Tiefer einsteigen?

Erhalte neue Analysen direkt ins Postfach, oder sieh dir an, wie wir dieses Wissen für Unternehmen umsetzen.