Artikel 50 für Chatbots und AI Agents: Was du kennzeichnen musst

Die Chatbot-Kennzeichnungspflicht ergibt sich aus Artikel 50 der Verordnung (EU) 2024/1689 (EU AI Act): Nutzer müssen erkennen, dass sie mit einer KI und nicht mit einem Menschen interagieren. Die Offenlegung muss klar und rechtzeitig erfolgen, es sei denn, die KI-Natur ist aus den Umständen offensichtlich. Die Transparenzpflichten gelten seit 2. August 2026. Für Agenturen, die Chatbots und Voice-Agents ausliefern, ist das die zentrale Pflicht.

Die drei wichtigsten Antworten vorab

• Wer muss kennzeichnen? Artikel 50(1) adressiert den Anbieter, also denjenigen, der das System unter eigenem Namen bereitstellt. Ob das bei White-Label-Lösungen der Kunde oder die Agentur ist, hängt davon ab, unter wessen Namen oder Marke der Bot läuft (Artikel 3 Nr. 3).
• Wann gilt die Pflicht? Die Transparenzpflichten gelten seit 2. August 2026. Für generative KI-Systeme, die vorher in Verkehr gebracht wurden, läuft die Frist für die maschinenlesbare Kennzeichnung bis 2. Dezember 2026.
• Was kostet ein Verstoß? Bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes (Bußgeld-Stufe 2 nach Artikel 99).

Was Artikel 50 konkret verlangt

Artikel 50 liegt zwischen der unregulierten Minimal-Risiko-Stufe und dem Hochrisiko-Regime. Er gilt unabhängig von einer Hochrisiko-Einstufung: Viele Chatbots und Voice-Agents unterliegen ausschließlich den Transparenzpflichten nach Artikel 50 und keinen weiteren Hochrisiko-Anforderungen. Die Verordnung kennt vier Auslöser.

Für klassische Chatbots und Voice-Agents ist Artikel 50(1) entscheidend: KI-Systeme, die direkt mit natürlichen Personen interagieren sollen, müssen so gestaltet und entwickelt werden, dass die betroffenen Personen darüber informiert werden, dass sie mit einer KI interagieren. Die Pflicht trifft den Anbieter und greift, sofern dies nicht aus den Umständen und dem Kontext der Nutzung offensichtlich ist.

Daneben relevant für Agenten, die Inhalte produzieren:

• Artikel 50(2) verpflichtet den Anbieter, synthetisch erzeugte Audio-, Bild-, Video- oder Textinhalte in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert zu kennzeichnen. Das betrifft auch KI-Systeme mit allgemeinem Verwendungszweck (GPAI-Systeme), die Inhalte erzeugen.
• Artikel 50(3) verpflichtet den Deployer eines Emotionserkennungs- oder biometrischen Kategorisierungssystems, exponierte Personen über den Betrieb zu informieren.
• Artikel 50(4) verpflichtet den Deployer, Deepfakes sowie KI-generierte Texte zu Themen von öffentlichem Interesse offenzulegen, mit eng ausgelegten Ausnahmen für künstlerische Werke und für menschlich redaktionell verantwortete Texte.

Wann und wie der Hinweis erfolgen muss

Der EU AI Act schreibt keinen festen Wortlaut und keine starre Platzierung vor. Verlangt ist, dass Nutzer klar und rechtzeitig informiert werden, spätestens zu Beginn der Interaktion. Drei Prinzipien helfen bei der Umsetzung:

1. Rechtzeitig heißt: zu Beginn der Konversation, nicht erst im Kleingedruckten oder nach mehreren Nachrichten. Bei Voice-Agents muss der Hinweis hörbar zu Gesprächsbeginn fallen.
2. Klar und nicht versteckt heißt: deutlich sichtbar, nicht in den AGB vergraben. Als Deployer eines fremden Chatbots solltest du prüfen, ob die Offenlegung des Anbieters tatsächlich vorhanden und nicht verborgen ist.
3. Verständlich heißt: für den durchschnittlichen Nutzer ohne technisches Vorwissen erkennbar.

Bewährte Formulierungen für die Praxis (keine vorgeschriebenen Texte, sondern Beispiele, die das Transparenzziel erfüllen):

• Chat-Einblendung: „Hier schreibt ein KI-Assistent, kein Mensch.“
• Begrüßung des Bots: „Hallo, ich bin ein KI-gestützter Assistent. Wie kann ich helfen?“
• Voice-Agent zu Gesprächsbeginn: „Hier spricht ein automatisierter KI-Assistent, kein Mensch.“

Die Ausnahme: offensichtlich erkennbar

Artikel 50(1) entfällt, wenn die KI-Natur aus den Umständen und dem Kontext der Nutzung offensichtlich ist. Diese Ausnahme wird eng ausgelegt. Ein Voice-Agent, der menschlich klingt, muss seine KI-Natur offenlegen, weil sie eben gerade nicht offensichtlich ist. Ein Chatbot mit menschlichem Namen und Profilbild fällt ebenfalls nicht unter die Ausnahme. Wer sich auf sie beruft, sollte die Begründung schriftlich dokumentieren. Im Streitfall trägt der Verantwortliche die Argumentationslast.

Übersicht: Wer muss was kennzeichnen?

Praxisbeispiel mit Zahlen: Service-Chatbot im Handel

Ein österreichischer Online-Händler lässt von seiner Agentur einen Kundenservice-Chatbot bauen, der auf einem GPAI-Modell aufsetzt und etwa 8.000 Konversationen pro Monat abwickelt. Der Bot trägt einen menschlich klingenden Namen und ein Avatar-Bild. Einstufung: limitiertes Risiko, Artikel 50(1) greift; weil der Bot keine Entscheidungen über den Zugang zu wesentlichen Diensten trifft, entsteht keine Hochrisiko-Einstufung.

Liefert die Agentur den Bot unter dem Markennamen des Händlers aus, ist der Händler regelmäßig Anbieter und trägt die Artikel-50(1)-Pflicht. Brandet die Agentur ihn dagegen um und vertreibt ihn als eigenes Produkt, ist sie nach der Anbieter-Definition in Artikel 3 Nr. 3 selbst Anbieter, und die Pflicht wandert zu ihr. Umsetzung: eine sichtbare Einblendung „Hier schreibt ein KI-Assistent, kein Mensch“ zu Gesprächsbeginn, plus eine dokumentierte Prüfung, dass die Ausnahme „offensichtlich“ hier gerade nicht greift (menschlicher Name plus Avatar).

Rechenbeispiel zum Risiko: Bei fehlender Kennzeichnung droht ein Bußgeld der Stufe 2, also bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem welcher Betrag höher ist (Artikel 99(4)). Bei einem Unternehmen mit 200 Millionen Euro Konzernumsatz, das weder KMU noch kleines Mid-Cap-Unternehmen ist, wären 3 Prozent 6 Millionen Euro. Weil 15 Millionen Euro der höhere Wert ist, liegt die Obergrenze hier bei 15 Millionen Euro. Der Prozentwert greift erst ab einem Jahresumsatz von über 500 Millionen Euro. Für KMU und Start-ups gilt nach Artikel 99(6) jeweils der niedrigere der beiden Werte, für kleine Mid-Cap-Unternehmen (SMC) seit dem Digital Omnibus ebenso nach Artikel 99(6a).

Fristen nach dem Digital Omnibus

Die Transparenzpflichten nach Artikel 50 gelten seit 2. August 2026 (Artikel 113). Der Digital Omnibus (Verordnung (EU) 2026/1744) ist seit 27. Juli 2026 in Kraft. Er gibt nur Anbietern generativer KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, für die maschinenlesbare Kennzeichnung nach Artikel 50(2) eine Übergangsfrist bis 2. Dezember 2026. Neue Systeme müssen seit dem 2. August 2026 kennzeichnen.

Wichtig: Der Digital Omnibus verschiebt die Hochrisiko-Pflichten (Annex III nun ab 2. Dezember 2027), Artikel 50 in der Substanz aber nicht. Begleitend hat die EU-Kommission am 10. Juni 2026 den finalen Code of Practice zur Kennzeichnung KI-generierter Inhalte veröffentlicht (Entwürfe vom 17. Dezember 2025 und 3. März 2026). Am 20. Juli 2026 hat sie die Leitlinien zu den Transparenzpflichten nach Artikel 50 gebilligt und veröffentlicht, nachdem ein Entwurf ab 8. Mai 2026 zur Konsultation stand.

Für Agenturen und B2B

Wer Chatbots oder Voice-Agents ausliefert, sollte drei Dinge sofort regeln: Erstens die Rollenklärung im Vertrag: Wer ist Anbieter, wer Deployer, und macht das Branding die Agentur nach Artikel 3 Nr. 3 zum Anbieter? Zweitens den Disclosure-Baustein als Standard in jedem Bot: sichtbare Einblendung im Chat, hörbarer Hinweis beim Voice-Agent. Drittens eine Dokumentation der Ausnahme-Prüfung, falls du dich auf „offensichtlich erkennbar“ stützt. Blck Alpaca unterstützt DACH-Agenturen und B2B-Teams dabei, diese Kennzeichnung sauber, nutzerfreundlich und prüffest in bestehende Chatbot-Stacks zu integrieren.

Hinweis: Dieser Beitrag dient der fachlichen Orientierung und stellt keine Rechtsberatung dar. Für die rechtsverbindliche Bewertung deines konkreten Einsatzfalls zieh bitte qualifizierten Rechtsrat hinzu.