High-Risk AI
Öffnet den Chat mit einem vorbereiteten Prompt.
High-Risk AI bezeichnet KI-Systeme, die laut EU AI Act als hochriskant eingestuft werden, weil sie erhebliche Auswirkungen auf die Gesundheit, Sicherheit oder Grundrechte von Personen haben können. Darunter fallen unter anderem KI in der Personalrekrutierung, Kreditwürdigkeitsbewertung, Bildung und kritischen Infrastrukturen. Für diese Systeme gelten strenge Anforderungen an Transparenz, Dokumentation, menschliche Aufsicht und Risikomanagement. Im Marketing betrifft dies vor allem KI-gestützte Systeme zur automatisierten Entscheidungsfindung, die das Verhalten von Verbrauchern wesentlich beeinflussen können.
High-Risk AI grenzt sich von anderen KI-Kategorien durch ihre rechtliche Einstufung ab, nicht durch technische Merkmale. Ein Large Language Model wird erst dann hochriskant, wenn es in einem der im EU AI Act definierten Anwendungsbereiche eingesetzt wird. Ein Chatbot für Produktempfehlungen bleibt meist unproblematisch. Derselbe Chatbot wird hochriskant, sobald er Kreditentscheidungen trifft oder Bewerber vorselektiert. Die Grenze verläuft nicht zwischen Technologien, sondern zwischen Anwendungskontexten. Im Marketing betrifft das vor allem automatisierte Systeme, die Verbraucher in wesentlichen Entscheidungen beeinflussen – etwa dynamische Preisgestaltung, die bestimmte Gruppen systematisch benachteiligt, oder Targeting-Algorithmen, die Grundrechte tangieren.
Im B2B-Alltag bedeutet High-Risk AI konkrete Compliance-Pflichten. Wer ein KI-System zur automatisierten Lead-Qualifizierung einsetzt, das faktisch über Geschäftsbeziehungen entscheidet, muss dokumentieren, wie das System trainiert wurde, welche Daten es nutzt und wie Entscheidungen nachvollziehbar bleiben. Das erfordert technische Dokumentation, Risikofolgenabschätzungen und oft externe Audits. Für mittelständische Unternehmen im DACH-Raum heißt das: Budget für Rechtsberatung einplanen, interne Prozesse anpassen und möglicherweise auf bestimmte KI-Features verzichten. Ein System, das Kundenwert prognostiziert, ist unkritisch. Eines, das automatisch entscheidet, welche Kunden überhaupt Angebote erhalten, kann hochriskant sein.
Die größte Falle liegt in der Selbsteinschätzung. Viele Unternehmen unterschätzen, wann ihre KI-Systeme die Schwelle zur Hochrisiko-Kategorie überschreiten. Ein Marketing-Automation-Tool, das nur Empfehlungen ausspricht, bleibt meist außerhalb. Sobald es aber automatisiert Preise setzt oder Zugang zu Dienstleistungen steuert, ändert sich die Rechtslage. Die Kosten für Compliance sind erheblich: Dokumentationsaufwand, regelmäßige Audits, technische Anpassungen für Explainable AI. Kleinere Anbieter ziehen sich deshalb aus bestimmten Märkten zurück. Der Trade-off ist real – mehr Automatisierung bedeutet nicht automatisch mehr Effizienz, wenn Compliance-Kosten die Einsparungen auffressen.
Bei der Auswahl von KI-Systemen solltest du frühzeitig klären, ob dein Anwendungsfall unter High-Risk fällt. Verlasse dich nicht auf Herstellerangaben allein – die rechtliche Verantwortung liegt beim Betreiber, nicht beim Tool-Anbieter. Prüfe, ob das System menschliche Aufsicht ermöglicht, ob Entscheidungen nachvollziehbar sind und ob der Anbieter die nötige technische Dokumentation liefert. Für kritische Anwendungen lohnt sich der Aufbau interner Expertise oder die Zusammenarbeit mit spezialisierten Beratern. Die Alternative – bewusst auf hochriskante Anwendungen verzichten und KI auf unterstützende Funktionen beschränken – ist oft die wirtschaftlich klügere Entscheidung.
Verwandte Begriffe
So sieht diese Technologie im Einsatz aus.
Sieh dir an, wie wir Technologien wie diese für Unternehmen einsetzen, oder sprich direkt mit uns.