Erklärungsrecht bei KI-Entscheidungen: Neuer Auskunftsanspruch ab August 2026

Am 2. August 2026 ändert sich für alle EU-Bürgerinnen und Bürger etwas Grundsätzliches: Wer von einer Entscheidung betroffen ist, die auf einem Hochrisiko-KI-System beruht, kann erstmals ausdrücklich eine Erklärung verlangen. Kein Kulanz-Angebot, kein freiwilliges Kundenservice-Feature – sondern ein gesetzlich verankerter Auskunftsanspruch aus dem europäischen KI-Gesetz. Klingt nach einem Detail für Juristinnen und Juristen. Ist es aber nicht. Es ist der Versuch, algorithmische Blackboxes aus der Anonymität in Richtung Rechenschaftspflicht zu zwingen – und das an einer Stelle, an der es bislang erstaunlich wenig belastbares Recht gab.

Artikel 86: Was das neue Erklärungsrecht konkret bedeutet

Der zentrale Hebel heißt Artikel 86 des AI Act. Er verschafft betroffenen Personen ein Recht auf Erläuterung der Entscheidungsfindung im Einzelfall, wenn diese Entscheidung erheblich ist und auf den Ausgaben eines Hochrisiko-KI-Systems beruht. Konkret geht es um zwei Dinge: die wesentlichen Elemente der getroffenen Entscheidung und die Rolle, die das KI-System im Entscheidungsprozess tatsächlich gespielt hat.

Das ist präziser formuliert, als es zunächst wirkt, und genau deshalb auch enger, als mancher jetzt hofft. Niemand bekommt einen Anspruch auf den Quellcode, auf die Trainingsdaten oder auf eine vollständige mathematische Herleitung. Das Erklärungsrecht zielt auf Nachvollziehbarkeit im Einzelfall, nicht auf technische Offenlegung des Modells. Wer sich also vorstellt, künftig per Mausklick den kompletten Entscheidungsbaum einer Kreditscoring-KI einsehen zu können, wird enttäuscht. Was bleibt, ist trotzdem relevant: Betroffene erfahren, welche Faktoren zählten und welchen Anteil die Maschine an der Entscheidung hatte, statt nur ein „Leider abgelehnt“ zu erhalten.

Für den zivilgesellschaftlichen Blick lohnt sich der Verweis auf AlgorithmWatch: Die Organisation ordnet das Erklärungsrecht als zentralen Hebel ein, um Betroffene gegenüber intransparenten automatisierten Entscheidungen zu stärken – verbunden mit der nüchternen Warnung, dass ein Gesetzestext allein nichts bewirkt, wenn Aufsichtsbehörden personell nicht mithalten können.

Geschäftsgeheimnisse vs. Transparenz: Der ungelöste Konflikt

Ein Aspekt, der in der öffentlichen Debatte bisher zu kurz kommt, ist das Spannungsfeld zwischen Transparenzanspruch und Schutz geistigen Eigentums. Unternehmen, die Millionen in die Entwicklung proprietärer KI-Modelle investiert haben, fürchten zu Recht, dass weitreichende Auskunftsansprüche sensible Geschäftsgeheimnisse gefährden könnten. Der AI Act versucht hier zu balancieren: Artikel 86 verpflichtet zu Erklärungen, verlangt aber keine Offenlegung von Trainingsdaten, Modellgewichten oder internen Architekturentscheidungen.

In der Praxis wird genau diese Grenze zum Streitfall werden. Was ist noch nachvollziehbare Entscheidungserklärung, was bereits unzulässiger Einblick in wettbewerbsrelevantes Know-how? Ein KI-Anbieter im Versicherungsbereich könnte argumentieren, dass bereits die Nennung spezifischer Gewichtungsfaktoren Rückschlüsse auf sein proprietäres Risikomodell zulässt. Ein Verbraucheranwalt könnte dagegenhalten, dass ohne genau diese Details eine echte Nachvollziehbarkeit unmöglich sei. Diese Konflikte werden voraussichtlich erst durch erste Gerichtsentscheidungen geklärt – was bedeutet, dass Unternehmen und Betroffene in den ersten Jahren nach Inkrafttreten mit erheblicher Rechtsunsicherheit leben müssen.

Wann greift das Erklärungsrecht bei KI-Entscheidungen wirklich?

Entscheidend ist die Einstufung als Hochrisiko-KI-System. Der AI Act verfolgt einen risikobasierten Ansatz: Je größer die potenzielle Gefahr für Sicherheit oder Grundrechte, desto strenger die Pflichten. Anhang III listet die Bereiche auf, in denen Systeme typischerweise als Hochrisiko gelten – etwa Beschäftigung und Personalauswahl, Kreditwürdigkeitsprüfung, Zugang zu wesentlichen öffentlichen und privaten Diensten oder bestimmte Anwendungen im Bildungsbereich.

Praktisch heißt das: Wird eine Bewerbung durch ein automatisiertes Scoring-System vorsortiert und landet deshalb nie auf dem Schreibtisch einer Personalerin, kann die betroffene Person künftig fragen, welche Rolle das System gespielt hat. Wird ein Kreditantrag abgelehnt, weil ein Risikomodell eine bestimmte Bonitätsklasse errechnet hat, greift dasselbe Prinzip. Die Hürde „erhebliche Betroffenheit“ ist bewusst kein Freifahrtschein für jede Bagatell-Entscheidung, sondern soll Fälle mit echter Tragweite erfassen.

Wichtig für die Einordnung: Das Erklärungsrecht tritt neben bestehende Regelungen, es ersetzt sie nicht. Wer bereits heute über die DSGVO ein Auskunftsrecht bei automatisierten Einzelentscheidungen hat, verliert dieses nicht – der AI Act ergänzt den Werkzeugkasten, ohne bestehende Ansprüche zu kassieren. Wer sich also fragt, ob Datenschutzrecht künftig überflüssig wird, kann beruhigt sein: Es wird nur komplizierter, nicht einfacher.

Besonders relevant wird die Abgrenzung bei KI-Systemen in kritischen Infrastrukturen, wo algorithmische Entscheidungen über Energieverteilung oder Netzsteuerung zwar massive Auswirkungen haben, aber nicht immer einzelne Personen im Sinne des Artikels 86 direkt betreffen. Hier verschwimmen die Grenzen zwischen individueller Betroffenheit und kollektiver Tragweite – ein Regelungsbereich, den der AI Act nur unzureichend adressiert.

Der Zeitplan ist unübersichtlicher, als offizielle Timelines suggerieren

Hier wird es unangenehm konkret, und genau hier passieren die meisten Missverständnisse. Der AI Act ist bereits am 1. August 2024 in Kraft getreten. Verbotene KI-Praktiken – etwa Systeme zur gezielten Manipulation oder unzulässigen biometrischen Kategorisierung – galten schon ab Februar 2025. Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, also GPAI-Modelle, folgten ab August 2025.

Der große Stichtag 2. August 2026 markiert die allgemeine Anwendbarkeit der Verordnung. Ab diesem Datum gelten die Transparenzpflichten aus Artikel 50 verbindlich, und ab diesem Datum wird auch das Erklärungsrecht nach Artikel 86 wirksam. Wer jetzt aber annimmt, damit sei der gesamte Hochrisiko-Rahmen final scharfgestellt, irrt. Nach aktuellem Stand mit dem sogenannten Digital Omnibus wurden Teile der Hochrisiko-Pflichten aus Anhang III auf den 2. Dezember 2027 verschoben. Unternehmen mit Hochrisiko-Systemen müssen ab August 2026 zwar bereits Konformitätsbewertung, Dokumentation, CE-Kennzeichnung und Registrierung in der EU-Datenbank vorantreiben – der volle Hochrisiko-Rahmen greift aber gestreckt, nicht auf einen Schlag.

Für Bürgerinnen und Bürger bedeutet das: Das Erklärungsrecht selbst ist ab August 2026 einklagbar, aber die technische und organisatorische Reife der betroffenen Systeme hängt an einem Flickenteppich aus Übergangsfristen. Wer sich als Jurist oder Journalistin auf eine glatte Timeline verlässt, hat schon die halbe Geschichte verpasst.

Transparenzpflichten nach Artikel 50: Kennzeichnung statt Blackbox

Parallel zum Erklärungsrecht tritt ab August 2026 Artikel 50 in Kraft, der Transparenzpflichten für vier Fallgruppen regelt: Interaktion einer KI direkt mit Menschen, Erzeugung synthetischer Inhalte, Einsatz zur Emotionserkennung oder biometrischen Klassifizierung sowie die Erstellung von Deepfakes oder Inhalten zu Themen von öffentlichem Interesse. Anbieter müssen sicherstellen, dass Nutzerinnen und Nutzer erkennen, dass sie mit einer KI kommunizieren, und generative Systeme müssen ihre Ausgaben maschinenlesbar als KI-generiert kennzeichnen.

Das ist der praktischere, alltagsnähere Zwilling des Erklärungsrechts: Während Artikel 86 auf den Einzelfall einer belastenden Entscheidung zielt, soll Artikel 50 grundsätzliche Orientierung schaffen – man soll wissen, ob man gerade mit einer Maschine oder einem Menschen spricht, und ob ein Video echt oder synthetisch ist. Details zu Ausnahmen, etwa für rein unterstützende Funktionen wie Grammatikkorrektur, erläutert ArtificialIntelligenceAct.eu nachvollziehbar. Wer glaubt, ab 2026 werde jeder KI-generierte Inhalt automatisch technisch erkennbar, überschätzt die Reichweite der Norm allerdings deutlich: Die Pflicht trifft Anbieter, nicht das Internet als Ganzes, und gerade bei Open-Source-Modellen oder Angeboten außerhalb der EU bleibt Durchsetzung schwierig.

Die europäische KI-Strategie verfolgt mit diesen Transparenzanforderungen einen Ansatz, der Vertrauen als Wettbewerbsvorteil positioniert – in der Hoffnung, dass strenge Regeln mittelfristig zu höherer Akzeptanz und damit breiterer Adoption führen.

Grenzen des Erklärungsrechts – und warum sie unbequem sind

Meine persönliche Einschätzung: Das Erklärungsrecht ist ein wichtiger Fortschritt für Grundrechte im KI-Zeitalter, aber es wird häufig überschätzt. Der Anspruch liefert Auskunft, keine Korrektur. Wer erfährt, dass ein Kreditscoring-Modell eine bestimmte Einkommensschwelle als entscheidend gewertet hat, hat damit noch keinen Anspruch auf Aufhebung der Entscheidung oder auf eine menschliche Neubewertung – das regeln, wenn überhaupt, nationales Verbraucher-, Arbeits- oder Antidiskriminierungsrecht.

Hinzu kommt die Unschärfe des Begriffs „wesentliche Elemente der Entscheidung“. Was genau darunter fällt, ist juristisch offen und wird erst durch künftige Leitlinien, Aufsichtspraxis und Rechtsprechung konkretisiert. Genau diese Lücke ist der Punkt, an dem sich zeigen wird, ob das Erklärungsrecht ein scharfes Schwert oder ein zahnloser Papiertiger wird. Ist es nicht bezeichnend, dass ausgerechnet der zentrale Begriff der neuen Vorschrift zum Zeitpunkt ihres Inkrafttretens noch nicht abschließend definiert ist?

Szenarien aus der Praxis: Wo das Erklärungsrecht an seine Grenzen stößt

Drei konkrete Szenarien verdeutlichen, wie unterschiedlich das Erklärungsrecht in der Praxis wirken kann. Erstens: Eine Hochschulabsolventin erhält nach einem KI-gestützten Assessment eine Absage. Sie verlangt Erklärung – und erhält die Auskunft, dass ihr „Kommunikationsprofil“ nicht zum Anforderungsmuster passe. Formal erfüllt, inhaltlich wertlos. Zweitens: Ein Kleinunternehmer wird bei einem Firmenkredit abgelehnt, weil das Scoring-System Branchenrisiken überproportional gewichtet. Die Erklärung nennt zwar die Faktoren, aber die Gewichtungstabelle bleibt Geschäftsgeheimnis. Drittens: Eine Mieterin erfährt nach Ablehnung ihrer Wohnungsbewerbung, dass ein automatisiertes Bonitätsmodell ihren Score als unzureichend eingestuft hat – ohne zu erfahren, welche Datenquellen den Score beeinflussten.

In allen drei Fällen greift das Erklärungsrecht formal. In keinem der Fälle führt es automatisch zu einer fairen oder korrigierten Entscheidung. Genau hier zeigt sich die strukturelle Schwäche: Transparenz ist eine notwendige, aber keine hinreichende Bedingung für Gerechtigkeit. Ohne begleitende Mechanismen – etwa einen Anspruch auf menschliche Überprüfung oder ein Verbot bestimmter Diskriminierungsmerkmale – bleibt das Erklärungsrecht ein Informationsrecht ohne Durchgriffswirkung. Wer als betroffene Person nur weiß, warum eine Entscheidung gegen einen ausfiel, aber keine Handhabe hat, sie anzufechten, steht am Ende kaum besser da als vorher.

Ein Blick in die verfügbaren Technologien der künstlichen Intelligenz zeigt zudem, dass Explainable AI keine triviale Ingenieursaufgabe ist. Moderne Modelle, insbesondere komplexe neuronale Netze, liefern selten eine saubere, für Laien verständliche Kausalkette. Unternehmen, die jetzt erst anfangen, Dokumentationsprozesse und nachvollziehbare Entscheidungslogik in ihre Architekturen einzubauen, werden im August 2026 improvisieren müssen – mit dem Risiko, Erklärungen zu liefern, die formal existieren, aber inhaltlich wenig erklären.

Bußgelder und Durchsetzung: Wer wacht über das neue Recht?

Der AI Act stützt seine Ansprüche mit einem gestuften Sanktionsregime. Verstöße gegen die verbotenen Praktiken nach Artikel 5 können mit Bußgeldern bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes belegt werden, je nachdem, welcher Betrag höher ausfällt. Verstöße gegen sonstige Verpflichtungen, etwa bei Hochrisiko-Systemen oder Transparenzpflichten, können mit bis zu 15 Millionen Euro oder 3 Prozent des Jahresumsatzes sanktioniert werden. Falsche oder unvollständige Angaben gegenüber Behörden ziehen Bußgelder bis 7,5 Millionen Euro oder rund 1 Prozent des Umsatzes nach sich.

Diese Zahlen sind beeindruckend auf dem Papier, aber Zahlen allein setzen keine Grundrechte durch. Entscheidend wird, ob das EU AI Office und die nationalen Marktüberwachungsbehörden ab August 2026 tatsächlich handlungsfähig sind. Verstöße gegen das Erklärungsrecht können über ein Beschwerderecht bei nationalen Behörden geltend gemacht werden – ein Mechanismus, der theoretisch funktioniert, praktisch aber von der Ausstattung der jeweiligen Aufsichtsstellen abhängt. Wer in Deutschland, Frankreich oder den Benelux-Staaten unterwegs ist, wird schon jetzt merken, dass die nationale Umsetzung unterschiedlich weit fortgeschritten ist – ein Umstand, der die Durchsetzung des Erklärungsrechts europaweit uneinheitlich machen dürfte.

Für Unternehmen bedeutet das: Compliance ist keine Kür mehr. Beratungsanbieter wie TÜV Consulting sprechen inzwischen offen von einer Zertifizierungspflicht durch die Hintertür – Hochrisiko-KI-Systeme müssen ähnlich wie Medizinprodukte oder Maschinen konformitätsbewertet und CE-gekennzeichnet werden, inklusive spürbarer Kosten für Dokumentation und Governance-Strukturen. Gerade für mittelständische Unternehmen, die KI-Systeme von Drittanbietern nutzen, stellt sich die Zusatzfrage: Haften sie als Betreiber für mangelhafte Erklärungen, die ihr KI-Lieferant technisch gar nicht liefern kann? Diese Verantwortungskette bleibt in der Praxis eine der heikelsten offenen Fragen.

Was Betroffene jetzt konkret tun können

Wer sich ab August 2026 durch eine KI-gestützte Entscheidung benachteiligt fühlt, sollte zunächst den verantwortlichen Betreiber oder Anbieter des Systems kontaktieren – also die Bank, den Arbeitgeber oder die Behörde, die das System einsetzt. Schriftliche Anfragen mit konkretem Bezug zur betroffenen Entscheidung erhöhen die Erfolgschancen, weil sie den Betreiber zwingen, konkrete Elemente statt allgemeiner Floskeln zu liefern.

Bleibt eine Antwort aus oder wirkt sie unzureichend, führt der nächste Schritt zur zuständigen nationalen Aufsichtsbehörde, bei der eine Beschwerde nach dem AI Act möglich ist. Parallel bleibt der Weg über bestehende Datenschutz- und Antidiskriminierungsrechte offen, insbesondere wenn eine Entscheidung nicht nur intransparent, sondern auch inhaltlich diskriminierend wirkt. Wer im Bereich Beschäftigung, Kreditvergabe oder Sozialleistungen betroffen ist, tut gut daran, Entscheidungen und Kommunikation von Anfang an schriftlich zu dokumentieren – im Zweifel ist das die beste Grundlage für eine spätere Erklärungsanfrage oder Beschwerde.

Für Unternehmen und Behörden gilt: Wer Hochrisiko-Systeme im Einsatz hat oder plant, sollte jetzt beginnen, Entscheidungslogik, Datenquellen, Modellversionen und menschliche Aufsichtsprozesse so zu dokumentieren, dass eine verständliche Erklärung im Einzelfall überhaupt möglich ist. Explainable AI ist damit vom netten Feature zur Compliance-Voraussetzung geworden – wer das verschläft, wird im August 2026 improvisierte, angreifbare Erklärungen liefern müssen.

Zwischen Anspruch und Wirklichkeit

Das Erklärungsrecht ist zweifellos ein Fortschritt: Erstmals gibt es einen expliziten, EU-weiten Anspruch, der Grundrechte im Umgang mit algorithmischen Entscheidungen stärkt und Intransparenz nicht länger als Normalzustand akzeptiert. Gleichzeitig ist es kein Allheilmittel. Die Reichweite bleibt an Hochrisiko-Konstellationen gebunden, die Definition zentraler Begriffe ist offen, und die Durchsetzung hängt an Behörden, deren Ausstattung von Mitgliedstaat zu Mitgliedstaat variiert.

Was bleibt, ist die Frage, ob aus diesem Papier-Recht bis August 2026 tatsächlich gelebte Praxis wird – oder ob Betroffene erst durch mühsame Einzelfälle und erste Gerichtsentscheidungen herausfinden müssen, was „wesentliche Elemente einer Entscheidung“ wirklich bedeutet. Wer in den kommenden Monaten mit automatisierten Entscheidungen konfrontiert wird, sollte diesen Anspruch jedenfalls kennen – und ihn notfalls einfordern.