Biometrische Massenüberwachung im AI Act: Warum NGOs vor Schlupflöchern warnen

Biometrische Gesichtserkennung im öffentlichen Raum – verboten oder doch nicht? Der AI Act liefert eine Antwort, die NGOs als gefährlich bezeichnen: ein Grundsatzverbot mit so vielen Ausnahmen, dass Strafverfolgungsbehörden weiterhin tief in die biometrische Überwachung einsteigen können. Bürgerrechtsorganisationen warnen im Juni 2026 erneut vor systematischen Schlupflöchern. Zu Recht.

Das Grundsatzverbot, das keines ist

Der EU AI Act gilt seit dem 2. August 2024 und ist das erste umfassende KI-Gesetz weltweit. Ab dem 2. Februar 2025 greifen die Verbote für Praktiken mit „unannehmbarem Risiko“ – darunter, explizit, biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken. Klingt stark. Ist es aber nur auf den ersten Blick.

Artikel 5 Absatz 1 Buchstabe h AI Act verbietet die Verwendung solcher Systeme – nicht deren Inverkehrbringen, nicht deren Entwicklung, nicht deren Betrieb im Hintergrund. Und das Entscheidende: Das Verbot enthält drei zentrale Ausnahmen. Erstens die gezielte Suche nach Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung sowie nach vermissten Personen. Zweitens die Abwehr einer konkreten, erheblichen und unmittelbaren Gefahr für Leib und Leben oder eines Terroranschlags. Drittens das Aufspüren oder Identifizieren von Personen, die einer im Anhang II aufgelisteten schweren Straftat verdächtig sind.

Diese drei Ausnahmen klingen nach engen Ausnahmefällen. In der Praxis sind sie Generalklauseln. Denn wer entscheidet, ob eine Gefahr „erheblich und unmittelbar“ ist? Wer definiert, welche Straftaten „schwer“ genug sind? Die Antwort lautet: zunächst die zuständige Behörde, dann ein Gericht – aber nicht notwendigerweise vorab. Das ist kein technisches Detail, das ist das Kernproblem.

Wie Behörden die Ausnahmen in der Praxis nutzen

Das Deutsche Institut für Menschenrechte hat in einer detaillierten Analyse zur polizeilichen Gesichtserkennung herausgearbeitet, dass selbst ein „grundsätzliches Verbot“ mit eng klingenden Ausnahmen faktisch ein breites Einsatzfeld öffnet, sobald die Voraussetzungen weit interpretiert werden. Und diese weite Auslegung ist keine theoretische Gefahr – sie ist der zu erwartende Normalfall, wenn Behörden unter Handlungsdruck stehen.

Ein Bahnhof mit erhöhter Terrorgefahr, ein Stadion während eines politisch aufgeladenen Spiels, eine Grenzregion bei verschärfter Migrationslage: In all diesen Szenarien können Sicherheitsbehörden argumentieren, dass Ausnahmetatbestände greifen. Die Warnung des Deutschen Instituts für Menschenrechte ist unmissverständlich: Biometrische Gesichtserkennung durch Polizeibehörden birgt erhebliche Grundrechtsrisiken, auch und gerade dann, wenn sie formal rechtmäßig ist.

Besonders brisant ist die Regelung zur nachträglichen biometrischen Identifizierung. Sie ist nicht verboten, sondern als Hochrisiko-KI-System reguliert – mit Dokumentationspflichten, Risikomanagement und Konformitätsbewertung. Das klingt nach Kontrolle. Was es praktisch bedeutet: Behörden dürfen Videomaterial aus dem öffentlichen Raum aufzeichnen und es später biometrisch auswerten, wenn eine strafrechtliche Untersuchung läuft oder ein Gericht zustimmt. Die Kamera läuft schon. Die Gesichtserkennung kommt dann, wenn es politisch oder juristisch opportun erscheint.

Die NGO-Perspektive: Schlupflöcher als System

Die NGO Digitale Gesellschaft formulierte in einem offenen Brief zum AI Act bereits 2024 klar, was sie sieht: „zahlreiche und weitreichende Ausnahmen für biometrische Massenüberwachung durch KI-gestützte Gesichtserkennung“ und „unzureichende Transparenz- und Aufsichtspflichten“ im Sicherheitsbereich. AlgorithmWatch ergänzt, dass nachträgliche biometrische Identifizierung zulässig bleibt und Sicherheitsbehörden privilegierte Ausnahmen erhalten – eine Konstellation, die den Fortschritt des Gesetzes substanziell einschränkt.

Ich halte diese Kritik für berechtigt, und zwar nicht nur aus menschenrechtlicher Überzeugung, sondern aus regulatorischer Logik. Ein Gesetz, das eine Technologie grundsätzlich verbietet, aber gleichzeitig drei Ausnahmen schafft, von denen eine so formuliert ist wie „Abwehr einer erheblichen Gefahr“, hat kein echtes Verbot geschaffen. Es hat eine Genehmigungsstruktur geschaffen. Das ist nicht dasselbe.

Hinzu kommt die Dimension der nationalen Sicherheit. KI-Systeme, die ausschließlich für militärische Zwecke, Verteidigung oder nationale Sicherheit konzipiert sind, sind vom AI Act vollständig ausgenommen. Dort gelten nur nationales Recht und die Europäische Menschenrechtskonvention. Welche Behörden in welchen EU-Mitgliedstaaten Überwachungsprojekte in diesen Bereich verschieben, um strenge AI-Act-Vorgaben zu umgehen, ist derzeit nicht kontrollierbar. Das ist eine Lücke, die bewusst in das Gesetz eingebaut wurde.

Wie die Ausnahmen politisch entstanden sind

Recherchen von Investigate Europe zeigen, dass insbesondere Frankreich und andere Mitgliedstaaten aktiv darauf hingewirkt haben, Ausnahmen für Strafverfolgung und Sicherheitsbehörden im AI Act zu verankern. Die ursprünglich deutlich strengere Position des Europäischen Parlaments wurde in den Trilog-Verhandlungen erheblich verwässert. Das ist kein Vorwurf an einzelne Akteure – es ist die nüchterne Beschreibung eines politischen Prozesses, in dem nationale Sicherheitsinteressen über Grundrechtsschutz gestellt wurden.

Der Deutschlandfunk ordnete bereits früh ein, dass der AI Act ein Kompromissdokument ist, das technologischen Fortschritt fördern und gleichzeitig Grundrechte schützen soll – eine Spannung, die im Bereich biometrischer Überwachung besonders scharf zutage tritt. Die Frage ist nicht, ob Kompromisse nötig waren. Die Frage ist, wessen Interessen in diesen Kompromissen systematisch nachgegeben wurde.

Im Bereich Migration, Grenzsicherung und Strafverfolgung sind zentrale Transparenzpflichten des AI Act abgeschwächt. Behörden müssen weniger offenlegen, welche biometrischen Systeme sie einsetzen und wie. Das ist keine Randnotiz – das ist der Bereich, in dem Grundrechtsverletzungen am häufigsten dokumentiert sind und am schwersten zu verfolgen sind.

Verbotenes und Erlaubtes: Was der AI Act wirklich regelt

Zur Klarstellung, weil in der öffentlichen Debatte viel durcheinandergeht: Der AI Act verbietet biometrische Kategorisierung, mit der sensible Merkmale wie Ethnie, politische Überzeugung oder sexuelle Orientierung aus biometrischen Daten abgeleitet werden. Er verbietet Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer für klar definierte medizinische oder sicherheitsrelevante Zwecke. Er verbietet den Aufbau von Gesichtserkennungsdatenbanken durch ungezieltes Massenscraping aus dem Internet oder von Überwachungskameras. Das sind echte Fortschritte.

Was er nicht verbietet: den Aufbau flächendeckender Videoüberwachungsinfrastruktur, deren Auswertung nachträglich per Gerichtsbeschluss erfolgen kann. Was er schwach reguliert: den genauen Umfang, die Speicherdauer und die Kontrollmechanismen für biometrische Hochrisiko-Systeme in Sicherheitsbehörden. Das Deutsche Institut für Menschenrechte dokumentiert in seiner Analyse, dass polizeiliche Gesichtserkennung auch unter dem AI-Act-Regime erhebliche Risiken für unschuldig betroffene Personen, für Minderheiten und für die freie Ausübung von Grundrechten birgt.

Verstöße können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden – je nachdem, welcher Wert höher ist. Das klingt abschreckend. Aber Bußgelder helfen wenig, wenn die Verletzung von Grundrechten durch eine Behörde erst dann sanktioniert wird, wenn ein langwieriges Gerichtsverfahren abgeschlossen ist. Präventive Wirkung sieht anders aus.

Die technologische Verschiebung: Von Echtzeit zu nachträglich

Da Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken grundsätzlich verboten ist, erwarten Beobachter eine klare Verschiebung in der Praxis: mehr großflächige Videoaufzeichnung, spätere biometrische Auswertung bei Bedarf. Das Ergebnis ist faktisch dasselbe wie Echtzeit-Überwachung, nur mit zeitlichem Versatz und juristischer Absicherung. Für die betroffene Person macht das keinen Unterschied – ihre Daten wurden erfasst, gespeichert und ausgewertet.

Neben klassischer Gesichtserkennung entstehen außerdem Systeme zur Identifikation anhand von Gang, Stimme oder Körperproportionen. Der AI Act zählt auch diese unter biometrische Identifizierung. Aber die technologische Entwicklung ist schneller als jede Regulierung, und die Frage, welche dieser Systeme unter welchen Ausnahmetatbestand fallen, wird Gerichte noch Jahre beschäftigen. Mit Inkrafttreten der Verbote ab Februar 2025 ist bereits mit ersten Verfassungsbeschwerden und Klagen vor nationalen Gerichten und dem Europäischen Gerichtshof zu rechnen.

Gegenargumente: Was Befürworter biometrischer Überwachung vorbringen

Die Debatte wäre unvollständig ohne eine ernsthafte Auseinandersetzung mit den Argumenten auf der anderen Seite. Sicherheitsbehörden und ein Teil der Rechtspolitik verweisen auf konkrete Ermittlungserfolge, die durch biometrische Auswertung von Videomaterial erzielt wurden – etwa bei der Aufklärung von Terroranschlägen oder der Identifizierung von Tätern nach Massenveranstaltungen. Das sind keine erfundenen Szenarien; in mehreren europäischen Ländern wurden entsprechende Verfahren dokumentiert.

Befürworter argumentieren außerdem, dass ein vollständiges Verbot nachträglicher Auswertung Ermittlungsbehörden faktisch lähmen würde, weil digitale Spuren heute unverzichtbarer Bestandteil moderner Strafverfolgung sind. Sie betonen, dass richterliche Genehmigungsvorbehalte einen hinreichenden Schutz bieten – ähnlich wie beim Abhören von Telekommunikation, das ebenfalls unter strenge Auflagen gestellt, aber nicht grundsätzlich verboten ist. Das Argument hat eine gewisse Logik: Wenn Grundrechtseingriffe gerichtlich kontrolliert werden, ist das besser als unkontrollierter Einsatz.

Das Problem mit diesem Argument ist nicht, dass es falsch wäre – es ist, dass es die Beweislast verschiebt. Richterliche Kontrolle funktioniert nur dann als echte Schranke, wenn Gerichte die technischen Möglichkeiten von Gesichtserkennungssystemen, ihre Fehlerquoten bei bestimmten Bevölkerungsgruppen und die konkreten Risiken für Unschuldige vollständig beurteilen können. Ob das heute flächendeckend der Fall ist, darf bezweifelt werden. Technologische Kompetenz in der Justiz ist ein strukturelles Problem, das parallel zur Regulierung adressiert werden müsste.

Was konkret getan werden müsste: Handlungsschritte für Gesetzgeber und Zivilgesellschaft

Die Kritik an den Schlupflöchern des AI Act ist berechtigt – aber sie wird nur dann politisch wirksam, wenn sie mit konkreten Forderungen verbunden ist. Für Gesetzgeber auf nationaler und europäischer Ebene bedeutet das zunächst: klarere gesetzliche Definitionen der Ausnahmetatbestände. Begriffe wie „erhebliche Gefahr“ oder „schwere Straftat“ sollten durch Positivlisten konkretisiert werden, die Ermessensspielräume bei Behörden und Gerichten substanziell einengen.

Zweitens braucht es verpflichtende ex-ante-Kontrolle statt ex-post-Sanktionierung. Das bedeutet: Bevor eine Behörde ein biometrisches Hochrisiko-System in regulären Betrieb nimmt, muss eine unabhängige Stelle die Konformitätsbewertung prüfen und genehmigen – nicht erst dann, wenn ein Verstoß dokumentiert ist. Drittens wäre ein öffentliches Register für den Einsatz biometrischer Systeme durch staatliche Stellen ein minimaler Schritt zu mehr Transparenz. Wie solche Registerpflichten in Smart-City-Kontexten bereits diskutiert werden, zeigt, dass das kein unrealistischer Vorschlag ist, sondern an bestehende Regulierungsansätze anknüpft.

Für zivilgesellschaftliche Organisationen bedeutet die aktuelle Lage vor allem eines: die nationalen Umsetzungsprozesse des AI Act aktiv begleiten. Denn die eigentlich entscheidenden Weichenstellungen finden nicht mehr in Brüssel, sondern in nationalen Parlamenten, Polizeigesetzen und Behördenordnungen statt. Wer die Ausnahmetatbestände des AI Act eng oder weit auslegt, wird dort entschieden – und diese Entscheidungen sind veränderbar, wenn öffentlicher Druck und rechtliche Gegenwehr früh einsetzen.

Was das für Bürgerrechte und demokratische Kontrolle bedeutet

Meiner Einschätzung nach ist das eigentliche Problem des AI Act in diesem Bereich kein juristisches, sondern ein strukturelles: Ein Gesetz, das Ausnahmen für Sicherheitsbehörden mit abgeschwächten Transparenzpflichten kombiniert, schafft einen Bereich staatlicher Macht, der demokratischer Kontrolle systematisch entzogen ist. Das ist keine Schwarzmalerei – das ist die logische Konsequenz der Textlage.

Die Bundesnetzagentur, die als nationale Behörde zur Umsetzung des AI Act beiträgt, listet die verbotenen Praktiken auf ihrer Website detailliert auf. Was sie nicht leisten kann: die Kontrolle, wie Sicherheitsbehörden die Ausnahmetatbestände im Einzelfall auslegten. Dafür wäre eine starke, unabhängige Aufsicht nötig, die Zugang zu operativen Daten von Polizei und Geheimdiensten hätte. Diese Aufsicht existiert in den meisten EU-Mitgliedstaaten nicht in ausreichender Form.

Zivilgesellschaftliche Organisationen im Bereich Datenschutz-Lücken in KI-Systemen und demokratischer Kontrolle fordern seit Langem: Wer biometrische Überwachung einsetzt, muss das proaktiv und detailliert offenlegen – nicht erst auf richterliche Anordnung nach einem Verfahren, das Monate dauert. Solange diese Forderung nicht in geltendes Recht übersetzt ist, bleibt der AI Act im Bereich biometrischer Massenüberwachung ein Gesetz mit großem Anspruch und substanziellen Kontrolllücken.

Was jetzt auf dem Spiel steht

Die rechtliche Grauzone bei den Ausnahmen für biometrische Gesichtserkennung wird in den nächsten Jahren durch nationale Gesetzgebung, Rechtsprechung und Behördenpraxis konkretisiert. Wie eng oder weit Begriffe wie „konkrete, erhebliche und unmittelbare Gefahr“ oder „schwere Straftaten“ ausgelegt werden, ist derzeit offen. Das bedeutet: Die eigentliche Auseinandersetzung um biometrische Massenüberwachung in der EU hat gerade erst begonnen. Der AI Act hat einen Rahmen gesetzt – aber die Kämpfe um seinen Inhalt finden jetzt auf nationaler Ebene statt, in Parlamenten, vor Gerichten und in den täglichen Einsatzentscheidungen von Sicherheitsbehörden.

Bürgerrechtsorganisationen wie AlgorithmWatch, die Digitale Gesellschaft und das Deutsche Institut für Menschenrechte werden diese Prozesse begleiten und dokumentieren. Die Frage ist, ob die Öffentlichkeit das wahrnimmt, bevor biometrische Infrastruktur so tief in der Sicherheitsarchitektur verankert ist, dass eine Korrektur politisch kaum noch möglich erscheint. Wann haben Sie zuletzt geprüft, welche biometrischen Systeme Ihre kommunale Polizei oder Ihr Bahnhofsbetreiber betreibt – und auf welcher gesetzlichen Grundlage?