Seit dem 2. Februar 2025 sind Emotionserkennungssysteme im Arbeitskontext in der EU verboten – nicht reguliert, nicht eingeschränkt, sondern verboten. Artikel 5 der KI-Verordnung lässt keinen Interpretationsspielraum. Trotzdem verkaufen HR- und Security-Start-ups weiterhin Tools, die genau das tun. Das Bußgeldrisiko: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.
Der EU AI Act ist kein Zukunftsdokument mehr. Die Verordnung ist am 1. August 2024 in Kraft getreten, und die ersten harten Verbote des Artikels 5 gelten seit dem 2. Februar 2025. Die Bundesnetzagentur hat das auf ihrer Website unmissverständlich dokumentiert. Wer bis heute nicht reagiert hat, operiert nicht in einer Grauzone – sondern schlicht illegal.
Für HR- und Security-Start-ups, die mit Emotionserkennung Geld verdienen, ist das eine existenzielle Realität. Nicht irgendwann, nicht nach einer weiteren Übergangsfrist. Jetzt. Viele Gründerteams hoffen noch auf Unklarheiten in der Auslegung, auf nachsichtige Aufsichtsbehörden, auf den berühmten „praktischen Ermessensspielraum“. Den gibt es bei Art. 5 KI-VO nicht.
Meiner Einschätzung nach unterschätzen gerade frühe Start-ups systematisch, wie wenig Verhandlungsmasse das Gesetz an dieser Stelle lässt. Artikel 5 formuliert keine Hochrisikoklassifizierung mit Auflagen – er formuliert ein Verbot. Der Unterschied ist fundamental und wird in den nächsten Monaten schmerzhaft sichtbar werden, wenn nationale Aufsichtsbehörden ihre ersten Fälle aufgreifen.
Artikel 5 Absatz 1 Buchstabe f der KI-Verordnung verbietet das Inverkehrbringen, die Inbetriebnahme und die Nutzung von Emotionserkennungssystemen in Arbeitsumgebungen und Bildungseinrichtungen. Die Definition in Artikel 3 Nummer 39 ist dabei technisch präzise: Ein Emotionserkennungssystem ist jedes KI-System, das darauf ausgelegt ist, Emotionen oder Absichten natürlicher Personen auf Grundlage ihrer biometrischen Daten zu erkennen oder abzuleiten – also auf Basis von Gesichtsausdrücken, Stimme, Körperhaltung, Puls oder Blickbewegungen.
Wichtig für die Praxis: Das Verbot greift nicht nur für Entwickler, sondern für jeden, der solche Systeme einsetzt. Ein Konzern, der ein Tool eines Start-ups lizenziert, das Bewerbungsinterviews per KI auf emotionale Signale scannt, verstößt genauso gegen Artikel 5 wie das Start-up selbst. Compound Law fasst es treffend zusammen: „Der AI Act verbietet Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Punkt.“
Ausnahmen existieren, sind aber eng gefasst. Medizinische Anwendungen in klinischen Kontexten und bestimmte Sicherheitsanwendungen – etwa Müdigkeitserkennung bei Fahrzeugführern – bleiben grundsätzlich möglich. Für allgemeine HR-Wellbeing-Plattformen, Performance-Tracker oder Recruiting-Software greifen diese Ausnahmen praktisch nicht. Wer das Gegenteil behauptet, braucht sehr gute Anwälte und noch bessere Nerven.
Welche konkreten Anwendungen fallen unter das Verbot? Die Liste ist länger, als viele Start-ups einräumen wollen. Recruiting-Plattformen, die Video-Interviews automatisch auf „Stressmuster“, „Authentizität“ oder „Kulturpassung“ analysieren, indem sie Mimik, Stimmfrequenz oder Blickverhalten auswerten – verboten. Tools, die in Echtzeit die Webcam-Feeds von Mitarbeitenden in Remote-Meetings scannen, um „Stimmungslagen im Team“ zu erfassen – verboten.
Contact-Center-Software, die nicht die Kundenseite, sondern die Mitarbeitenden auf emotionale Signale überwacht, um daraus Leistungsbeurteilungen abzuleiten – verboten. Und im Security-Bereich: Zugangskontrollsysteme, die neben der Identifikation gleichzeitig „auffällige Nervosität“ oder „Aggressivität“ bei Mitarbeitenden erkennen sollen – verboten. Selbst wenn diese Systeme als „Produktivitätstracker“ oder „Employee-Wellness-Tools“ vermarktet werden: Entscheidend ist die Funktion, nicht das Label.
Das ist keine akademische Spitzfindigkeit. Der Datenschutzticker hat die relevante Rechtslage dokumentiert: Biometrische Emotionsdaten gelten zusätzlich als besondere Kategorien personenbezogener Daten nach Artikel 9 DSGVO – HR- und Security-Start-ups sind damit gleichzeitig in zwei Rechtssystemen exponiert. KI-Verordnung und DSGVO greifen parallel. Das verdoppelt nicht nur die Compliance-Last, sondern potenziell auch die Haftungsrisiken.
Ein gefährlicher Mythos hält sich hartnäckig in der Start-up-Szene: dass eine informierte Einwilligung der Mitarbeitenden das Problem löst. Das ist falsch – und zwar fundamental falsch. Artikel 5 KI-VO enthält sogenannte „hard bans“, unbedingte Verbote, die durch keine Einwilligung aufgehoben werden können.
Selbst wenn Mitarbeitende schriftlich zustimmen, ihre Mimik bei Vorstellungsgesprächen analysieren zu lassen, bleibt die Nutzung des Systems verboten. Das Argument, Freiwilligkeit schaffe Rechtmäßigkeit, scheitert hier am Grundprinzip des Verbots: Bestimmte Praktiken sollen schlicht nicht stattfinden, weil sie strukturell Machtverhältnisse ausnutzen. Im Arbeitsverhältnis ist die Einwilligung ohnehin selten wirklich freiwillig – das weiß der Gesetzgeber, und deshalb gibt es den hard ban.
Ähnlich verhält es sich mit dem Argument, nachträgliche Auswertung sei zulässig, weil nur Echtzeit-Erkennung verboten sei. Das stimmt nicht für Emotionserkennung im Arbeitskontext. Die Echtzeit-versus-Nachträglich-Unterscheidung spielt bei der biometrischen Fernidentifizierung im öffentlichen Raum eine Rolle – nicht als Schlupfloch für Workplace-Emotionserkennung. Wer seinen Kunden das Gegenteil verkauft, baut ein Geschäftsmodell auf Sand.
Neben der Einwilligungsfalle kursieren in der Branche weitere Konstrukte, mit denen Start-ups versuchen, das Verbot zu umgehen. Ein verbreiteter Ansatz ist das sogenannte „Aggregations-Argument“: Das System analysiere keine Einzelperson, sondern nur Gruppentrends – beispielsweise die „kollektive Stimmung im Meeting-Raum“. Auch das greift nicht. Sobald biometrische Signale einzelner Personen als Inputdaten dienen, auch wenn der Output als aggregierter Score präsentiert wird, liegt eine Emotionserkennungsfunktion im Sinne des AI Acts vor. Das Verbot bezieht sich auf die technische Funktionsweise, nicht auf die Darstellungsebene im Dashboard.
Ein zweiter häufiger Versuch: das Rebrandung als „Engagement-Analyse“ oder „Aufmerksamkeitsmonitoring“. Wenn ein System Blickbewegungen, Lidschlagfrequenz oder Gesichtsmuskelbewegungen auswertet, um daraus auf den mentalen Zustand einer Person zu schließen – und das im Arbeitskontext – ist es ein Emotionserkennungssystem, unabhängig davon, welches Wort im Produktnamen steht. Aufsichtsbehörden werden bei der Prüfung auf die technische Dokumentation schauen, nicht auf das Marketing-Glossar.
Ein dritter Irrtum betrifft die geografische Einschränkung: Manche Teams glauben, sie könnten das Produkt einfach aus EU-Jurisdiktionen heraushalten und von einem Drittlandsserver betreiben. Doch der AI Act gilt nach seinem territorialen Anwendungsbereich auch für Anbieter aus Drittstaaten, wenn deren Systeme in der EU eingesetzt werden oder deren Output in der EU genutzt wird. Ein in den USA gehostetes Tool, das einem deutschen Konzern für Recruiting-Interviews verkauft wird, unterliegt trotzdem dem Verbot.
Die Sanktionsdrohung ist keine theoretische Kulisse. Verstöße gegen Artikel 5 KI-VO sind die schwerste Kategorie der KI-Verordnung – schwerer als Verstöße gegen Hochrisikopflichten oder Transparenzanforderungen. Die Obergrenze liegt bei 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Wert höher ist. Für ein Start-up mit zwei Millionen Euro Jahresumsatz ist das theoretisch „nur“ 140.000 Euro – für eines mit 50 Millionen Euro Umsatz sind es 3,5 Millionen Euro. In beiden Fällen reicht es, um ein junges Unternehmen vom Markt zu nehmen.
Das eigentliche Risiko geht aber über Bußgelder hinaus. Große Unternehmenskunden richten ihre KI-Compliance-Prozesse gerade aktiv am AI Act aus. Tools, die gegen Artikel 5 KI-VO verstoßen, sind für Konzerne und öffentliche Auftraggeber schlicht nicht einsetzbar – nicht weil die Rechtsabteilung übervorsichtig ist, sondern weil der Einsatz auch auf Kundenseite illegal ist. Das bedeutet: Bestehende Verträge können angefochten werden, neue Deals kommen nicht zustande, und Investoren fragen in Due-Diligence-Prozessen zunehmend explizit nach AI-Act-Risiken. Ein Produkt, das gegen Artikel 5 verstößt, ist auf dem EU-Markt faktisch nicht finanzierbar.
Die gute Nachricht: Emotionserkennung ist nicht in jedem Kontext verboten – nur in Arbeitsumgebungen und Bildungseinrichtungen. Viele Start-ups pivotieren deshalb gerade Richtung Marketing und Customer Experience. Wer Kundenreaktionen auf Werbemittel, Produktdesigns oder digitale Interfaces analysieren will, operiert in einem rechtlich anderen Raum – vorausgesetzt, die betroffenen Personen werden transparent informiert und die Analyse führt nicht zu hochriskanten Folgeentscheidungen ohne menschliche Kontrolle.
Im Security-Bereich liegt der Schwerpunkt der Neuausrichtung auf Anomalieerkennung in IT-Systemen, Objekterkennung für Sicherheitsausrüstung und Zugangskontrolle ohne emotionale Bewertungskomponente. Systeme, die erkennen, ob jemand Schutzkleidung trägt, oder ob sich eine Person in einem Gefahrenbereich befindet, sind grundsätzlich zulässig – solange keine Rückschlüsse auf individuelle Emotionen oder Absichten gezogen werden.
Für HR-Analytics bedeutet der Pivot weg von biometrischen Daten hin zu strukturierten Leistungsmetriken, anonymisierten Pulsbefragungen und Feedbacksystemen ohne körperliche Signalauswertung. Das klingt weniger spektakulär als „KI liest Stress aus der Stimme“ – aber es ist rechtskonform, wissenschaftlich belastbarer und für Arbeitnehmervertreter akzeptabler. Betriebsräte und Gewerkschaften waren gegenüber Emotionserkennung ohnehin schon vor dem AI Act extrem skeptisch; der Gesetzgeber hat ihre Bedenken nun in hartes Recht gegossen.
Ein Aspekt, der im Compliance-Diskurs zu kurz kommt: Emotionserkennung per KI ist nicht nur rechtlich problematisch – sie ist auch wissenschaftlich fragwürdig. Mimik, Stimme und Körperhaltung lassen keine zuverlässigen Rückschlüsse auf komplexe innere Zustände zu. Kulturelle Unterschiede, individuelle Ausdrucksvariationen und Kontextfaktoren machen jeden universellen Emotionsscore methodisch angreifbar.
Die Max-Planck-Gesellschaft weist in ihrem FAQ zum AI Act darauf hin, dass Emotionserkennungssysteme stark fehleranfällig sind und diskriminierende Effekte produzieren können. Ein System, das bei bestimmten Akzenten oder Gesichtsstrukturen systematisch andere Scores produziert, ist nicht nur ein Compliance-Problem – es ist ein Diskriminierungsrisiko, das Unternehmen in weitere Haftungssituationen nach AGG und DSGVO treiben kann.
Start-ups, die ihre Produkte bisher mit dem Argument verkauft haben, KI erkenne „echte“ Emotionen besser als Menschen, sollten ihre eigenen Versprechen kritisch prüfen. Die wissenschaftliche Evidenz trägt diese Behauptung in den meisten Anwendungsszenarien nicht. Und ein Produkt, das rechtlich verboten und wissenschaftlich zweifelhaft ist, hat auf dem Markt langfristig keine Chance – unabhängig davon, wie gut die Pitch-Deck-Folien aussehen.
Wer bisher nicht gehandelt hat, muss das jetzt nachholen – und zwar strukturiert. Der erste Schritt ist ein vollständiger Feature-Review: Welche Produktkomponenten leiten Emotionen oder Absichten aus biometrischen Signalen ab? Diese Funktionen müssen identifiziert, dokumentiert und deaktiviert werden. Nicht nur in der EU-Version des Produkts – international agierende Start-ups werden feststellen, dass große Kunden weltweit zunehmend AI-Act-Konformität als Mindeststandard einfordern. Diesen „Brüssel-Effekt“ sollte niemand unterschätzen, der internationale Skalierung plant.
Der zweite Schritt ist die rechtliche Absicherung: Bestehende Verträge mit Kunden, die betroffene Funktionen nutzen, müssen geprüft werden. Manche Verträge können angefochten oder gekündigt werden, wenn das Tool nicht mehr vertragskonform eingesetzt werden darf. Hier empfiehlt sich frühzeitige Kommunikation mit Bestandskunden – Transparenz ist besser als der Überraschungsmoment, wenn eine Aufsichtsbehörde tätig wird.
Drittens: Wer in der Grauzone operiert – etwa mit Systemen, die Verhalten analysieren, ohne explizit Emotionen zu benennen – braucht eine konservative Auslegung und dokumentierte Abwägung, keine Selbstberuhigung. Die Bundesnetzagentur ist als mögliche nationale Aufsichtsbehörde bereits aktiv und veröffentlicht Informationen zu verbotenen Praktiken. Wer auf deren Radar landet, sollte nicht erst dann anfangen, die Rechtslage zu klären.
Viertens – und das betrifft die Produktstrategie langfristig: Compliance-by-Design muss zum Standard werden. Das bedeutet, Legal- und Privacy-Teams frühzeitig in Produktentscheidungen einzubinden, biometrische Daten zu vermeiden, wo immer ein gleichwertiges nicht-invasives Verfahren existiert, und die Trennung zwischen zulässiger Analyse und verbotener Emotionserkennung sauber zu dokumentieren. Diese Dokumentation ist nicht bürokratischer Aufwand – sie ist die einzige Versicherung, wenn eine Behörde fragt.
Ein Faktor, den Gründerteams erfahrungsgemäß zu spät einpreisen, ist die veränderte Risikowahrnehmung auf Investorenseite. Venture-Capital-Fonds mit europäischem Portfolio haben ihre Due-Diligence-Checklisten seit dem Inkrafttreten des AI Acts spürbar erweitert. Rechtliche Haftungsrisiken aus verbotenen KI-Praktiken gelten mittlerweile als potenzielle Deal-Breaker – nicht weil Investoren besonders regulierungsaffin geworden wären, sondern weil ein laufendes Aufsichtsverfahren oder eine behördliche Anordnung zur Produktabschaltung den Unternehmenswert innerhalb weniger Wochen massiv beschädigen kann.
Konkret bedeutet das: Start-ups, die Emotionserkennung im Portfolio haben, sollten erwarten, dass Investoren in Series-A- oder Series-B-Prozessen explizit nach dem Status der Artikel-5-Konformität fragen. Wer darauf keine belastbare Antwort hat – idealerweise in Form eines dokumentierten Feature-Reviews und eines rechtlichen Gutachtens – setzt nicht nur den Deal, sondern seine gesamte Finanzierungsstrategie aufs Spiel. Frühzeitig proaktiv zu kommunizieren, welche Maßnahmen bereits ergriffen wurden, ist in solchen Gesprächen weit überzeugender als das Argument, man habe das Problem „auf dem Radar“.
Der AI Act hat mit Artikel 5 eine klare Linie gezogen. Emotionserkennung in Arbeitsumgebungen und Bildungseinrichtungen ist verboten – unabhängig von Einwilligung, Label oder technischer Implementierung. HR- und Security-Start-ups, die diesen Pivot noch vor sich haben, sollten sich keine Illusionen machen: Die Übergangsfrist ist abgelaufen. Die Compliance-Uhr läuft.
Das wirft eine Frage auf, die über das rechtliche Minimum hinausgeht: Wäre ein auf Emotionsscores basierendes Recruiting-Tool – selbst wenn es irgendwann wieder erlaubt würde – wirklich das Produkt, das man bauen möchte? Die wissenschaftliche Evidenz ist dünn, die gesellschaftliche Akzeptanz gering, und der Nutzen für betroffene Arbeitnehmerinnen und Arbeitnehmer fragwürdig. Manche Verbote machen nicht nur rechtlich Sinn.
Haben Sie Ihr Produkt-Portfolio bereits auf Artikel-5-Konformität geprüft – und wenn nicht, was hält Sie davon ab?
