Cybersecurity
Mai 17, 2026
Seit dem 2. Februar 2025 gelten die Verbote nach Artikel 5 des EU AI Act. Keine Übergangsfrist mehr, kein weiteres Abwarten. Jetzt rückt die entscheidende Frage ins Zentrum: Wer setzt das eigentlich durch – und wie? Die Bundesnetzagentur hat als zentrale deutsche Anlaufstelle ihre Prioritäten klar benannt. Deepfakes und biometrische Systeme stehen ganz oben. Was das für Unternehmen, Entwickler und Nutzer konkret bedeutet, ist komplizierter, als es auf den ersten Blick wirkt.
Der EU AI Act ist kein Zukunftsdokument mehr. Seit dem 2. Februar 2025 sind die Verbote nach Artikel 5 rechtsverbindlich. Das klingt nach einer technischen Fußnote – ist es aber nicht. Bis zu diesem Datum konnten Unternehmen argumentieren, sie befänden sich noch in der Vorbereitung. Dieses Argument ist hinfällig. Wer heute bestimmte manipulative KI-Systeme betreibt, tut das nicht mehr in einer Grauzone, sondern gegen geltendes Recht.
Die Bundesnetzagentur hat in Deutschland die Rolle einer zentralen Anlaufstelle für die Kommunikation zu verbotenen KI-Praktiken übernommen und informiert öffentlich über die Artikel-5-Verbote. Klar ist: Es gibt sowohl nationale Zuständigkeiten als auch eine europäische Ebene. Die Aufsichtsarchitektur ist verteilt – wer genau für welchen Verstoß zuständig ist, hängt vom Anwendungsfall und der Systemkategorie ab. Das ist kein Fehler im System, sondern gewollte Arbeitsteilung. Für Unternehmen bedeutet es aber: Sie müssen auf mehreren Ebenen gleichzeitig compliant sein.
Was die nationalen Behörden jetzt tun, ist konzeptionell neu: Sie übersetzen abstrakte Verbotsartikel in konkrete Prüfmaßstäbe. Welche Systeme fallen unter „unzulässige Manipulation“? Was ist „biometrische Kategorisierung“? Die Antworten auf diese Fragen entstehen gerade – durch erste Positionierungen, Leitlinien und, wenn es hart auf hart kommt, durch Enforcement-Entscheidungen. Das ist der Übergang, den die Branche gerade erlebt.
Hier lohnt sich Präzision, weil die öffentliche Debatte oft in zwei Extremen gefangen ist: entweder „alles ist verboten“ oder „das ist doch alles nur Regulierungstheorie“. Beides stimmt nicht. Der AI Act nach Artikel 5 verbietet bestimmte Praktiken – nicht ganze Technologien.
Verboten sind unter anderem KI-Systeme, die durch unterschwellige Beeinflussung das Verhalten von Menschen manipulieren und dabei Schaden anrichten. Verboten sind Systeme zur sozialen Bewertung durch staatliche Stellen, die dann zu Nachteilen in anderen Lebensbereichen führen. Verboten sind bestimmte Formen der biometrischen Fernidentifizierung in Echtzeit im öffentlichen Raum – aber eben nicht jede biometrische Anwendung. Der AI Act differenziert nach Anwendungsfall, Risikostufe und Kontext. Gesichtserkennung in der Strafverfolgung unter eng definierten Bedingungen ist anders zu behandeln als ein kommerzielles System, das Kunden in Einkaufszentren scannt.
Meine Einschätzung: Diese Differenzierung ist richtig und notwendig. Wer pauschale Technologieverbote fordert, unterschätzt die gesellschaftliche Komplexität. Wer sagt, es sei alles halb so wild, ignoriert, dass Artikel 5 echte Zähne hat. Die IHK München hat eine der klareren Praxiszusammenfassungen zu diesen Abgrenzungen veröffentlicht – empfehlenswert für alle, die keine Zeit für den Originaltext haben.
Deepfakes sind das öffentliche Gesicht des AI Act – medial zumindest. Die Realität ist nüancierter. Was seit Februar 2025 gilt: Artikel 50 des AI Act verpflichtet dazu, KI-generierte oder manipulierte Bild-, Audio- und Videoinhalte als solche zu kennzeichnen. Das Deepfake-Verbot ist also in erster Linie kein absolutes Produktionsverbot, sondern eine Transparenzpflicht. Wer ein KI-generiertes Video veröffentlicht, muss das kenntlich machen. Wer das nicht tut, verletzt geltendes Recht.
Darüber hinaus gibt es auf EU-Ebene eine politische Einigung, nicht-einvernehmliche sexualisierte Deepfakes explizit und schärfer zu adressieren. Das soll über einen sogenannten KI-Omnibus in den AI Act integriert werden. Rat und Parlament haben sich laut übereinstimmenden Medienberichten geeinigt – aber: Formale legislative Schritte stehen noch aus. Netzpolitik.org berichtet, dass dieses Verbot näher rückt, aber wer den Konjunktiv überliest, macht einen Fehler. Es ist noch kein endgültig verabschiedetes Recht.
Was bedeutet das praktisch? Für Unternehmen und Plattformen, die synthetische Medieninhalte produzieren oder distribuieren, besteht jetzt Handlungsbedarf bei der Kennzeichnung. Für den Bereich nicht-einvernehmlicher Deepfakes – also etwa gefälschte Nacktbilder von realen Personen – ist die Rechtslage bereits durch andere Normen angespannt, und der AI Act fügt eine weitere Ebene hinzu. Wer in diesem Feld aktiv ist, hat keinerlei Komfortzone mehr.
Biometrie ist das zweite große Prioritätsfeld. Und hier wird die Aufsicht besonders genau hinschauen – das ist keine Spekulation, sondern folgt aus der Systematik des AI Act selbst. Biometrische Fernidentifizierung in Echtzeit im öffentlichen Raum ist grundsätzlich verboten, mit engen, klar definierten Ausnahmen für Strafverfolgungszwecke. Das ist eine der wenigen Stellen im Gesetz, wo der Gesetzgeber eine echte rote Linie gezogen hat.
Was heißt das für die Praxis? Wer ein System zur Gesichtserkennung im Einzelhandel betreibt, um Kunden zu identifizieren oder zu tracken, bewegt sich in gefährlichem Terrain. Wer biometrische Daten für Kategorisierungen nach ethnischer Zugehörigkeit, politischer Meinung oder sexueller Orientierung nutzt, verstößt gegen Artikel 5. Das klingt offensichtlich – aber in der Realität schlummern in Unternehmens-KI-Systemen oft Komponenten, die genau das tun, ohne dass es den Betreibern bewusst ist.
Die Bußgeldstruktur des AI Act macht die Risikokalkulation eindeutig: Bei Verstößen gegen die Verbote nach Artikel 5 sind Geldbußen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes möglich – je nachdem, welcher Betrag höher ist. Das sind keine symbolischen Strafen. Das ist ein echter unternehmerischer Risikofaktor, der in die Compliance-Planung gehört.
In Deutschland ist die Situation derzeit in Bewegung. Die Bundesnetzagentur tritt öffentlich als zentrale Kommunikationsstelle für verbotene KI-Praktiken auf. Gleichzeitig gibt es Bestrebungen, mit dem deutschen KI-Ministerialgesetz eine eigenständige Aufsichtsstruktur zu etablieren – ein Sonderweg, der in Brüssel mit gemischten Gefühlen betrachtet wird.
Was für Unternehmen kurzfristig zählt: Es gibt bereits Anlaufstellen. Die Bundesnetzagentur hat Material zu verbotenen Praktiken veröffentlicht. Das ist kein Freifahrtschein, aber ein Hinweis auf die Auslegungsrichtung. Parallel arbeiten Datenschutzbehörden, die bereits Erfahrung mit DSGVO-Verstößen haben, an Schnittstellen zwischen KI-Recht und Datenschutzrecht. Diese Schnittmenge ist größer, als viele Unternehmen wahrhaben wollen.
Auf europäischer Ebene koordiniert das AI Office der Europäischen Kommission die übergreifende Aufsicht, insbesondere bei General-Purpose-AI-Modellen. Die Architektur ist also mehrstufig: national für viele Anwendungen, europäisch für systemische Fragen. Das klingt nach Bürokratie – und ist es teilweise auch. Aber es spiegelt auch die politische Realität wider: KI-Aufsicht kann weder rein national noch rein europäisch funktionieren.
Compliance-Theorie ist das eine. Konkrete Schritte sind das andere. Wer heute noch keine Bestandsaufnahme seiner KI-Systeme gemacht hat, läuft hinter dem Enforcement her. Das sind die drei dringlichsten Handlungsfelder.
Erstens braucht jedes Unternehmen eine ehrliche Inventarisierung. Welche KI-Systeme werden intern oder in Produkten eingesetzt? Welche davon berühren Biometrie, Verhaltensbeeinflussung oder personenbezogene Kategorisierung? Diese Frage ist nicht immer leicht zu beantworten, weil KI-Komponenten oft in größere Software-Stacks eingebettet sind. Wer SaaS-Tools nutzt, muss auch den Anbieter in die Pflicht nehmen – der AI Act unterscheidet zwischen Anbieter und Betreiber, aber die Verantwortung liegt auf beiden Seiten.
Zweitens: Wer Inhalte mit KI erzeugt oder verändert – egal ob Texte, Bilder, Audio oder Video – muss die Kennzeichnungspflicht nach Artikel 50 bereits umsetzen. Das gilt für Marketingmaterial genauso wie für automatisch generierte Pressemitteilungen oder KI-produzierte Produktfotos. Keine Ausnahme für „kleine Unternehmen“ ist im Gesetz vorgesehen. Der Wortlaut von Artikel 50 ist im AI Act Compass abrufbar und eindeutig.
Drittens – und das wird gern übersehen – ist die Dokumentationspflicht das entscheidende Praxisproblem. Im Ernstfall müssen Unternehmen nachweisen können, wie ein System trainiert wurde, welche Daten geflossen sind, wer Betreiber ist und welche Maßnahmen zur Risikominimierung ergriffen wurden. Wer diese Dokumentation nicht hat, verliert bei einer Prüfung unabhängig davon, ob das System technisch legal ist. Das ist der Unterschied zwischen guter und schlechter Compliance: nicht das Vorhandensein eines Systems, sondern die Nachweisfähigkeit seiner Konformität.
Ein Bereich, der in der Branchendiskussion noch zu wenig Aufmerksamkeit bekommt: Medienunternehmen, Agenturen und Werbetreibende. KI-generierte Influencer, synthetische Moderatorenstimmen, nachbearbeitete Testimonials – all das fällt in den Anwendungsbereich der Transparenzpflichten nach Artikel 50. Die Werbebranche hat sich lange auf das Argument zurückgezogen, künstlerische Freiheit und kreative Praxis seien schwer regulierbar. Der AI Act nimmt dieses Argument nicht vollständig weg, schränkt es aber erheblich ein.
Was mich persönlich an dieser Entwicklung am meisten interessiert: Die Kennzeichnungspflicht für Deepfakes zwingt die Branche, eine Konvention zu schaffen, die Nutzerinnen und Nutzer schützt – nämlich die Erwartung, beim Konsum synthetischer Inhalte informiert zu werden. Das ist grundsätzlich richtig. Die Frage ist, ob die technische Umsetzung – Wasserzeichen, Metadaten, offene Standards – mit der Geschwindigkeit der Verbreitung mithalten kann. Das ist ein offenes Problem, auf das der Gesetzgeber keine fertige Antwort hat.
Die Transparenzpflicht nach Artikel 50 klingt im Gesetzestext klar. In der technischen Umsetzung wird es jedoch schnell kompliziert. Welches Format soll eine Kennzeichnung haben? Ein sichtbarer Hinweis im Bild, ein nicht sichtbares Wasserzeichen in den Metadaten, ein maschinenlesbares Signal in der Audiodatei? Der AI Act lässt diese Fragen weitgehend offen und verweist auf noch zu entwickelnde harmonisierte Normen. Die zuständigen europäischen Normungsgremien – darunter CEN und CENELEC – arbeiten an entsprechenden Standards, doch deren Fertigstellung ist für viele Bereiche noch nicht abgeschlossen.
Für Unternehmen bedeutet das eine unbequeme Zwischenphase: Die Pflicht gilt bereits, der technische Standard ist noch nicht vollständig definiert. In der Praxis bedeutet das, dass Unternehmen eigene Lösungen entwickeln oder auf Branchen-Initiativen wie die Coalition for Content Provenance and Authenticity (C2PA) zurückgreifen müssen, die an offenen Standards für Content-Credentials arbeitet. Das ist kein theoretisches Problem – Plattformen, Agenturen und Medienhäuser müssen heute Entscheidungen treffen, die sich möglicherweise anpassen müssen, sobald harmonisierte Normen vorliegen. Wer jetzt eine Lösung implementiert, die mit C2PA-Standards kompatibel ist, hat zumindest eine solide Ausgangsbasis.
Eine ausgewogene Einordnung erfordert auch, die Gegenargumente zu benennen. Kritiker des AI Act – darunter Teile der Startup-Szene und Forschungseinrichtungen – weisen auf drei strukturelle Schwächen hin, die in der Compliance-Diskussion oft ausgeblendet werden.
Erstens ist der Anwendungsbereich für viele kleine und mittlere Unternehmen schwer zu bestimmen. Wer eine KI-gestützte Kundendienst-Applikation betreibt, steht vor der Frage: Ist das ein Hochrisiko-System im Sinne des AI Act oder nicht? Die Antwort hängt vom Kontext ab – und dieser Kontext ist oft nicht eindeutig. Hier fehlen bisher ausreichend konkrete Leitlinien der Aufsichtsbehörden, die KMU tatsächlich handlungsfähig machen.
Zweitens besteht die Gefahr des regulatorischen Overreach: Wenn Unternehmen aus Vorsicht bestimmte KI-Anwendungen vollständig einstellen, die eigentlich legal wären, verlieren Verbraucher nützliche Dienste – ohne dass ein tatsächlicher Schutzgewinn entsteht. Diese Überkonformität ist ein reales Phänomen, das aus der DSGVO-Erfahrung bekannt ist.
Drittens bleibt die internationale Dimension ein blinder Fleck. Der AI Act gilt für Systeme, die auf dem EU-Markt eingesetzt werden – aber Anbieter außerhalb der EU, die ihre Dienste über das Internet anbieten, sind schwer zu erreichen. Ein Deepfake-Tool, das von einem Anbieter außerhalb Europas betrieben wird und von EU-Nutzern verwendet wird, ist theoretisch erfasst, praktisch aber kaum durchsetzbar. Diese Durchsetzungslücke ist ein strukturelles Problem, das auch der ambitionierteste nationale Aufsichtsapparat nicht schließen kann.
Diese Kritikpunkte bedeuten nicht, dass der AI Act falsch ist. Sie bedeuten, dass seine Wirksamkeit davon abhängt, wie konsequent die Aufsichtsbehörden die Lücken zwischen Gesetzestext und Praxis schließen – durch Leitlinien, durch Kooperation mit internationalen Partnern und durch eine Prioritätensetzung, die auf tatsächlichen Schadenspotentialen basiert.
Der EU AI Act ist kein Selbstläufer. Ein Gesetz, das nicht durchgesetzt wird, ist Papier. Was sich in den letzten Monaten verändert hat: Die nationale Aufsichtsebene nimmt Form an, die ersten Prioritäten sind gesetzt, und Deepfakes sowie Biometrie stehen ganz oben auf der Agenda. Das ist kein Zufall – es sind genau die Bereiche, in denen der gesellschaftliche Schaden am schnellsten sichtbar wird und in denen der politische Druck am größten ist.
Für Unternehmen, die noch auf Abwarten gesetzt haben, läuft die Zeit. Für alle anderen stellt sich die Frage: Reicht ein Compliance-Audit einmal im Jahr noch aus, oder braucht es kontinuierliches KI-Monitoring als Daueraufgabe? Und welche Antwort hat Ihr Unternehmen auf diese Frage heute?
