EU-Regulatoren und KI-Cyberkriminalität: Was Unternehmen jetzt konkret tun müssen

Europol beschreibt es nüchtern: Künstliche Intelligenz senkt die technische Einstiegshürde für Kriminelle – und macht Cybercrime skalierbarer als je zuvor. Was EU-Regulatoren gerade dokumentieren, ist keine Science-Fiction-Warnung, sondern eine Lagebeschreibung des Jahres 2025: Deepfakes, automatisiertes Phishing und KI-gestützte Erpressung sind operative Werkzeuge krimineller Akteure. Die Frage ist nicht mehr, ob Unternehmen betroffen sein werden, sondern wie sie vorbereitet sind.

Was Europol wirklich warnt – und was Medien daraus machen

Vorab eine notwendige Klarstellung: Europol spricht nicht von einer singulären „neuen Welle“ der KI-Cyberkriminalität. Die Behörde beschreibt in ihren aktuellen Analysen eine Beschleunigung bekannter Kriminalitätsmuster – Phishing, Finanzbetrug, Erpressung und die sexuelle Ausbeutung von Minderjährigen werden durch KI-Werkzeuge professionalisiert und skalierbar gemacht. Das ist ein substanzieller Unterschied zu einem medienwirksamen Alarmismus, der aus einer Trendwarnung eine Katastrophenmeldung baut.

Konkret identifiziert Europol drei Bereiche, die besonders besorgniserregend sind: Hacking, Kindersexploitation und Finanzbetrug. In allen drei Feldern senkt KI die Anforderungen an die technische Kompetenz der Täter spürbar. Das bedeutet: Gruppen, die bisher schlicht nicht die Fähigkeiten hatten, komplexe Angriffe zu orchestrieren, kommen jetzt an funktionsfähige Werkzeuge. Das ist strukturell beunruhigend – und empirisch belegbar.

Was die Quellen dagegen nicht liefern: belastbare EU-weite Fallzahlen zu KI-spezifischen Angriffen. Die Zunahme wird qualitativ beschrieben, nicht mit einer einheitlich gemessenen Statistik untermauert. Wer also einen Artikel liest, der konkrete Prozentzahlen zum „KI-Cyberkriminalitätswachstum“ zitiert, sollte die Primärquelle verlangen. Die meisten dieser Zahlen stammen aus Unternehmensberichten mit Eigeninteresse an Aufmerksamkeit.

Wie KI-Cyberkriminalität konkret funktioniert

Phishing: Billiger, überzeugender, automatisiert

Das klassische Phishing-Problem war lange die Qualität der Angriffe. Grammatikfehler, generische Ansprachen und kulturell misslungene Formulierungen haben viele Versuche scheitern lassen. KI löst dieses Problem auf breiter Front. Große Sprachmodelle erzeugen überzeugende, fehlerfreie Texte in jeder Sprache, personalisiert auf Basis öffentlich verfügbarer Daten aus LinkedIn, Unternehmenswebsites oder sozialen Netzwerken.

Das Ergebnis ist eine neue Klasse von Spear-Phishing-Kampagnen: maßgeschneidert, sprachlich sauber, auf den spezifischen Empfänger und seinen Kontext zugeschnitten – und dabei in hoher Stückzahl generierbar. Was früher einen erfahrenen Social-Engineering-Spezialisten erforderte, lässt sich heute mit promptgesteuerten Automatisierungen in Serie produzieren. Die Kosten pro Angriff sinken dramatisch; die Trefferquote steigt.

Für Unternehmen hat das eine konkrete Konsequenz: Die bisherige Schulungslogik – „Schau auf Fehler im Text“ – greift nicht mehr. Mitarbeitende müssen trainiert werden, Kontextanomalien zu erkennen, nicht Sprachfehler. Das ist eine fundamental andere Anforderung an Awareness-Programme.

Deepfakes und synthetische Stimmen: CEO-Fraud auf neuer Stufe

Europol dokumentiert explizit den Einsatz von Audio-Deepfakes: Stimmen werden kopiert, um Opfer am Telefon zu täuschen oder zu erpressen. Im Unternehmenskontext bedeutet das vor allem eine Neuauflage des CEO-Fraud – also die Variante, bei der Mitarbeitende der Finanzabteilung angewiesen werden, Überweisungen auszulösen, vermeintlich auf Befehl der Geschäftsführung.

Was früher eine E-Mail mit gefälschter Absenderadresse war, ist heute ein Anruf mit authentisch klingender Stimme – oder ein Videocall mit realistischem Deepfake-Avatar. Die technische Hürde für ausreichend überzeugende Audio-Deepfakes ist im Jahr 2025 dramatisch gesunken. Wenige Minuten öffentlich zugängliches Audiomaterial einer Person reichen aus, um eine einsetzbare Stimmkopie zu erzeugen. Deepfake-Betrug in Unternehmen ist kein Zukunftsszenario mehr – er ist dokumentierter Alltag.

Die Gegenmaßnahme ist unangenehm simpel und wird dennoch selten konsequent umgesetzt: Unternehmen brauchen klare Authentifizierungsprotokolle für finanzrelevante Anweisungen. Ein Rückruf über eine bekannte, festgelegte Nummer. Kein Prozess, der auf einem einzelnen Anruf oder einer einzelnen Nachricht basiert. Das ist kein technisches Problem – es ist ein Prozessproblem.

Sexualisierte Erpressung und KI-generierte Inhalte

Europol markiert hier einen besonders beunruhigenden Trend: KI-generierte oder -manipulierte Bilder und Videos werden eingesetzt, um Erpressungssituationen zu erzeugen. Besonders gefährdet sind Minderjährige. Das Erstellen von Material aus harmlosen Quellbildern ist technisch trivial geworden – und rechtlich wie strafrechtlich ein ernstes Problem, das Strafverfolgungsbehörden europaweit beschäftigt.

Für Plattformanbieter hat der AI Act der EU-Kommission hier klare Konsequenzen. Systeme, die solche Inhalte ermöglichen oder verbreiten, fallen unter die Hochrisiko-Kategorisierung oder sogar unter die verbotenen Praktiken des Gesetzes. Das ist einer der wenigen Bereiche, in denen der regulatorische Rahmen und die Realität der Bedrohungslage tatsächlich zusammenfallen.

Der regulatorische Rahmen: Was bereits gilt und was kommt

AI Act: Pflichten gestaffelt bis 2028

Der AI Act trat am 1. August 2024 in Kraft – das ist gesetzt. Die Umsetzungsfristen sind jedoch gestaffelt. Für bestimmte Hochrisiko-KI-Systeme gelten Fristen bis zum 2. Dezember 2027 beziehungsweise 2. August 2028. Das verleitet dazu, das Gesetz als ferne Regulierung zu behandeln. Das ist ein Fehler. Anbieter, die heute KI-Systeme entwickeln, die morgen unter Hochrisiko-Definitionen fallen könnten, müssen jetzt Compliance-Architekturen aufbauen – nicht kurz vor den Fristen.

Meine Einschätzung dazu: Der AI Act wird in der Cybersecurity-Debatte noch zu stark als abstrakter Policy-Text behandelt. Er hat direkte operative Relevanz für KI-Anbieter, die Sicherheitssysteme, Biometrie oder automatisierte Entscheidungsprozesse entwickeln. Die Strafrahmen sind erheblich. Und die Erfahrung mit der DSGVO zeigt: Wer erst kurz vor Fristablauf anfängt, zahlt drauf.

Der Europol-Bericht zur KI-gestützten Cyberkriminalität macht deutlich, dass die Behörde den AI Act als notwendigen, aber nicht hinreichenden Rahmen betrachtet. Transparenzpflichten für generative KI-Systeme – also die Kennzeichnungspflicht für KI-generierten Content – sind ein Schritt, aber kein vollständiger Schutz gegen Missbrauch.

EU-Cybersolidaritätsgesetz: Seit Februar 2025 in Kraft

Das EU-Cybersolidaritätsgesetz ist am 4. Februar 2025 in Kraft getreten. Es adressiert die Reaktionsfähigkeit auf große Cybervorfälle auf europäischer Ebene: bessere Erkennung, Vorbereitung und koordinierte Reaktion. Das ist strukturell wichtig, weil KI-gestützte Angriffskampagnen nationale Grenzen ignorieren und eine koordinierte europäische Reaktionsfähigkeit voraussetzen, die bisher nicht ausreichend vorhanden war.

Praktisch bedeutet das Gesetz den Aufbau eines europäischen Cybersicherheitsschildes aus nationalen und grenzüberschreitenden Security Operations Centers, die Angriffsmuster frühzeitig erkennen und Mitgliedstaaten alarmieren sollen. Ob das in der operativen Realität so funktioniert, wird die nächste große Cyberkrise zeigen. Die Architektur ist jedenfalls vorhanden.

EU Cyber Resilience Act: Produktsicherheit für digitale Geräte

Neben AI Act und Cybersolidaritätsgesetz ist der EU Cyber Resilience Act ein weiterer regulatorischer Baustein. Er verpflichtet Hersteller von Produkten mit digitalen Elementen – also von smarten Geräten über IoT-Hardware bis hin zu Software-Produkten – zu definierten Cybersicherheitsstandards über den gesamten Lebenszyklus. Im Kontext KI-Cyberkriminalität ist das relevant, weil kompromittierte IoT-Geräte nach wie vor bevorzugte Infrastruktur für Botnets und DDoS-Angriffe sind. Wer KI-gestützte Angriffskampagnen skaliert, braucht Infrastruktur – und findet sie in schlecht gesicherten Geräten.

Der Cyber Resilience Act schließt diese Lücke regulatorisch. Die praktische Wirkung hängt von der Marktdurchsetzung und der Kontrolldichte ab. Erfahrungsgemäß bleibt bei solchen Produktsicherheitsregeln viel im Ermessen der nationalen Marktaufsichtsbehörden.

Was Unternehmen jetzt konkret härten müssen

Technische Maßnahmen: Jenseits der Checkbox-Security

Die Angriffsketten, die Europol beschreibt, sind nicht durch einzelne Tools zu stoppen. Sie erfordern eine Kombination aus technischen und organisatorischen Maßnahmen. Konkret: Multi-Faktor-Authentifizierung ist Mindeststandard, keine Auszeichnung mehr. E-Mail-Sicherheitsinfrastruktur muss KI-generierte Inhalte und Anomalien im Absendeverhalten erkennen können. Endpoint Detection and Response muss auf Verhaltensanomalien trainiert sein, nicht nur auf Signaturen.

Wer Voice-basierte Phishing-Angriffe – sogenannte Vishing-Kampagnen mit synthetischen Stimmen – ernst nimmt, muss Kommunikationsprotokolle überarbeiten. Das betrifft besonders Finanz-, HR- und IT-Abteilungen: keine finanzrelevanten Entscheidungen auf Basis eines einzelnen Anrufs. Das klingt trivial; in der Praxis fehlt dieser Prozess in erstaunlich vielen mittelständischen Unternehmen. Deepfake-Betrug in Kombination mit Social Engineering ist genau an dieser Schwachstelle erfolgreich.

Organisatorische Maßnahmen: Prozesse sind die eigentliche Lücke

GPAI-Modelle mit Transparenzpflichten, AI Act-Compliance, Cybersolidaritätsgesetz – all das ist auf Makroebene wichtig. Auf Unternehmensebene entscheiden oft banale Prozessfragen. Hat die Buchhaltung ein klares Protokoll für ungewöhnliche Überweisungsanfragen? Weiß der IT-Helpdesk, wie er eine verdächtige Anfrage eskaliert, die von einem „Vorstand“ via WhatsApp kommt? Gibt es regelmäßige, realistische Phishing-Simulationen – nicht nur einmal jährlich?

Meine Empfehlung ist hier direkt: Investieren Sie mehr in Awareness als in Tool-Budgets, wenn beides limitiert ist. KI-gestützte Angriffe zielen auf den Menschen, nicht primär auf die Technik. Die überzeugendste Deepfake-Stimme ist nutzlos, wenn der Empfänger das Rückrufprotokoll kennt und konsequent anwendet.

Was KI-Anbieter regulatorisch leisten müssen

Für Anbieter generativer KI-Systeme wird der Druck durch den AI Act konkret. Systeme mit systemischem Risiko – das sind laut AI Act insbesondere GPAI-Modelle oberhalb bestimmter Leistungsschwellen – unterliegen Transparenz- und Risikobewertungspflichten. Wer ein Modell anbietet, das zur Erstellung von Deepfakes, synthetischen Stimmen oder überzeugenden Betrugsinhaltexten verwendet werden kann, muss Missbrauchsrisiken dokumentieren und Gegenmaßnahmen nachweisen können.

Das ist regulatorisch anspruchsvoll und wird in der Praxis Compliance-Ressourcen binden. Gleichzeitig ist es der richtige Ansatz: Systemisches Risiko muss beim Anbieter beginnen, nicht erst beim Endnutzer. Die GPAI-Kodizes, die die EU-Kommission mit führenden KI-Unternehmen erarbeitet, gehen in diese Richtung. Die Frage ist, ob Durchsetzung und Sanktionen tatsächlich greifen werden.

Gegenargumente und blinde Flecken in der Regulierungsdebatte

Die Regulierungslogik der EU ist in sich kohärent – aber sie hat blinde Flecken, die in der öffentlichen Debatte zu selten benannt werden. Erstens: Alle beschriebenen Gesetze adressieren primär Anbieter und Betreiber innerhalb der EU. Kriminelle Akteure, die KI-Werkzeuge für Angriffe nutzen, operieren häufig aus Jurisdiktionen, in denen der AI Act nicht gilt und Strafverfolgung strukturell schwierig ist. Der regulatorische Druck trifft damit zuvörderst legale Anbieter – das ist sinnvoll für Sicherheitsstandards, löst aber das Kernproblem der grenzüberschreitenden Cyberkriminalität nur indirekt.

Zweitens: Es gibt ein legitimes Gegenargument aus der Sicherheitsforschung. Überstrenge Transparenz- und Dokumentationspflichten für KI-Systeme können dazu führen, dass europäische Anbieter im globalen Wettbewerb ins Hintertreffen geraten, während nicht-regulierte Alternativen aus anderen Regionen Marktanteile gewinnen. Wenn Nutzer – auch kriminelle – auf diese Alternativen ausweichen, hat die Regulierung das Risiko nicht eliminiert, sondern nur verlagert. Dieses Argument verdient Gehör, auch wenn es kein Argument gegen Regulierung an sich ist, sondern für eine international koordinierte Regulierung.

Drittens sollte man die Frage stellen, wer die Regulierung tatsächlich vollziehen soll. Die nationalen Marktaufsichtsbehörden, die den AI Act durchsetzen müssen, sind in den meisten EU-Mitgliedstaaten personell und technisch nicht annähernd auf den Stand gebracht, den eine wirksame Durchsetzung erfordern würde. Ohne ausreichende Kapazitäten bei den Aufsichtsbehörden bleibt auch das beste Gesetz ein stumpfes Schwert.

Konkrete Handlungsschritte für Unternehmen nach Unternehmensgröße

Die Bedrohungslage ist für alle Unternehmen relevant – aber die sinnvollen Maßnahmen unterscheiden sich nach Ressourcen und Risikolage erheblich. Eine schematische Einteilung hilft, Prioritäten zu setzen.

Kleine und mittlere Unternehmen

Für KMU ohne dediziertes Sicherheitsteam gilt: Die wirksamsten Maßnahmen sind nicht die teuersten. Konkret priorisierbar sind zunächst Authentifizierungsprotokolle für Überweisungen und Datenzugriffe, danach regelmäßige, praxisnahe Awareness-Schulungen mit realistischen KI-Phishing-Beispielen, und schließlich klare Eskalationspfade für verdächtige Kontaktversuche. Viele KMU haben keinen dieser drei Punkte formalisiert – das ist die eigentliche Risikolücke, nicht der fehlende Technologieeinsatz.

Managed Security Services, die KI-gestützte Bedrohungserkennung für mittlere Budgets zugänglich machen, sind eine realistische Option. Wichtig dabei: Den Anbieter auf seine eigene AI-Act-Konformität prüfen, bevor man ihm Zugang zu Unternehmensdaten gibt.

Große Unternehmen und Konzerne

Für Unternehmen mit eigenem Security-Team ist die technische Ausstattung oft kein Kernproblem. Die eigentliche Herausforderung liegt in der Verzahnung von Rechts-, Compliance- und IT-Sicherheitsabteilungen. AI Act-Compliance ist kein reines IT-Thema; sie erfordert juristische Bewertungen, Risikodokumentation und in vielen Fällen eine externe Auditierung. Wer diese Funktion noch nicht aufgebaut hat, sollte damit nicht bis 2027 warten.

Darüber hinaus ist die Lieferkette ein unterschätztes Risiko. Große Unternehmen werden zunehmend über Dienstleister und Partner angegriffen, weil deren Sicherheitsniveau oft niedriger ist. Eine KI-gestützte Spear-Phishing-Kampagne, die auf den Buchhalter eines mittelgroßen Zulieferers zielt, um Zugang zu Systemen des Hauptkunden zu erhalten, ist ein realistisches Angriffsszenario – und erfordert Sicherheitsanforderungen, die vertraglich gegenüber der gesamten Lieferkette durchgesetzt werden müssen.

Was zwischen den Zeilen der Regulierungsdebatte steckt

Liest man die aktuellen Warnungen von Europol und die parallelen Regulierungstexte gemeinsam, fällt eine strukturelle Spannung auf: Die Behörden beschreiben Bedrohungen, die sich in Echtzeit beschleunigen – KI-Cyberkriminalität operiert mit Iterationsgeschwindigkeiten, die Gesetzgebungszyklen strukturell überfordern. Der AI Act hat fast vier Jahre Entstehungszeit hinter sich. In dieser Zeit ist die Deepfake-Technologie von einem Nischenphänomen zu einem alltagstauglichen Werkzeug geworden.

Das bedeutet nicht, dass Regulierung sinnlos ist. Es bedeutet, dass Regulierung allein nicht ausreicht. Die Kombination aus rechtlichem Rahmen, operativer Stärkung von Strafverfolgung, technischen Standards für Anbieter und organisatorischer Resilienz in Unternehmen ist das Minimum. Kein einzelnes Element davon schützt für sich genommen ausreichend. Und wer in Unternehmen oder in der IT-Sicherheitspolitik auf eine einzelne Lösung setzt – sei es der AI Act, ein neues Security-Tool oder ein Awareness-Training pro Jahr – hat die Bedrohungslogik nicht verstanden.

Die eigentliche Frage, die nach dieser Analyse bleibt: Werden europäische Strafverfolgungsbehörden die Ressourcen und grenzüberschreitenden Koordinationsmechanismen tatsächlich aufbauen, die notwendig wären, um KI-gestützter Cyberkriminalität operativ zu begegnen – oder bleibt das Cybersolidaritätsgesetz eine Architektur auf dem Papier, während kriminelle Akteure längst schneller skalieren?