EU AI Act: Ab August 2026 drohen Bußgelder – darauf müssen Unternehmen achten

Was auf Unternehmen zukommt – und warum die wenigsten vorbereitet sind

Der EU AI Act ist kein abstraktes Regelwerk mehr, das irgendwo in Brüssel diskutiert wird. Ab dem 2. August 2026 greift die Vollanwendung für Hochrisiko-KI-Systeme – und damit treten auch die Bußgelder in Kraft, die dem Gesetz seine Zähne verleihen. Das Europäische KI-Büro koordiniert die Marktüberwachung künftig gemeinsam mit den nationalen Behörden. In Deutschland ist das die Bundesnetzagentur, die seit 2025 auch für KI-Themen zuständige Behörde.

Mal ehrlich: Die meisten Unternehmen haben die Thematik noch nicht auf dem Schirm. Das ist riskant. Denn die Strafen sind massiv – bis zu 35 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ausfällt. Für einen mittelständischen Konzern kann das existenzbedrohend sein.

Wir bei digital-magazin.de haben die Materie in den vergangenen Monaten intensiv verfolgt. Die Rechtsunsicherheit ist real, die Fristen sind knapp – und wer jetzt nicht handelt, wird es bereuen.

Was sich im August genau ändert

Zwei Stufen definieren das Regelwerk. Seit dem 2. Februar 2025 sind KI-Systeme mit unannehmbarem Risiko verboten – dazu zählen sozialkreditbasierte Systeme, manipulative KI und biometrische Fernidentifikation im öffentlichen Raum. Diese Verbote galten bislang ohne unmittelbare Strafandrohung. Das ändert sich jetzt.

Ab August 2026 wird jedes Unternehmen, das verbotene KI einsetzt oder hochrisikobehaftete Systeme ohne Konformitätsbewertung betreibt, sanktioniert. Der Unterschied zur ersten Stufe: Strafen werden real verhängt, nicht nur angedroht. Die Übergangsfrist läuft ab, die Durchsetzung beginnt.

Die Vollanwendung betrifft konkret Hochrisiko-KI in Bereichen wie Personalwesen, Bewerbungsverfahren und Bonitätsprüfungen. Wie KI im HR-Bereich eingesetzt wird, hat bereits heute massive Auswirkungen auf Stellenausschreibungen und Einstellungsentscheidungen. Diese Systeme müssen ab dann einen vollständigen Konformitätsprozess durchlaufen haben – inklusive Risikomanagement, Qualität der Datensätze, Transparenzpflichten und menschlicher Aufsicht.

https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX%3A32024R1689

Die verbotenen Anwendungen im Detail

Wer jetzt denkt, Verbote seien nur theoretischer Natur, irrt. In der Praxis sind bestimmte KI-Anwendungen bereits seit Februar 2025 rechtswidrig – die Durchsetzungslücke schließt sich jedoch erst mit August 2026.

Soziale Kreditbewertung durch KI gehört dazu. Gemeint sind Systeme, die das Verhalten von Menschen aus nicht qualitätsbezogenen Gründen bewerten und daraus Nachteile ableiten – etwa der Ausschluss von Dienstleistungen oder soziale Ausgrenzung. Das klingt nach Science-Fiction, existiert aber in China bereits seit Jahren. In der EU ist das ab August verboten – und die Strafen dafür sind happig.

Ebenfalls verboten sind manipulative KI-Systeme: Solche, die menschliches Verhalten gezielt ausnutzen, um Entscheidungen zu verfälschen. Das kann ein Empfehlungssystem sein, das Suchtverhalten verstärkt, oder ein System, das via personalisierter Werbung Schwächen exploitiert. Wie die Europäische Kommission in einer Pressemitteilung erläuterte, zielt das Verbot explizit auf Systeme ab, die menschliche Schwächen ausnutzen.

Auch die biometrische Fernidentifikation zu Strafverfolgungszwecken in öffentlichen Räumen ist seit Februar 2025 verboten. Ausnahmen gibt es nur für sehr eng gefasste Verwendungszwecke. In jedem Fall gilt: Wer ein verbotenes System einsetzt, dem drohen Bußgelder ab August – und zwar ohne Vorwarnung.

https://ec.europa.eu/news/2024/artificial-intelligence-act-enters-into-force_en

Warum die nationale Umsetzung hinkt

Ein Punkt, der selten diskutiert wird: Jeder EU-Mitgliedstaat war verpflichtet, KI-Sandboxes einzurichten – sichere Testumgebungen, in denen Unternehmen innovative KI unter Aufsicht erproben können. Die Umsetzung hinkt hinterher. Nicht alle Mitgliedstaaten haben ihre Sandbox-Regelungen rechtzeitig verabschiedet. Deutschland hat immerhin eine Regelung im Rahmen des IT-Sicherheitsgesetzes 2.0 geschaffen, aber die praktische Umsetzung ist vielerorts noch in Arbeit.

Für Unternehmen bedeutet das eine paradoxe Situation. Einerseits sollen sie die Vorschriften einhalten. Andererseits fehlen vielerorts die offiziellen Kanäle, um Fragen zu klären und Systeme validieren zu lassen. Wer sich als Unternehmen an die Bundesnetzagentur wendet, bekommt meist Verweise auf die allgemeine Rechtslage – aber keine konkrete Hilfestellung zur Umsetzung.

Wir bei digital-magazin.de haben diese Lücke mehrfach thematisiert. Die Rechtsunsicherheit ist real, und sie wird durch die drohenden Bußgelder nicht kleiner.

https://www.bundesnetzagentur.de/DE/Fachthemen/Digitalisierung/KuenstlicheIntelligenz/start.html

Die Bußgelder im Überblick – und wer sie verhängt

Das Sanktionssystem ist dreistufig aufgebaut, und die Beträge sind keine Späße:

Verstöße gegen verbotene Praktiken können mit bis zu 35 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden – wobei der höhere Betrag gilt. Das bedeutet für einen Konzern mit einer Milliarde Umsatz: Bis zu 30 Millionen Euro Strafe, wenn die verbotene KI nur einen Bruchteil des Geschäfts betrifft.

Bei Verstößen gegen sonstige Pflichten drohen bis zu 15 Millionen Euro oder 1,5 % des Umsatzes. Falschangaben gegenüber Behörden werden mit bis zu 7,5 Millionen Euro oder 1 % des Umsatzes bestraft.

Für kleine und mittlere Unternehmen gelten zwar leicht reduzierte Staffelungen – die Beträge bleiben jedoch existenzbedrohend, besonders für Scale-ups mit dünner Liquiditätsdecke. Das Europäische KI-Büro in Brüssel koordiniert die Sanktionspraxis, aber die nationalen Behörden vollstrecken. Das schafft zusätzliche Komplexität: In Deutschland ist die Bundesnetzagentur zuständig, in Frankreich die CNIL, in Österreich die Datenschutzbehörde. Die Praxis wird je nach Mitgliedstaat unterschiedlich ausfallen.

https://artificialintelligenceact.eu/sanctions/

Hochrisiko-Bereiche identifizieren und verstehen

Nicht jede KI-Nutzung ist automatisch hochriskant. Der EU AI Act definiert in Anhang III genau, welche Systeme in die Hochrisiko-Kategorie fallen. Allen voran: KI im Personalwesen. Bewerbungs-Scoring, automatische Lebenslauf-Analyse und Vorauswahl durch Algorithmen sind hochriskant – besonders wenn sie Entscheidungen über Einstellungen direkt beeinflussen.

Bonitätsprüfungen durch KI fallen ebenfalls in diese Kategorie. Ebenso KI in der medizinischen Diagnostik, im Versicherungswesen und bei kritischen Infrastrukturen. Wer ein solches System betreibt, muss eine Konformitätsbewertung durchlaufen, eine technische Dokumentation pflegen und fortlaufende Überwachung sicherstellen.

Entscheidend ist: Es reicht nicht, die KI zu kaufen und einzusetzen. Unternehmen tragen die Verantwortung für die Einhaltung aller Pflichten – vom Risikomanagement bis zur menschlichen Aufsicht. Das bedeutet auch: Wenn ein Vendor ein System als „konform“ verkauft, entbindet das das Unternehmen nicht von der eigenen Sorgfaltspflicht.

Laut Bitkom-Leitfaden zur EU-KI-Verordnung sollten Unternehmen daher bei jedem KI-Einkauf genau prüfen, ob die technische Dokumentation vollständig vorliegt und ob das System in den Anwendungsbereich von Anhang III fällt. Viele Vendoren sind darauf noch nicht eingestellt.

https://www.bitkom.org/Themen/Kuenstliche-Intelligenz/EU-KI-Verordnung-Leitfaden

Checkliste: Was Unternehmen jetzt tun müssen

Die Zeit bis August 2026 ist knapp, aber ausreichend, wenn Unternehmen sofort handeln. Hier ist die Reihenfolge, die wir empfehlen:

Schritt 1 – Inventur aller KI-Systeme: Welche Systeme nutzen Sie aktuell, welche Entscheidungen werden automatisiert getroffen, wo fließen algorithmische Empfehlungen in menschliche Entscheidungen ein? Diese Bestandsaufnahme ist der erste und wichtigste Schritt. Ohne sie lässt sich das Risiko nicht einschätzen. Erstellen Sie eine Tabelle mit Systemname, Anbieter, Einsatzbereich und Entscheidungsrelevanz.

Schritt 2 – Klassifizierung nach Risikostufen: Ordnen Sie jedes identifizierte System einer Risikokategorie zu. Nutzen Sie dabei die Kriterien aus Anhang III des AI Acts. Ein System zur automatischen E-Mail-Sortierung ist etwas anderes als ein Algorithmus zur Bewerberauswahl. Die meisten Unternehmen unterschätzen, wie viele ihrer Systeme tatsächlich in die Hochrisiko-Kategorie fallen.

Schritt 3 – Bewertung der Konformität: Für Hochrisiko-KI brauchen Sie eine vollständige technische Dokumentation, ein Risikomanagement-System und Nachweise zur Datenqualität. Wenn Ihr Vendor diese Dokumentation nicht liefern kann, ist das ein ernstes Alarmsignal – und ein Grund, das System zu ersetzen oder den Anbieter zu wechseln.

Schritt 4 – Anpassung von Beschaffungsprozessen: Neue KI-Systeme sollten nur noch mit Konformitätsnachweis angeschafft werden. Prüfen Sie Verträge und Einkaufsbedingungen entsprechend. Die Haftung liegt beim einsetzenden Unternehmen, nicht beim Software-Lieferanten.

Schritt 5 – Dokumentation und Monitoring: Die Konformität ist kein einmaliger Aufwand. Sie müssen fortlaufend überwachen, ob das System noch den Anforderungen entspricht. Änderungen an Trainingsdaten, Software-Updates oder veränderte Einsatzszenarien können die Konformität beeinträchtigen.

Schritt 6 – Schulung der Beschäftigten: Die menschliche Aufsichtspflicht ist kein Formalität. Beschäftigte müssen verstehen können, wie eine KI Entscheidungen trifft, um sie sinnvoll überwachen zu können. Das erfordert Schulung – nicht nur eine Powerpoint-Präsentation, sondern echtes Verständnis der Funktionsweise.

Was bei der Umsetzung oft unterschätzt wird

Zwei Punkte tauchen in den meisten Unternehmens-Roadmaps zu spät auf: die Qualität der Trainingsdaten und die Dokumentationspflichten.

Datenqualität klingt selbstverständlich, wird aber selten ernst genug genommen. Der EU AI Act verlangt, dass Hochrisiko-KI auf Daten trainiert wird, die relevant, repräsentativ, fehlerfrei und vollständig sind. Sind Ihre Trainingsdaten das? Haben Sie sie auf Verzerrungen geprüft? Die Antworten auf diese Fragen müssen dokumentierbar sein. Wenn ein Algorithmus in der Vergangenheit systematisch bestimmte Gruppen benachteiligt hat – etwa Frauen bei der Bewerberauswahl –, steht Ihr Unternehmen in der Verantwortung. Das Problem ist, dass viele Systeme, die heute im Einsatz sind, auf historischen Daten basieren, die nie auf solche Verzerrungen untersucht wurden. Die Risiken von KI-Systemen sind dabei nicht nur theoretischer Natur – sie haben reale Auswirkungen auf Menschen. Wer jetzt den ersten Schritt macht und eine Bias-Analyse beauftragt, wird möglicherweise überrascht – im negativen Sinne.

Die technische Dokumentation wiederum ist kein einmaliger Aufwand. Sie muss fortlaufend gepflegt werden – bei jedem Update, jeder Änderung, jedem Wechsel der Trainingsdaten. Viele Unternehmen unterschätzen den administrativen Aufwand, der damit einhergeht. Ein System, das vor einem Jahr angeschafft wurde, kann heute nicht mehr konform sein, wenn sich die Datengrundlage verändert hat. Hinzu kommt: Die Dokumentation muss so aufgebaut sein, dass sie den Behörden auf Anforderung vorgelegt werden kann – innerhalb kürzester Frist.

Ebenfalls kritisch: Die Pflicht zur menschlichen Aufsicht. Diese erfordert, dass eine qualifizierte Person den KI-Einsatz überwachen kann und im Zweifel eingreifen kann. Das bedeutet nicht nur einen menschlichen Entscheider vorzuhalten, sondern auch die nötigen Befugnisse und das Wissen, um korrigierend einzugreifen. Wer keine Person hat, die versteht, wie das System funktioniert, kann es auch nicht überwachen – und verstößt damit gegen den AI Act. In der Praxis heißt das: Eine HR-Fachkraft, die keine Ahnung von maschinellem Lernen hat, kann keine sinnvolle Aufsicht über ein Bewerbungs-KI-System führen. Und ein IT-Administrator, der die Entscheidungslogik nicht nachvollziehen kann, ist als Aufsichtsperson ebenfalls ungeeignet.

Ein dritter Punkt, der selten thematisiert wird: Die Transparenzpflicht gegenüber Betroffenen. Wenn eine KI eine Entscheidung trifft, die eine Person betrifft – etwa bei einer Bonitätsprüfung oder einem Bewerbungsprozess – hat diese Person das Recht auf eine Erklärung. Wie kam die KI zu ihrem Ergebnis? Welche Faktoren spielten eine Rolle? Das klingt banal, ist aber bei vielen modernen KI-Systemen, insbesondere neuronalen Netzen, technisch kaum umsetzbar. Die sogenannte Explainability ist ein aktives Forschungsfeld, und viele am Markt erhältliche Systeme bieten diese Funktionalität schlicht nicht.

Was bei der praktischen Umsetzung wirklich passiert

Wer sich auf den Weg macht, stößt schnell auf Hürden, die im abstrakten Regelwerk nicht sichtbar sind. Da ist zunächst das Problem der Lieferketten: Viele Unternehmen nutzen KI-Systeme, die von Drittanbietern gehostet und gewartet werden. Ändert der Anbieter etwas am System – etwa neue Trainingsdaten, andere Modellparameter, ein Update der Infrastruktur –, verändert sich potenziell auch das Verhalten des Systems. Und damit seine Konformität. Das Unternehmen bekommt davon oft nichts mit.

Hinzu kommt die Frage der Risikomanagement-Methodik. Der AI Act verlangt ein dokumentiertes Risikomanagement, das den gesamten Lebenszyklus eines KI-Systems abdeckt – von der Konzeption über die Entwicklung bis zur Deployierung und dem laufenden Betrieb. Das ist deutlich mehr als ein einmaliger Compliance-Check. Es ist ein fortlaufender Prozess, der in Unternehmensprozesse integriert werden muss.

Auch die Konformitätsbewertung selbst ist kein triviales Unterfangen. Je nach Risikokategorie kann eine Selbstbewertung ausreichen – oder aber eine Prüfung durch eine notifizierte Stelle, eine externe Behörde, die das System validiert. Welche Kategorie für Ihr System gilt, ist nicht immer eindeutig. Grauzonen gibt es zuhauf, und die Auslegung kann sich ändern.

Die globalen Auswirkungen und warum Europa ernst genommen wird

Man könnte argumentieren, dass der EU AI Act nur für europäische Unternehmen gilt. Das ist ein Trugschluss. Jedes Unternehmen, das KI-Systeme in der EU vermarktet oder nutzt, ist betroffen – unabhängig vom Sitz. Das bedeutet: Auch amerikanische Tech-Konzerne, die ihre Produkte in Europa verkaufen, müssen sich an die Regeln halten. Und sie tun es bereits. Die großen Cloud-Anbieter haben begonnen, ihre Dienste AI-Act-konform zu zertifizieren.

Das gibt europäischen Unternehmen eine gewisse Verhandlungsmacht: Sie können von ihren Vendoren Konformität verlangen, weil die großen Anbieter ohnehin nicht am europäischen Markt operieren können, ohne die Vorgaben zu erfüllen.

Der EU AI Act ist Teil der europäischen Digitalstrategie und gilt international als das umfassendste KI-Regulierungswerk überhaupt. Was in Brüssel beschlossen wird, hat oft globale Ausstrahlung – allein weil der europäische Markt zu groß ist, um ihn zu ignorieren. Grundlagen zu KI-Systemen sind für Unternehmen wichtiger denn je, um die regulatorischen Anforderungen überhaupt verstehen zu können.

https://digital-strategy.ec.europa.eu/policies/artificial-intelligence_en

Was jetzt zu tun ist – unser Fazit

Die Bußgelder sind real. Die Überwachung durch nationale Behörden ist beschlossene Sache. Und die Konformitätsanforderungen lassen sich nicht nachträglich aus dem Ärmel schütteln. Wer in den vergangenen zwei Jahren keine Vorkehrungen getroffen hat, muss jetzt aufholen – unter Zeitdruck, mit begrenzten Ressourcen.

Unser Rat: Starten Sie heute. Nicht nächste Woche, nicht nach dem Sommer. Heute. Denn wenn die ersten Sanktionen fallen, wird kein Verständnis dafür erwartet, dass die Umstellung Zeit brauchte. Die Frist gilt seit 2024 – wer sie ignoriert hat, trägt die Konsequenzen.

Das Team von digital-magazin.de wird die Entwicklungen weiter beobachten und über praktische Umsetzungsschritte berichten. Für Unternehmen, die sich frühzeitig aufstellen, bedeutet der EU AI Act nicht nur Risiko – sondern auch einen Wettbewerbsvorsprung bei Vertrauen und Transparenz. Wer nachweisen kann, dass seine KI-Systeme konform arbeiten, hebt sich von Wettbewerbern ab, die das nicht können.