EU-AI-Office: Neue Marktüberwachungs-Kompetenzen und erste Einsätze

Ab dem 2. August 2026 greifen die Durchsetzungspflichten für Hochrisiko-KI-Systeme nach Anhang III des AI Act – und das EU-AI-Office wechselt spürbar von der Aufbauphase in den operativen Modus. Was die Behörde bislang wirklich darf, wo nationale Aufsichten zuständig bleiben und warum die ersten echten Interventionsfälle noch auf sich warten lassen, ordnet dieser Text ein.

Als Primärquellen sind der Überblick der Europäischen Kommission zum AI Act und der Implementierungszeitplan des AI Act maßgeblich.

Zwei Jahre Vorlaufzeit, drei Stufen, ein Datum, das jetzt zählt: Der 2. August 2026 markiert den Moment, an dem die AI-Act-Regulierung endgültig aus der Theorie in die Praxis rutscht. Die Verbote nach Artikel 5 gelten bereits seit Februar 2025, die Governance-Pflichten für Modelle mit allgemeinem Verwendungszweck seit August 2025. Jetzt kommt der Teil, der Unternehmen tatsächlich schmerzt: die Durchsetzung der Pflichten für Hochrisiko-KI-Systeme aus Anhang III sowie die Transparenzanforderungen nach Artikel 50. Das EU-AI-Office, bislang eher Regelwerk-Architekt als Vollzugsbehörde, muss jetzt zeigen, was Marktüberwachung in der Praxis bedeutet.

Das ist kein kleiner Verwaltungsschritt. Es ist der Punkt, an dem sich entscheidet, ob europäische KI-Regulierung mehr ist als ein Papiertiger.

Vom Aufbaustab zur Aufsichtsbehörde: Was sich beim EU-AI-Office ändert

Das EU-AI-Office ist keine neue, unabhängige Agentur, sondern eine Struktur innerhalb der Europäischen Kommission. Seit der Einrichtung Anfang 2024 hat es vor allem eines getan: aufgebaut. Personal rekrutiert, technische und juristische Expertise zusammengezogen, Leitlinien vorbereitet. Diese Aufbauphase war notwendig, aber sie hat auch dafür gesorgt, dass das Büro in der öffentlichen Wahrnehmung lange eher als Thinktank denn als Behörde mit Zähnen wirkte.

Das ändert sich jetzt. Die zentrale Kompetenz des EU-AI-Office liegt in der Marktüberwachung von KI-Modellen mit allgemeinem Verwendungszweck, also den großen Basismodellen, auf denen unzählige Anwendungen aufsetzen. Für diese GPAI-Modelle ist das Büro nicht nur Regelsetzer, sondern direkt zuständige Aufsichtsstelle. Zusätzlich kann es KI-Systeme prüfen, die auf einem solchen Modell basieren – vorausgesetzt, Modell und System stammen vom selben Anbieter. Diese Konstruktion ist bewusst so gewählt: Sie verhindert, dass sich Verantwortlichkeiten zwischen Modellanbieter und Systemintegrator verlieren, wenn beide identisch sind.

Wer allerdings erwartet, das EU-AI-Office würde ab sofort jede KI-Anwendung in Europa kontrollieren, überschätzt seine Reichweite deutlich. Für klassische Hochrisiko-Anwendungen, etwa in Personalauswahl, Kreditvergabe oder Bildung, bleiben die nationalen Marktüberwachungsbehörden zuständig. Diese Aufteilung ist wichtig, weil sie erklärt, warum die aktuelle Debatte um Marktüberwachung eigentlich zwei parallele Enforcement-Systeme beschreibt, die sich nur an bestimmten Schnittstellen berühren.

Kompetenzen im Detail: Was das Büro darf – und was nicht

Die operativen Befugnisse des EU-AI-Office sind konkreter, als viele Kommentare suggerieren. Gemeinsam mit den zuständigen Marktüberwachungsbehörden kann das Büro Zugriff auf technische Dokumentation, Trainingsdaten-Beschreibungen und im Bedarfsfall auf Quellcode verlangen. Das ist ein erheblicher Eingriff in Betriebsgeheimnisse, deshalb unterliegt dieser Zugriff strengen Vertraulichkeitspflichten. Wer also fürchtet, Prüfbehörden würden Modellcode öffentlich machen, verwechselt Prüfrecht mit Veröffentlichungsrecht.

Zur Kompetenz gehört außerdem die Entwicklung von Bewertungskriterien für GPAI-Modelle, insbesondere für solche mit sogenanntem systemischem Risiko. Hier verzahnt sich die aktuelle Debatte mit den FLOPs-basierten Schwellenwerten, die für die Einstufung solcher Modelle herangezogen werden – ein technisches Kriterium, das inzwischen eigene Leitlinien und Diskussionen ausgelöst hat. Für Anbieter bedeutet das: Nicht die Marketingversion eines Modells entscheidet über die Regulierungspflicht, sondern seine Einstufung und der Zeitpunkt der Bereitstellung oder einer wesentlichen Änderung. Wer die technische Grundlage dieser Einstufung nachvollziehen will, kommt kaum daran vorbei, sich mit den unterschiedlichen Technologien der Künstlichen Intelligenz zu befassen, die hinter GPAI-Modellen stehen und je nach Architektur ganz unterschiedliche Risikoprofile mit sich bringen.

Was das Büro nicht kann: eigenständig branchenweite Bußgelder verhängen, ohne Abstimmung mit den Mitgliedstaaten agieren oder nationale Behörden einfach übergehen. Die Sanktionshöhe – bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes bei Verstößen gegen die Verbote nach Artikel 5 – wird letztlich von den zuständigen nationalen Stellen festgelegt. Das EU-AI-Office ist Koordinator und Fachbehörde für GPAI, nicht oberste Sanktionsinstanz für den gesamten AI Act.

Koordination mit nationalen Behörden: Wer macht eigentlich was

Die Frage, wie sich das EU-AI-Office mit den nationalen Marktüberwachungsbehörden koordiniert, ist keine akademische Feinheit, sondern entscheidet über die Wirksamkeit der gesamten Regulierung. Jeder Mitgliedstaat muss mindestens eine zentrale Marktüberwachungsbehörde benennen, die im Rahmen der bestehenden EU-Produktsicherheitsregeln arbeitet. Für Hochrisiko-KI-Systeme aus Anhang III kommen zusätzlich Behörden für Grundrechtsaufsicht ins Spiel, sofern Grundrechte betroffen sein könnten – etwa bei biometrischer Erkennung oder Profiling.

Diese Konstruktion setzt bewusst auf bestehende Strukturen statt auf einen kompletten Neuaufbau. Wer bereits Medizinprodukte oder Maschinen überwacht, bekommt zusätzliche KI-Zuständigkeiten aufgesattelt. Das spart Zeit, produziert aber auch ein bekanntes Problem: unterschiedlich ausgestattete Behörden mit unterschiedlichem technischem Know-how. Genau hier setzt die Koordinationsfunktion des EU-AI-Office an – es soll gemeinsame Untersuchungen unterstützen, Leitlinien liefern und verhindern, dass ein Anbieter in einem Mitgliedstaat streng, im nächsten kaum geprüft wird.

Praktisch bedeutet das für Unternehmen: Bei Anfragen einer nationalen Behörde ist Kooperation Pflicht, inklusive Bereitstellung von Dokumentation und Datensätzen. Bei GPAI-Modellen kann zusätzlich das EU-AI-Office selbst anfragen. Wer glaubt, sich durch die Zuständigkeit „nur national“ oder „nur EU“ herausreden zu können, irrt – die Systeme sind komplementär gedacht, nicht als Ausweichoption.

Datenschutz, EDPB und die Schnittstellen zur DSGVO

Ein Punkt, der in der öffentlichen Debatte regelmäßig untergeht: Das EU-AI-Office ersetzt keine Datenschutzaufsicht. Für die Verarbeitung personenbezogener Daten bleibt die DSGVO mit ihren nationalen Aufsichtsbehörden und dem Europäischen Datenschutzausschuss (EDPB) zuständig. Für KI-Systeme, die von EU-Organen selbst betrieben werden, ist der Europäische Datenschutzbeauftragte als Marktüberwachungsbehörde benannt – eine institutionelle Feinheit, die zeigt, wie kleinteilig das Zuständigkeitsgeflecht tatsächlich ist.

Besonders bei Systemen, die Biometrie, Emotionserkennung oder Profiling einsetzen, überschneiden sich AI-Act-Marktüberwachung und Datenschutzaufsicht unmittelbar. Ein Gesichtserkennungssystem, das gegen die Verbote nach Artikel 5 verstößt, verarbeitet in aller Regel auch personenbezogene Daten im Sinne der DSGVO. Beide Aufsichtsregime müssen sich also faktisch abstimmen, auch wenn der AI Act selbst keine formale Fusion der Behörden vorsieht. Aus meiner Sicht ist genau diese Schnittstelle der eigentliche Stresstest für das neue System: Zwei etablierte, aber unterschiedlich tickende Aufsichtskulturen müssen zusammenarbeiten, ohne dass jemand die Führung formal übernimmt. Wer die eigene Organisation auf diese doppelte Zuständigkeit vorbereiten will, findet erste Anhaltspunkte in den Hinweisen zur Compliance-Praxis rund um den AI Act, die Datenschutz- und KI-Pflichten bewusst zusammen denkt statt getrennt.

Unterschiedliche Ausgangslagen: Große Anbieter versus Start-ups

Nicht jedes Unternehmen trifft die neue Durchsetzungsphase mit denselben Ressourcen. Große Anbieter von KI-Basismodellen verfügen in aller Regel über eigene Rechtsabteilungen, spezialisierte Compliance-Teams und langjährige Erfahrung im Umgang mit europäischen Aufsichtsbehörden – Erfahrungswerte, die sie oft schon aus der Datenschutz- oder Wettbewerbsaufsicht mitbringen. Für kleinere Anbieter und Start-ups, die Hochrisiko-Anwendungen auf Basis fremder Modelle entwickeln, sieht die Lage anders aus. Ihnen fehlt häufig schlicht die Personalstärke, um technische Dokumentation im geforderten Detailgrad kontinuierlich zu pflegen, geschweige denn parallel auf Anfragen mehrerer nationaler Behörden zu reagieren.

Genau hier entsteht ein Zielkonflikt, den auch Branchenverbände seit Monaten formulieren: Strenge Durchsetzung schützt Verbraucherinnen und Verbraucher, kann aber kleinere Marktteilnehmer überproportional belasten, wenn Prüfprozesse nicht risikoadäquat skaliert werden. Ob das EU-AI-Office und die nationalen Behörden hier tatsächlich differenzieren – etwa durch vereinfachte Nachweisverfahren für nachweislich risikoarme Anwendungsfälle – wird sich erst in der Prüfpraxis zeigen. Bislang existieren dazu vor allem Ankündigungen, keine belastbaren, dokumentierten Verfahrenswege.

Ein mögliches Ablaufszenario: Wie eine Prüfung aussehen könnte

Um die abstrakten Kompetenzen greifbarer zu machen, lohnt ein vorsichtiger Blick auf einen plausiblen, aber ausdrücklich hypothetischen Ablauf. Angenommen, ein Anbieter setzt ein GPAI-Modell mit systemischem Risiko ein, und ein Hinweis – etwa aus einer Beschwerde nach Artikel 85 oder aus eigener Beobachtung des EU-AI-Office – deutet auf mögliche Abweichungen bei der Risikobewertung hin. In einem solchen Fall dürfte zunächst ein formelles Auskunftsersuchen stehen: Das Büro fordert Dokumentation zu Trainingsdaten, Testverfahren und Risikominderungsmaßnahmen an. Bleibt der Anbieter eine belastbare Antwort schuldig oder erscheinen die Unterlagen unzureichend, könnte eine vertiefte technische Prüfung folgen, gegebenenfalls in Abstimmung mit der zuständigen nationalen Behörde, falls auch ein nachgelagertes System betroffen ist.

Erst nach dieser Prüfphase stünden mögliche Anordnungen oder – im äußersten Fall – Sanktionsverfahren im Raum. Wichtig ist: Dieser Ablauf ist eine plausible Rekonstruktion des vorgesehenen Verfahrens, keine Beschreibung eines tatsächlich dokumentierten Falls. Er zeigt aber, warum lückenlose Dokumentation kein bürokratischer Selbstzweck ist, sondern im Ernstfall der Unterschied zwischen einem zügig erledigten Auskunftsersuchen und einem monatelangen Prüfverfahren sein kann.

Erste Fälle: Was bisher passiert ist – und was noch fehlt

Wer nach spektakulären ersten Marktinterventionen des EU-AI-Office sucht, wird bislang enttäuscht. Öffentlich dokumentierte Einzelfälle, in denen das Büro konkret gegen ein bestimmtes Modell oder einen bestimmten Anbieter vorgegangen ist, sind rar. Das liegt nicht an fehlendem Willen, sondern am Charakter der bisherigen Phase: Seit Februar 2025 mussten vor allem nationale Behörden gegen verbotene Praktiken wie behördliches Social Scoring oder ausbeuterische Manipulation vorgehen. Das EU-AI-Office selbst hat sich in dieser Zeit auf Regelsetzung, Kriterienentwicklung und die Vorbereitung von Templates für technische Dokumentation konzentriert.

Mit dem Start der Durchsetzung für Hochrisiko-Systeme im August 2026 wird erwartet, dass sich das ändert. Erste Produktmeldungen, erste formelle Auskunftsersuchen an GPAI-Anbieter, möglicherweise erste vorläufige Anordnungen – all das liegt im Bereich des Plausiblen, ist aber Stand jetzt noch keine belegte Tatsache, sondern eine naheliegende Erwartung angesichts des Zeitplans. Seriöser Journalismus sollte diesen Unterschied nicht verwischen: Ankündigung ist nicht Vollzug.

Meine Einschätzung: Genau dieses Ausbleiben lauter erster Fälle ist kein Zeichen von Schwäche, sondern typisch für neue Aufsichtsstrukturen. Auch die ersten Jahre der DSGVO-Durchsetzung waren geprägt von Aufbauarbeit, bevor die großen Bußgeldverfahren kamen. Wer vom EU-AI-Office im ersten Jahr operativer Marktüberwachung schon Dutzende Verfahren erwartet, hat die Lernkurve europäischer Regulierungsbehörden nicht verstanden.

Bußgelder, Beschwerderecht und die Folgen für Unternehmen

Für Unternehmen, die KI-Systeme in der EU anbieten oder betreiben, ändert sich mit dem operativen Start des EU-AI-Office vor allem die Wahrscheinlichkeit einer tatsächlichen Prüfung. Der Sanktionsrahmen selbst ist nicht neu: Bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes stehen im Raum, wenn Verbote nach Artikel 5 verletzt werden. Neu ist die realistische Aussicht, dass diese Zahlen tatsächlich angewendet werden, weil die Aufsichtsstrukturen jetzt personell und prozessual arbeitsfähig sind.

Wichtig ist außerdem das Beschwerderecht nach Artikel 85: Jede Person oder Organisation kann bei der zuständigen nationalen Marktüberwachungsbehörde eine Beschwerde einreichen, wenn sie einen Verstoß gegen den AI Act vermutet. Zivilgesellschaftliche Organisationen dürften dieses Instrument ähnlich nutzen, wie es bei der DSGVO seit Jahren üblich ist – als strategisches Werkzeug, um Aufsichtsbehörden zum Handeln zu bewegen. Unternehmen sollten sich also nicht nur auf proaktive Behördenprüfungen einstellen, sondern auch auf beschwerdegetriebene Verfahren.

Praktisch heißt das: Wer ein Hochrisiko-System betreibt oder ein GPAI-Modell anbietet, braucht ab sofort belastbare technische Dokumentation, nachvollziehbare Risikobewertungen und klare Ansprechstrukturen für Behördenanfragen. Wer glaubt, das lasse sich kurzfristig zusammenstellen, sobald eine Anfrage kommt, unterschätzt den Aufwand deutlich. Governance-Prozesse gehören in den laufenden Betrieb, nicht in die Schublade für den Ernstfall.

Kritik: Kapazitätsproblem und Fragmentierungsrisiko

Zwei Kritikpunkte ziehen sich durch nahezu jede Fachdebatte zum EU-AI-Office. Erstens: die technische Komplexität moderner Basismodelle könnte die Kapazitäten der Behörde überfordern. Große Sprachmodelle und multimodale Systeme zu prüfen, verlangt Fachwissen, das schwer zu skalieren ist – zumal der Wettbewerb um KI-Talente auch die öffentliche Verwaltung erreicht hat. Ob das EU-AI-Office genügend spezialisiertes Personal aufbauen kann, um mit dem Tempo der Modellentwicklung mitzuhalten, ist eine offene Frage, die sich erst in den kommenden Prüfzyklen beantworten lässt.

Zweitens besteht ein Fragmentierungsrisiko zwischen den Mitgliedstaaten. Nicht jede nationale Marktüberwachungsbehörde verfügt über dieselbe Personalausstattung oder dieselbe technische Tiefe. Das kann dazu führen, dass Durchsetzung in einem Land konsequent, in einem anderen eher symbolisch bleibt – ein Muster, das aus der Datenschutzaufsicht bereits bekannt ist. Die Koordinationsrolle des EU-AI-Office soll genau das verhindern, aber Koordination ersetzt keine Ressourcen. Ist ein Koordinationsbüro ohne eigene Durchgriffsrechte in jedem Fall stark genug, um ungleiche nationale Praxis auszugleichen? Ich habe daran ernsthafte Zweifel, solange die Mitgliedstaaten selbst entscheiden, wie viel Personal und Budget sie ihren Behörden geben.

Aus der Industrie kommt zugleich ein drittes Argument, das in der Kritik oft mitschwingt: Zu forsche Durchsetzung in einer frühen Phase könnte Investitionsentscheidungen in Europa bremsen, während Anbieter aus Drittstaaten mit laxeren Regeln schneller neue Modelle auf den Markt bringen. Zivilgesellschaftliche Organisationen halten dem entgegen, dass genau diese Wettbewerbsargumentation in den vergangenen Jahren regelmäßig genutzt wurde, um Verbraucherschutzstandards aufzuweichen – bei der Datenschutzaufsicht ebenso wie bei der Produktsicherheit. Beide Positionen lassen sich mit guten Gründen vertreten, was zeigt, dass die eigentliche Bewährungsprobe für das EU-AI-Office nicht nur technischer, sondern auch politischer Natur ist.

Was bleibt?

Der 2. August 2026 ist kein Schlusspunkt, sondern ein Startschuss. Das EU-AI-Office hat jetzt die Werkzeuge, um bei GPAI-Modellen tatsächlich einzugreifen, und die nationalen Behörden müssen zeigen, dass sie Hochrisiko-Systeme nicht nur auf dem Papier überwachen. Ob aus dieser institutionellen Architektur tatsächlich eine wirksame Marktüberwachung wird oder ein weiteres Beispiel europäischer Regulierung mit viel Struktur und wenig Vollzug, entscheidet sich in den kommenden Monaten – an den ersten konkreten Fällen, nicht an den nächsten Leitlinien.

Für Unternehmen, die jetzt handeln wollen, lassen sich aus den bisherigen Leitlinien immerhin einige vorsichtige Empfehlungen ableiten: eine aktuelle, lückenlose technische Dokumentation vorhalten, interne Zuständigkeiten für Behördenanfragen klar benennen und die eigene Risikoeinstufung regelmäßig überprüfen, statt sie einmalig festzulegen und abzulegen. Wer diese Grundlagen schon vor einer möglichen Anfrage schafft, verschafft sich im Ernstfall wertvolle Zeit – Zeit, die in einem laufenden Prüfverfahren erfahrungsgemäß knapp wird.