EU-Kommission und KI-Risikoaufsicht: Was hinter dem Cloud-Pilotprojekt wirklich steckt

Ein Pilotprojekt zur KI-Risikoaufsicht in Cloud-Umgebungen soll gestartet sein, meldeten in den vergangenen Tagen mehrere Fachmedien. Konzentriert auf europäische Hyperscaler, begleitet von nationalen Behörden und der EU-Datenschutzaufsicht. Klingt nach einem klar benannten Programm mit Aktenordner und Projektnummer. Nur: Ein offizielles Dokument mit genau diesem Titel lässt sich bei der EU-Kommission derzeit nicht finden. Was es tatsächlich gibt, ist unbequemer und in der Konsequenz vermutlich wichtiger als eine hübsch benannte Pilotphase.

Was die EU-Kommission tatsächlich angekündigt hat

Anfang Juni 2026 hat die EU-Kommission ein Paket zur technologischen Souveränität vorgestellt. Darin stecken der Chips Act 2.0, eine Open-Source-Strategie und ein Vorhaben namens Cloud and AI Development Act, kurz CADA. Von einem separaten „Pilotprojekt zur KI-Risikoaufsicht in Cloud-Umgebungen“ ist in den offiziellen Materialien nicht die Rede. Was stattdessen zusammenkommt, ist eine Verschränkung von drei Baustellen: Cloud-Infrastruktur, KI-Regulierung und digitale Souveränität. Diese drei Themen laufen seit Monaten parallel, jetzt sollen sie ineinandergreifen.

Der CADA-Vorschlag ist der eigentliche Kern der Sache. Er soll die Rechenzentrumskapazität in der EU innerhalb der kommenden fünf bis sieben Jahre mindestens verdreifachen. Flankiert wird das durch eine geplante einheitliche EU-Cloud-Politik für öffentliche Verwaltungen und öffentliche Aufträge. Das ist kein Pilotprojekt im engeren Sinn, sondern ein Infrastrukturprogramm mit politischem Unterbau. Wer daraus eine „KI-Risikoaufsicht in Cloud-Umgebungen“ macht, verkürzt eine komplexe Gesetzgebungslogik auf eine griffige Schlagzeile. Journalistisch verständlich, sachlich aber ungenau.

Der eigentliche Hebel: der AI Act und seine Hochrisiko-Pflichten

Woher kommt dann der Eindruck einer Cloud-bezogenen KI-Aufsicht überhaupt? Aus dem EU AI Act. Der europäische Ansatz für Künstliche Intelligenz basiert auf einem Risikomodell mit vier Stufen, von minimalem Risiko bis zu verbotenen Praktiken. Für Hochrisiko-KI-Systeme gelten bereits jetzt strenge Pflichten vor dem Inverkehrbringen: Risikobewertung, Anforderungen an Datenqualität, lückenlose Protokollierung, technische Dokumentation, menschliche Aufsicht sowie Nachweise zu Robustheit und Cybersicherheit. Genau diese Pflichten erzeugen den Cloud-Bezug, denn viele Hochrisiko-Systeme laufen nicht auf einem lokalen Server im Keller, sondern bei einem Cloud-Anbieter.

Wenn ein KI-Dienst in der Cloud betrieben wird, werden Logging, Zugriffskontrolle und Nachvollziehbarkeit zwangsläufig zu einer Cloud-Frage. Das ist keine neue Behörde, sondern die logische Konsequenz bestehender Pflichten. Die offizielle Übersicht der Kommission zum Regulierungsrahmen für KI beschreibt genau dieses Zusammenspiel aus Risikoklassifizierung und operativen Nachweispflichten. Wer also von einer KI-Risikoaufsicht in Cloud-Umgebungen spricht, meint faktisch: Die bestehenden AI-Act-Pflichten treffen zunehmend auf Cloud-Infrastruktur, und die Kommission testet in der Praxis, wie sich das technisch prüfen lässt. Dieselbe Logik gilt übrigens auch für andere Risikofelder der Cloud-Nutzung, etwa wenn Unternehmen mit gefälschten Inhalten oder manipulierten KI-Systemen konfrontiert werden, wie es zuletzt im Zusammenhang mit einem Deepfake-Angriff auf ein Unternehmen deutlich wurde. Auch dort zeigte sich, dass technische Nachweispflichten und Protokollierung keine abstrakte Compliance-Übung sind, sondern im Ernstfall über Schadenshöhe und Reaktionsgeschwindigkeit entscheiden.

CADA im Detail: Souveränität statt Aufsicht

Der Cloud and AI Development Act ist in seiner Stoßrichtung eher ein Industriepolitik-Instrument als ein Kontrollmechanismus. Die Zielsetzung, die europäische Rechenzentrumskapazität binnen wenigen Jahren zu verdreifachen, richtet sich in erster Linie an den Ausbau von Angebot und Wettbewerbsfähigkeit, nicht an Aufsicht über einzelne KI-Dienste. Wer aus diesem Ausbauprogramm sofort ein Kontrollregime für Cloud-Hyperscaler herausliest, überschätzt die Reichweite des Textes. Die geplante einheitliche Cloud-Politik für öffentliche Beschaffung ist der Punkt, an dem europäische Cloud-Hyperscaler tatsächlich profitieren könnten, weil Behörden künftig stärker angehalten werden sollen, europäische Anbieter zu berücksichtigen.

Das ist politisch nachvollziehbar, angesichts der Marktkonzentration bei wenigen großen, überwiegend außereuropäischen Cloud-Hyperscalern. Ob daraus tatsächlich mehr Marktanteil für europäische Anbieter wird, ist eine andere Frage. Öffentliche Beschaffungsregeln ändern selten über Nacht Gewohnheiten von IT-Abteilungen, die seit Jahren auf etablierte Plattformen setzen. Die Details, wie streng eine solche Präferenz für europäische Cloud-Hyperscaler ausfallen wird, sind zum jetzigen Zeitpunkt offen.

Datenschutz als Infrastrukturfrage

Bemerkenswert an dem Paket ist, dass Datenschutz nicht länger nur als Compliance-Kapitel behandelt wird, sondern als Architekturfrage. Standort der Rechenzentren, Kontrollrechte über Daten, Zugriffsmöglichkeiten Dritter, all das wird zunehmend mit der Frage verknüpft, wo und wie Cloud-Infrastruktur betrieben wird. Diese Verschiebung ist konsequent, wirkt aber auch wie eine späte Reaktion auf Diskussionen, die seit Jahren geführt werden, etwa um Datenübermittlungen an außereuropäische Cloud-Hyperscaler und deren rechtliche Grauzonen. Parallel dazu wird in Brüssel derzeit auch über eine mögliche Lockerung einzelner DSGVO-Vorgaben diskutiert, was die Gemengelage zusätzlich verkompliziert: Während auf der einen Seite Cloud-Infrastruktur und KI-Aufsicht enger verzahnt werden sollen, gibt es auf der anderen Seite Bestrebungen, bestehende Datenschutzpflichten für bestimmte Anwendungsfälle zu vereinfachen. Beide Entwicklungen laufen zeitlich nebeneinander, ohne dass bislang klar wäre, wie sie sich gegenseitig beeinflussen.

Für die EU-Datenschutzaufsicht bedeutet das mehr Berührungspunkte mit technischer Infrastrukturpolitik, ein Feld, das bislang eher der Wettbewerbs- und Industriepolitik zugeordnet war. Ob nationale Aufsichtsbehörden personell und technisch darauf vorbereitet sind, Audit-Logs und Risiko-Klassifizierungen für KI-Dienste in der Cloud tatsächlich zu prüfen, ist eine offene Frage, zu der es bislang keine belastbaren Zahlen gibt. Genau hier würde sich ein echtes Pilotprogramm anbieten, dokumentiert ist ein solches Vorhaben aber bislang nicht in dieser Form.

Zeitplan: Was wann tatsächlich greift

Für Unternehmen zählt am Ende weniger die Terminologie als der Zeitplan. Die Transparenzregeln des AI Act sollen im August 2026 in Kraft treten, das betrifft unter anderem Kennzeichnungspflichten für bestimmte KI-Inhalte und Systeme. Für bestimmte Hochrisiko-Bereiche gilt nach dem aktuellen Zeitplan der Kommission der 2. Dezember 2027 als Stichtag. Für KI in bestimmten Produkten, etwa Robotik und Industriemaschinen, wurde der Termin auf den 2. August 2028 gelegt. Diese gestaffelten Fristen sind der eigentliche Fahrplan, an dem sich Unternehmen orientieren sollten, nicht ein vermeintliches Pilotprojekt.

Die Leitlinien der Kommission für Anbieter und Betreiber von KI-Hochrisikosystemen konkretisieren, welche Nachweise ab welchem Zeitpunkt verlangt werden. Wer Cloud-basierte KI-Dienste betreibt oder nutzt, sollte diese Leitlinien als Arbeitsgrundlage lesen, unabhängig davon, ob am Ende ein Pilotprojekt zur KI-Risikoaufsicht offiziell so benannt wird oder nicht. Die inhaltlichen Anforderungen bestehen bereits, sie werden nur schrittweise wirksam.

Was das für deutsche Unternehmen bedeutet

Für deutsche Unternehmen, die KI-Dienste über europäische Cloud-Plattformen beziehen, ergeben sich aus dieser Gemengelage konkrete Handlungsfelder, auch ohne bestätigtes Pilotprojekt. Erstens: Wer Hochrisiko-KI-Systeme betreibt oder integriert, braucht schon jetzt belastbare Prozesse für Risikobewertung, Protokollierung und menschliche Aufsicht. Diese Pflichten hängen nicht am Etikett eines Pilotprojekts, sondern an der Risikoklasse des jeweiligen Systems. Zweitens: Verträge mit Cloud-Anbietern sollten daraufhin geprüft werden, wer im Streitfall Audit-Logs bereitstellen kann und wer die Verantwortung für Datenqualität und Nachvollziehbarkeit trägt. Das betrifft nicht nur große Hyperscaler, sondern auch kleinere europäische Cloud-Anbieter, die zunehmend als Alternative positioniert werden.

Drittens lohnt sich ein Blick auf die eigene Beschaffungsstrategie. Wenn öffentliche Aufträge künftig stärker auf europäische Cloud-Hyperscaler ausgerichtet werden, könnte sich das mittelfristig auf Preise, Verfügbarkeit und Vertragskonditionen auswirken, gerade für Unternehmen, die selbst öffentliche Kunden bedienen. Wer jetzt schon dokumentiert, welche KI-Dienste über welche Cloud-Infrastruktur laufen, ist im Zweifel schneller auskunftsfähig, wenn nationale Behörden oder die Datenschutzaufsicht Fragen stellen. Genau diese Auskunftsfähigkeit dürfte am Ende der eigentliche Prüfstein sein, egal wie ein einzelnes Programm heißt.

Ein Praxisszenario: Mittelständler zwischen Cloud-Wahl und Compliance-Druck

Wie sich das konkret anfühlen könnte, lässt sich an einem vorsichtigen Gedankenspiel skizzieren. Ein mittelständisches Unternehmen aus der Fertigungsbranche nutzt seit einigen Jahren ein KI-gestütztes System zur Qualitätskontrolle, das Bilddaten aus der Produktion analysiert und Abweichungen meldet. Läuft dieses System über eine Cloud-Plattform, die als Hochrisiko-Anwendung im Sinne des AI Act eingestuft wird, muss die IT-Abteilung nachweisen können, wie Trainingsdaten ausgewählt wurden, wie Entscheidungen protokolliert werden und wer im Zweifel menschlich eingreifen kann. Bislang war das für viele Unternehmen eine theoretische Übung, weil Kontrollen selten waren und die Fristen noch fern erschienen.

Mit den näher rückenden Stichtagen 2027 und 2028 verändert sich diese Ausgangslage. Ein solches Unternehmen müsste dann relativ kurzfristig klären, ob der bestehende Cloud-Vertrag überhaupt die geforderten Audit-Logs liefert, oder ob ein Wechsel zu einem anderen Anbieter notwendig wird, der diese Nachweise von Haus aus mitbringt. Ebenso müsste geklärt werden, wer im Unternehmen die Verantwortung für die menschliche Aufsicht über das System trägt, und ob diese Person überhaupt ausreichend Einblick in die technischen Abläufe hat. Ein solches Szenario ist bewusst vorsichtig formuliert, weil es keine belastbaren Zahlen dazu gibt, wie viele Unternehmen tatsächlich betroffen sein werden. Es zeigt aber, dass die abstrakten Fristen aus dem AI Act sehr konkrete organisatorische Fragen aufwerfen, unabhängig davon, ob ein offizielles Pilotprojekt existiert oder nicht.

Kritik aus der Wirtschaft: Zwischen Notwendigkeit und Bürokratielast

Nicht jeder in der Wirtschaft begrüßt diese Entwicklung uneingeschränkt. Verbände warnen seit längerem davor, dass die Kombination aus AI Act, Cloud-Souveränitätsprogrammen und Datenschutzaufsicht gerade kleinere Unternehmen überfordern könnte, die weder die personellen noch die finanziellen Ressourcen haben, um umfassende Compliance-Abteilungen aufzubauen. Diese Sorge ist nicht aus der Luft gegriffen: Schon die bisherigen Dokumentationspflichten für Hochrisiko-Systeme gelten in Teilen der Wirtschaft als aufwendig, und mit den zusätzlichen Anforderungen an Cloud-Nachweise könnte sich dieser Aufwand weiter erhöhen.

Auf der anderen Seite lässt sich argumentieren, dass genau diese Nachweispflichten notwendig sind, um Vertrauen in KI-Systeme herzustellen, die zunehmend in sensiblen Bereichen wie Personalentscheidungen, Kreditvergabe oder medizinischer Diagnostik eingesetzt werden. Ohne belastbare Protokollierung und nachvollziehbare Risikobewertung bliebe die Aufsicht über solche Systeme reine Symbolpolitik. Beide Positionen haben ihre Berechtigung, und die EU-Kommission steht damit vor der klassischen Abwägung zwischen Innovationsförderung und Schutzpflichten. Wie diese Abwägung am Ende ausfällt, dürfte sich erst zeigen, wenn die ersten Prüfungen unter den neuen Fristen tatsächlich stattfinden.

Europäische Hyperscaler zwischen Förderung und Überforderung

Die politische Sympathie für europäische Cloud-Hyperscaler ist nachvollziehbar, sie ist aber kein Selbstläufer. Kleinere und mittlere europäische Anbieter müssten parallel zum Kapazitätsausbau auch die technischen Voraussetzungen für Audit-Fähigkeit, Logging und Risiko-Klassifizierung schaffen, die der AI Act verlangt. Das kostet Geld und Personal, Ressourcen, die etablierte, global agierende Cloud-Hyperscaler oft leichter aufbringen können als kleinere europäische Wettbewerber. Es wäre paradox, wenn ein Programm, das europäische Souveränität stärken soll, am Ende genau jene Anbieter begünstigt, die ohnehin schon über die größten Compliance-Abteilungen verfügen.

Ein weiterer Aspekt, der in der öffentlichen Debatte bislang zu kurz kommt, ist die Frage der Interoperabilität. Wenn öffentliche Verwaltungen künftig verstärkt europäische Cloud-Hyperscaler bevorzugen sollen, braucht es auch klare technische Standards, damit Systeme zwischen verschiedenen Anbietern wechseln oder zusammenarbeiten können. Ohne solche Standards droht eine neue Form der Fragmentierung, bei der zwar mehr europäische Anbieter am Markt sind, diese aber untereinander kaum kompatibel arbeiten. Das würde den eigentlichen Zweck der Souveränitätsstrategie, nämlich Unabhängigkeit von wenigen großen Plattformen, nur teilweise erreichen.

Meine Einschätzung: Die Kommission tut gut daran, Souveränität nicht nur als Kapazitätsfrage zu verstehen, sondern als Frage der tatsächlichen Umsetzbarkeit von Aufsicht. Ein Ausbauprogramm ohne belastbare Prüfmechanismen bleibt Symbolpolitik. Und ja, das ist eine unbequeme Haltung angesichts eines Pakets, das medial als großer Souveränitätsschub verkauft wird: Kapazität allein schützt niemanden vor intransparenten KI-Diensten, wenn die Prüfinfrastruktur dahinter fehlt.

Was von der Schlagzeile übrig bleibt

Ist die Aufregung um ein angebliches Pilotprojekt zur KI-Risikoaufsicht also überzogen? Teilweise ja. Es gibt derzeit kein offiziell so benanntes Programm, das exakt die im Umlauf befindliche Beschreibung erfüllt. Was es gibt, ist ein Bündel aus CADA, AI-Act-Pflichten und einer Datenschutzaufsicht, die sich zunehmend mit Cloud-Architektur beschäftigen muss. Diese Gemengelage wird in der öffentlichen Debatte gern zu einem einzelnen, klar konturierten Projekt zusammengezogen, weil das einfacher zu erzählen ist als ein Geflecht aus Gesetzestexten und Zeitplänen.

Für Unternehmen ändert diese begriffliche Unschärfe nichts an der Substanz: Wer Hochrisiko-KI in der Cloud betreibt, braucht Nachweise, Logs und dokumentierte Risikobewertungen, unabhängig vom Namen des Programms, das am Ende die Prüfung übernimmt. Die spannendere Frage dürfte sein, ob nationale Behörden und die EU-Datenschutzaufsicht personell und technisch überhaupt in der Lage sind, diese Nachweise systematisch zu kontrollieren, sobald die gestaffelten Fristen 2027 und 2028 näher rücken. Bis dahin bleibt vor allem eines sicher: Zwischen einer angekündigten Pilotphase und einer funktionierenden Aufsichtspraxis liegt in Brüssel erfahrungsgemäß noch ein weiter Weg.