Allzweck-KI unter Aufsicht: EU-Kommission und der finale Verhaltenskodex

Ein Jahr ist vergangen, seit die EU-Kommission die endgültige Fassung des Verhaltenskodex für Allzweck-KI vorgelegt hat – und erst jetzt zeigt sich, wie ernst es die Aufsicht wirklich meint. Der freiwillige „Code of Practice on General Purpose AI“ sollte Anbietern von Foundation-Modellen helfen, die verbindlichen Vorgaben des KI-Gesetzes praktisch umzusetzen. Er ergänzt die Arbeit des EU-Amtes für Künstliche Intelligenz, das im AI Act eine gestärkte Aufsichtsrolle für Modelle mit allgemeinem Verwendungszweck erhalten hat. Was zunächst wie ein technisches Detail wirkte, entwickelt sich zur zentralen Referenz dafür, wie GPT, Gemini, Claude und vergleichbare Systeme künftig in Europa betrieben werden dürfen.

Der News-Hook ist eindeutig: Allzweck-KI steht unter Aufsicht, und der Verhaltenskodex ist das Instrument, mit dem die EU-Regulierung diese Aufsicht mit Substanz füllt. Wer glaubt, ein unverbindliches Papier könne folgenlos ignoriert werden, unterschätzt den Mechanismus dahinter gründlich.

Was im Verhaltenskodex tatsächlich steht

Der Kodex wurde in einem Multi-Stakeholder-Prozess von unabhängigen Fachleuten erarbeitet und deckt drei Themenfelder ab: Transparenz, Sicherheit und Urheberrecht. Beim Punkt Transparenz verpflichten sich unterzeichnende Anbieter, Trainingsdaten, Modellfähigkeiten und bekannte Limitierungen nachvollziehbar zu dokumentieren. Beim Punkt Sicherheit geht es um Modellbewertungen, Risikoidentifikation und die Überwachung schwerwiegender Vorfälle während des Betriebs. Und beim Urheberrecht müssen Anbieter nachweisen, dass sie bei Trainingsdaten und generierten Ausgaben geltendes Recht respektieren.

Anbieter von Allzweck-KI-Modellen können den Kodex offiziell unterzeichnen, indem sie ein Formular an die zuständige Stelle der Kommission übermitteln. Das klingt bürokratisch simpel, hat aber Gewicht: Wer unterschreibt, signalisiert Aufsichtsbehörden aktiv, dass er die Vorgaben des AI Act ernst nimmt – ein Signal, das im Streitfall relevant werden kann.

Die urheberrechtliche Gratwanderung

Besonders komplex ist die Umsetzung der Urheberrechtsvorgaben. Der Kodex verlangt von Anbietern nicht nur eine pauschale Versicherung, Rechte zu wahren, sondern konkrete Prozesse zum Umgang mit „Opt-Out“-Erklärungen von Rechteinhabern. Das bedeutet in der Praxis: Anbieter müssen technisch sicherstellen, dass Inhalte, deren Nutzung maschinenlesbar untersagt wurde, nicht im Training landen oder zumindest in der Gewichtung angepasst werden. Für die Entwickler von Crawlern und Daten-Pipelines wird dies zu einer enormen engineering-Herausforderung, da das Web voll von inkonsistenten Metadaten und Robots.txt-Dateien ist. Wer hier schludert, riskiert nicht nur Abmahnungen, sondern verstößt direkt gegen die Transparenzpflichten des Kodex, was wiederum die Vermutung der Gesetzeskonformität erschüttert.

Der Zeitplan, den kaum jemand vollständig kennt

Die Regulierung rund um Allzweck-KI läuft in gestaffelten Etappen, und genau diese Staffelung sorgt für Verwirrung. Der AI Act selbst ist bereits im August 2024 in Kraft getreten. Die spezifischen Pflichten für Anbieter von Allzweck-KI-Modellen wurden davon losgelöst erst zum 2. August 2025 rechtlich verbindlich – zeitgleich mit der Veröffentlichung des finalen Verhaltenskodex am 10. Juli 2025. Wenige Tage später, am 18. Juli 2025, legte die Kommission ergänzende Leitlinien nach, die klären, was überhaupt als Allzweck-KI-Modell gilt und wer als Anbieter im Sinne des Gesetzes gilt.

Entscheidend für die kommenden Monate ist ein anderes Datum: Ab dem 2. August 2026 erhält die Kommission tatsächliche Durchsetzungsbefugnisse gegenüber Anbietern von Allzweck-KI. Bis dahin galt vieles als Ankündigung mit Vorlaufzeit – ab diesem Stichtag wird aus der Theorie Praxis. Parallel greifen zum selben Termin größtenteils die Pflichten für Hochrisiko-KI-Systeme. Wer sein Modell bereits vor dem 2. August 2025 auf dem europäischen Markt hatte, bekommt eine Schonfrist bis zum 2. August 2027, um alle einschlägigen Pflichten vollständig zu erfüllen. Diese Übergangsregelung betrifft praktisch jedes etablierte Sprachmodell, das heute schon im Einsatz ist.

Freiwillig auf dem Papier, verbindlich in der Praxis

Formal ist der Verhaltenskodex kein Gesetz. Niemand wird bestraft, nur weil er nicht unterschreibt. Trotzdem halte ich die Bezeichnung „freiwillig“ für irreführend, wenn man sie ohne Kontext liest. Der Kodex konkretisiert unbestimmte Rechtsbegriffe aus dem AI Act – Begriffe wie „angemessene Risikominderung“ oder „ausreichende Transparenz“, die sich sonst erst in jahrelanger Rechtsprechung schärfen würden. Wer sich an den Kodex hält, kann gegenüber Aufsichtsbehörden im Zweifel leichter belegen, dass er die gesetzlichen Pflichten erfüllt hat. Wer ihn ignoriert, muss diesen Nachweis auf anderem Weg führen – ein deutlich unbequemerer Weg.

Genau deshalb dürfte sich der Kodex faktisch zum Marktstandard entwickeln, selbst wenn ihn theoretisch niemand unterschreiben müsste. Große Anbieter mit Milliardeninvestitionen in Foundation-Modelle werden kaum riskieren, als einzige ohne dokumentierte Compliance-Prozesse dazustehen, sobald die Kommission ab August 2026 tatsächlich hinschaut. Das ist der klassische Effekt von Soft Law: Es bindet niemanden rechtlich und trotzdem fast jeden faktisch.

Systemisches Risiko: Die Sonderklasse der Foundation-Modelle

Nicht jede Allzweck-KI wird gleich behandelt. Der Kodex und die begleitenden Leitlinien unterscheiden zwischen gewöhnlichen Allzweck-Modellen und solchen mit sogenanntem systemischem Risiko – also Modellen, deren Größe, Verbreitung oder Fähigkeiten so weit reichen, dass Fehlfunktionen gesamtgesellschaftliche Folgen haben könnten. Für diese Kategorie gelten zusätzliche Sicherheits- und Gefahrenabwehrpflichten, etwa umfangreichere Risikobewertungen vor und während des Betriebs und die Meldung schwerwiegender Vorfälle (Serious Incidents) an das AI Office.

Wo genau die Grenze zwischen „normal“ und „systemisch riskant“ verläuft, ist eine der spannendsten offenen Fragen der gesamten EU-Regulierung. Kriterien wie Rechenleistung beim Training spielen dabei eine zentrale Rolle, und wer sich mit den technischen Details der Schwellenwerte beschäftigt, landet schnell bei den einschlägigen Leitlinien zu FLOPs und systemischen Risiken, die genau diese Grenzziehung operationalisieren sollen. Die Auslegung wird sich vermutlich erst durch erste konkrete Fälle und behördliche Leitentscheidungen konsolidieren – ein Prozess, der Jahre dauern kann.

Open Source im Spannungsfeld der Regulierung

Ein Aspekt, der in der öffentlichen Debatte oft zu kurz kommt, ist die Sonderrolle von Open-Source-Modellen. Der AI Act und der Kodex sehen Erleichterungen vor, doch die Definition von „Open Source“ ist im europäischen Recht streng gefasst. Nur Modelle, deren Gewichte und Code vollständig und ohne Nutzungseinschränkungen verfügbar sind, profitieren von den Ausnahmen. Große Player wie Meta mit Llama oder Mistral bewegen sich hier oft in einer Grauzone, da ihre Lizenzen häufig kommerzielle Nutzungsgrenzen ziehen oder die Weiterverwendung einschränken.

Der Kodex versucht hier, Standards für die Dokumentation zu setzen, die auch für die Community nachvollziehbar sind, ohne die Innovation zu ersticken. Doch die Gefahr bleibt: Wenn die Hürden für Transparenzberichte und Sicherheits-Red-Teaming zu hoch gelegt werden, könnten kleinere Open-Source-Projekte faktisch vom Markt gedrängt werden, während nur die milliardenschweren Tech-Giganten die Compliance-Kosten stemmen können. Dies wäre ein paradoxes Ergebnis einer Regulierung, die eigentlich Vielfalt und Wettbewerb fördern wollte.

Folgen für regulierte Industrien: Der Finanzsektor

Die Auswirkungen des Kodex strahlen weit über die Tech-Branche hinaus, insbesondere in hochregulierte Sektoren wie das Bank- und Versicherungswesen. Finanzinstitute, die Foundation-Modelle für Bonitätsprüfungen, Betrugserkennung oder Kundeninteraktion nutzen, stehen vor einem doppelten Compliance-Problem. Sie müssen nicht nur die Eignung des Modells für ihren spezifischen Use Case prüfen, sondern auch sicherstellen, dass der Anbieter selbst die Standards des Kodex einhält.

Die Aufsicht erwartet hier eine lückenlose Risikosteuerung. Wer als Bank ein Modell einkauft, ohne dessen Limitierungen und Trainingsdaten-Herkunft zu kennen, verstößt gegen grundlegende Prinzipien des Risikomanagements. Wie stark die Verzahnung zwischen KI-Regulierung und bankaufsichtlichen Anforderungen wie der MaRisk bereits ist, zeigt sich in der aktuellen Orientierungshilfe der BaFin zum Risikomanagement. Für Vorstände und Risikobeauftrage bedeutet das: Der Verhaltenskodex der EU-Kommission wird indirekt zur Pflichtlektüre, da er den Stand der Technik definiert, an dem sich auch interne Revisionen orientieren werden.

Die zweite Baustelle: Kennzeichnung von KI-Inhalten

Parallel zum Verhaltenskodex für Foundation-Modelle hat die Kommission am 10. Juni 2026 einen separaten Verhaltenskodex zur Kennzeichnung von KI-generierten Inhalten veröffentlicht. Er richtet sich an Anbieter und Betreiber generativer Systeme und soll die Transparenzpflichten aus Artikel 50 des AI Act praktisch untermauern – etwa bei Deepfakes oder KI-bearbeiteten Texten zu Themen von öffentlichem Interesse. Diese Transparenzpflichten werden, ebenso wie die Hochrisiko-Regeln, zum 2. August 2026 rechtlich verbindlich.

Damit entsteht ein zweistufiges Kontrollsystem: Der eine Kodex regelt, wie ein Modell entwickelt und betrieben werden muss. Der andere regelt, wie dessen Ausgaben gegenüber Endnutzerinnen und Endnutzern erkennbar gemacht werden müssen. Wer nur eine der beiden Ebenen im Blick hat, übersieht die Hälfte der neuen Spielregeln. Für Redaktionen, Marketingabteilungen und Softwareanbieter, die KI-Ausgaben weiterverarbeiten, wird diese zweite Baustelle in den kommenden Monaten mindestens so praxisrelevant wie der Kodex für die Modelle selbst. Besonders Agenturen und Content-Plattformen müssen nun prüfen, wie sie DSGVO-konforme AI-Workflows etablieren, die gleichzeitig die Kennzeichnungspflichten wahren, ohne die User Experience zu zerstören.

Kritik von Zivilgesellschaft und offene Fragen

Digitalrechtsorganisationen begrüßen zwar den Versuch, mächtige Foundation-Modelle überhaupt in einen Aufsichtsrahmen zu zwingen. Die Kritik richtet sich aber gegen drei Punkte: die grundsätzliche Freiwilligkeit des Instruments, die noch unklare Durchsetzung speziell bei systemischen Risiken und die starke Abhängigkeit von Selbst-Audits durch die Anbieter selbst. Wer kontrolliert eigentlich, ob ein Konzern seine eigene Risikobewertung ehrlich durchführt? Diese Frage bleibt bislang unbeantwortet, und genau das macht mich skeptisch, ob der Kodex allein ausreicht.

Meine persönliche Einschätzung: Ein Regelwerk, das auf Selbstauskunft der größten und mächtigsten Tech-Konzerne der Welt setzt, braucht unabhängige Stichprobenprüfungen – sonst bleibt es ein Vertrauensvorschuss ohne echte Kontrolle. Die Erfahrung aus anderen Regulierungsfeldern zeigt, dass Selbstverpflichtungen ohne externe Prüfmechanismen selten so konsequent umgesetzt werden, wie es die Papierform verspricht. Ähnliche Debatten kennt man bereits aus der Diskussion um die Konformitätsbewertung von KI-Systemen, wo die Frage, wer eigentlich prüft und wer nur behauptet, bislang ebenfalls nicht vollständig geklärt ist. Zudem warnen Kritiker vor einer „Compliance-Blase“, in der viel Papier produziert wird, aber die tatsächliche Modellarchitektur und Sicherheitskultur unverändert bleibt.

Haftungsfragen: Wer zahlt, wenn der Kodex nicht reicht?

Ein oft übersehener Aspekt ist die zivilrechtliche Haftung. Der Verhaltenskodex schützt Anbieter nicht automatisch vor Schadenersatzklagen, wenn ein Modell dennoch Schäden verursacht – sei es durch Fehlinformationen, Diskriminierung oder Urheberrechtsverletzungen. Im Gegenteil: Wer den Kodex unterzeichnet und dann dagegen verstößt, liefert Klägern im Prozess vermutlich sogar Beweismaterial für ein Organisationsverschulden.

Versicherer beginnen bereits jetzt, Policen für KI-Risiken neu zu kalkulieren. Die Einhaltung des Kodex wird dabei wahrscheinlich zur Voraussetzung für eine Deckung werden, ähnlich wie es bei Cyberversicherungen und IT-Sicherheitsstandards der Fall ist. Für Unternehmen, die Allzweck-KI kommerziell einsetzen, bedeutet das: Der Kodex ist nicht nur eine regulatorische Hürde, sondern ein Faktor im eigenen Risikomanagement und in der Vertragsgestaltung mit Kunden und Partnern.

Was Unternehmen und Nutzer jetzt konkret prüfen sollten

Wer als Unternehmen Foundation-Modelle einsetzt oder eigene KI-Anwendungen darauf aufbaut, sollte jetzt handeln statt abzuwarten. Sinnvoll ist zunächst eine Bestandsaufnahme: Welche eingesetzten Modelle stammen von Anbietern, die den Verhaltenskodex bereits unterzeichnet haben? Diese Information findet sich meist in den Compliance- oder Trust-Center-Seiten der Anbieter. Wer mit Modellen arbeitet, die noch keine belastbare Dokumentation liefern, sollte spätestens jetzt Ersatzoptionen prüfen, bevor die Durchsetzungsbefugnisse der Kommission ab August 2026 tatsächlich greifen.

Zweitens lohnt ein Blick auf die eigene Nutzung generativer Ausgaben: Werden KI-generierte Texte, Bilder oder Videos im eigenen Angebot weiterverarbeitet und veröffentlicht? Dann betrifft die kommende Kennzeichnungspflicht aus Artikel 50 direkt die eigene Organisation, nicht nur den Modellanbieter. Drittens empfiehlt sich, interne Verantwortlichkeiten frühzeitig zu klären – ähnlich wie es viele Unternehmen bereits im Rahmen einer AI-Act-Compliance-Struktur für Hochrisiko-Systeme aufgebaut haben. Wer diese Prozesse schon für andere Pflichten aus dem KI-Gesetz eingerichtet hat, kann sie meist direkt erweitern, statt komplett neu zu beginnen.

Für Verbraucherinnen und Verbraucher bleibt vor allem ein Auskunftsrecht relevant, das mit der EU-KI-Verordnung an Bedeutung gewinnt: das Recht, Informationen über verwendete Trainingsdaten zu erhalten, wenn ein Anbieter dem entsprechenden Transparenzregime unterliegt. Dieses Recht ist bislang wenig bekannt, dürfte aber mit wachsender öffentlicher Debatte über Foundation-Modelle an Relevanz gewinnen. Ausführliche Hintergründe dazu, was genau Bürgerinnen und Bürger einfordern können, lassen sich in vertiefenden Analysen zum Auskunftsrecht über Trainingsdaten nachlesen.

Warum der Blick nach Brüssel lohnt

Mehrere Stimmen aus der Industrie sehen im AI Act samt Verhaltenskodex einen möglichen Referenzrahmen für andere Jurisdiktionen, ähnlich wie es einst bei der Datenschutz-Grundverordnung geschah. Ob dieser sogenannte Brussels Effect tatsächlich eintritt, ist offen – aber die Tendenz zeichnet sich ab: Wer als globaler Anbieter ohnehin EU-konforme Prozesse für Transparenz, Sicherheit und Kennzeichnung aufbauen muss, wird diese Standards kaum für jeden Markt neu erfinden. Die Ausarbeitung des Verhaltenskodex durch die EU-Kommission könnte damit weit über Europa hinaus Wirkung entfalten.

Wie stark diese Wirkung tatsächlich wird, hängt entscheidend davon ab, wie konsequent die Kommission ab August 2026 tatsächlich durchgreift. Ein Kodex ohne Kontrolle bleibt ein Papiertiger – ein Kodex mit konsequenter Aufsicht kann tatsächlich zum Maßstab werden, an dem sich Foundation-Modelle weltweit orientieren. Einen guten Überblick über die rechtlichen Grundpflichten liefert die Übersicht der Kommission zum Regulierungsrahmen für KI, während sich für die praktische Einordnung der Fristen auch die Einführung eines großen Anbieters in den AI Act als nützliche Ergänzung liest, gerade weil sie die Perspektive der betroffenen Industrie zeigt.

Bleibt die Frage, die den gesamten Prozess begleitet: Reicht ein freiwilliger Kodex tatsächlich aus, um Systeme zu kontrollieren, die Millionen Menschen täglich nutzen – oder braucht Europa in wenigen Jahren doch ein schärferes Instrument? Wer die Entwicklung rund um Allzweck-KI in den kommenden Monaten verfolgt, bekommt darauf vermutlich eine erste, sehr konkrete Antwort.