Zum Inhalt springen
Die digitale Welt verstehen
Künstliche Intelligenz

AISI Deutschland bewertet KI-Modelle, beaufsichtigt aber keine Unternehmen

Das AISI Deutschland bewertet KI-Modelle und ist laut BSI keine Regulierungsbehörde. Unternehmen sollten Evaluierung und Aufsicht von Anfang an getrennt halten.

AISI Sicherheit Evaluierung BerlinDieses Bild wurde mit KI generiertProviderhiggsfieldModellflux_2PromptEditorial Symbolbild: Berlin skyline with abstract network nodes symbolizing AI safety institute, dusk blue hour, photorealistic magazine photo, no text, no logos
Berliner Skyline mit abstrakten Netzwerk-Knoten als Symbol für das neue KI-Sicherheitsinstitut

Das AI Safety and Security Institute Deutschland (AISI Deutschland) bewertet leistungsfähige KI-Modelle, beaufsichtigt aber keine Unternehmen. Laut Pressemitteilung 50/2026 richten das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) und das Bundesministerium des Innern (BMI) das Institut in Berlin ein. Der Nationale Sicherheitsrat hatte das im Juni 2026 beschlossen. Unternehmen sollten ihre Zuständigkeiten deshalb von Anfang an getrennt halten.

Evaluierung und Aufsicht sind zwei verschiedene Aufgaben

Wer das AISI Deutschland mit einer Regulierungsbehörde verwechselt, landet bei falschen Ansprechpartnern, falschen Fristen und falschen Erwartungen. Viele Teams hören „KI-Sicherheitsinstitut“ und denken sofort an Bußgelder, Verbote oder Prüfungen mit Stempel. Laut dem Bundesamt für Sicherheit in der Informationstechnik (BSI) ist das Institut jedoch eine Kompetenz- und Evaluierungsinstitution. Es analysiert, berät und vernetzt. Die Marktüberwachung und die Durchsetzung des europäischen AI Acts ersetzt es nicht.

Evaluierung liefert Lagebilder und technische Einschätzungen. Aufsicht prüft die Konformität und greift durch. Beide Aufgaben folgen einer eigenen Logik und haben eigene Ansprechpartner. Im Alltag laufen sie trotzdem oft in einer einzigen E-Mail zusammen: Die Sicherheitsabteilung will Bedrohungsmodelle, die Rechtsabteilung Nachweise, die Compliance einen geregelten Prozess.

In großen Organisationen passiert der Fehler leise. Eine Pressemitteilung landet im Leitungs-Chat, jemand schreibt „Security Institute“, und die nächste Stunde dreht sich um Prüfungsbereitschaft, obwohl die Quelle von Evaluierung und Beratung spricht. Diese Übersetzungsarbeit gehört zur Richtlinienarbeit. Sie kostet wenig Zeit, wenn sie einmal sauber angelegt ist, und viel Nerven, wenn sie jedes Mal neu improvisiert wird.

Eine Faustregel hilft bei der Sortierung. Meldungen, die Fähigkeiten, Risiken und Lagebilder betonen, gehören zuerst zu Risikoarchitektur und Sicherheit. Meldungen über Verbote, Fristen, Marktzugang oder Sanktionen gehören zuerst zu Recht und Compliance. Die Kommunikation des AISI fällt in die erste Kategorie.

Was ist das AISI Deutschland, und was ausdrücklich nicht?

Das AISI Deutschland ist ein Kompetenz- und Evaluierungsinstitut, das Chancen und Risiken fortschrittlicher KI-Modelle für Deutschland bewertet. Laut der Pressemitteilung 50/2026 des BMDS soll es zudem die Widerstandsfähigkeit im Bereich der künstlichen Intelligenz stärken. Der Auf- und Ausbau erfolgt schrittweise.

Das BSI beschreibt das Zielbild noch schärfer. Das Institut sei ein analytisch-operatives Kompetenzzentrum an der Schnittstelle von Sicherheit, Technologieanalyse, Innovation und strategischer Beratung und ausdrücklich keine Regulierungsbehörde. Es soll die Bundesregierung befähigen, sicherheitsrelevante Risiken früh zu erkennen, auf Belegen beruhende Handlungsoptionen abzuleiten und internationale Entwicklungen einzuordnen.

Das BSI nennt folgende Kernaufgaben:

  • technische Evaluierung leistungsfähiger KI-Modelle, unter anderem zu Cyberfähigkeiten, Autonomiegraden, Robustheit und Missbrauchspotenzialen
  • Analyse sicherheitsrelevanter Auswirkungen von KI auf Staat, Wirtschaft und Gesellschaft
  • strategische Beratung der Bundesregierung zu Sicherheits- und Souveränitätsfragen rund um KI
  • internationale Technologiebeobachtung und Lageanalyse
  • Aufbau nationaler Expertise und internationaler Kooperationsfähigkeit im Bereich KI-Sicherheit

Der wichtigste Satz für jede Richtliniennotiz steht auf den Seiten des BSI zum AISI Deutschland: Das Institut übernimmt ausdrücklich keine Regulierungs- oder Marktüberwachungsfunktion.

Bundesdigitalminister Dr. Karsten Wildberger betont, Deutschland brauche ein leistungsfähiges KI-Sicherheitsinstitut, das mit der technologischen Entwicklung Schritt hält. Es müsse Risiken und Leistungsfähigkeit moderner KI-Systeme technisch fundiert und schnell bewerten. Bundesinnenminister Alexander Dobrindt stellt klar, KI müsse kontrollierbar bleiben, und das AISI biete die Grundlage, international Anschluss zu gewinnen. Beide Aussagen betonen Kapazität und Lagebild, nicht Marktzugang.

Im Unternehmensalltag hilft eine zweite Definitionsebene. Evaluierung klärt, was ein System kann und welches Risiko daraus folgt. Aufsicht klärt, ob ein Unternehmen das System so betreiben darf und welche Nachweise es dafür braucht. Beide Fragen sind legitim, sie dürfen aber nicht in derselben Entscheidungsvorlage landen. Sonst entstehen Scheinfreigaben oder unnötige Blockaden.

Cybersicherheit beim BSI, Schadensvermeidung bei der Bundesnetzagentur

Die erste Phase des AISI Deutschland ist bewusst schlank: Das BSI und die Bundesnetzagentur (BNetzA) bilden einen „virtuellen“ Nukleus. Das BSI übernimmt die (Cyber-)Sicherheit, englisch Security. Die BNetzA verantwortet die Sicherheit im Sinne von Schadensvermeidung, englisch Safety. Weitere Akteure aus dem Sicherheitsbereich sollen eng eingebunden werden. Die zweite Phase soll das Institut thematisch und in der Kapazität ausbauen, einschließlich eines strukturierten Wissenstransfers in Bundesregierung, Verwaltung, Wirtschaft und Zivilgesellschaft.

Für Unternehmen ist diese Trennung hilfreich. Viele Organisationen mischen beides in einem einzigen Gremium für KI-Risiken und wundern sich, warum die Diskussionen kreisen. Die Cybersicherheit fragt, ob ein Modell angreifen, Daten abziehen oder Berechtigungen missbrauchen kann. Die Schadensvermeidung fragt, ob ein System Schaden verursachen, außer Kontrolle geraten oder sicherheitskritische Fehlentscheidungen treffen kann. Beides braucht unterschiedliche Fachkenntnis, Messgrößen und Eskalationswege.

Ein Beispiel verdeutlicht den Unterschied. Ein KI-Agent darf Vorgänge anlegen, Skripte vorschlagen und Software in eine Testumgebung einspielen. Die Cybersicherheit prüft Werkzeugrechte, Prompt-Injection und seitliche Bewegungen im Netz. Die Schadensvermeidung prüft, ob der Agent in kritischen Schritten stoppbar bleibt und ob sich Fehlentscheidungen rückgängig machen lassen. Für beide Perspektiven braucht es getrennte Verantwortliche, und die Trennung lässt sich intern sofort umsetzen, ohne auf die zweite Phase zu warten.

In der ersten Phase liegt ein Schwerpunkt auf der Analyse führender KI-Modelle, vor allem auf ihren Fähigkeiten und Risiken für die Cybersicherheit. Parallel konkretisieren sich Risiken durch Kontrollverlust. Sehr leistungsfähige Modelle können laut BMDS die digitalen Lebenswelten sowie die Widerstandsfähigkeit von Wirtschaft, Gesellschaft und Demokratie bedrohen. Das Institut befindet sich laut BSI noch im Aufbau und berät zunächst Verwaltung und Politik. Angebote für eine breitere Zielgruppe sind geplant. Eine fertige Anlaufstelle für jede Produktfrage ist damit nicht zu erwarten, wohl aber Signale, Lagebilder und internationale Anschlussfähigkeit.

Daraus ergeben sich drei Arbeitsaufträge für Unternehmen, die KI einsetzen:

  1. Prüfen, welche Modellfähigkeiten die eigene Angriffsfläche verändern, auch indirekt über Werkzeuge und Agenten.
  2. Festlegen, wo die eigene Kontrolle im Zusammenspiel von Modell, Steuerung und Daten endet.
  3. Klären, welche Erkenntnisse aus Evaluierungen intern entstehen müssen und welche von außen kommen, etwa von Anbietern, aus AISI-Lagebildern oder aus Branchenstandards.

Cyberfähigkeiten gehören damit in Bedrohungsmodelle, Anbieterfragebögen und Freigabelisten. Kontrollverlust gehört in die Schadensvermeidung: Autonomiegrade, menschliche Aufsicht, Abschaltbarkeit und Überwachung. Gemeint ist dabei oft etwas Nüchternes. Systeme handeln schneller als die Freigabeprozesse, Werkzeuge sammeln Rechte an, und Agenten umgehen Regeln, weil die Schutzvorkehrungen nur weich formuliert sind. Wer die Sicherheitsperspektive auf Angriffsketten schärfen will, findet sie in der Einordnung zum Google Red Team und zu agentischen Angriffsketten. Ein Praxisbeispiel für öffentliche Risikotransparenz liefert die Analyse zum Microsoft-KI-Transparenzbericht und zur Agenten-Governance.

Evaluierungsnachrichten taugen als Auslöser für gezielte Überprüfungen, nicht als Daueralarm. Ein Modell-Update mit neuen Cyberfähigkeiten verlangt ein aktualisiertes Bedrohungsmodell. Ein Hinweis auf Autonomiegrade verlangt einen Blick in die Checkliste zur Schadensvermeidung. Ein internationales Lagebild verlangt, die Aussagen der Anbieter dagegenzulesen. Die AISI-Bewertung ersetzt weder die eigene Sorgfaltsprüfung noch die Transparenz der Anbieter. Sie liefert zunächst einen Wissensvorsprung für Politik und perspektivisch für Wirtschaft und Zivilgesellschaft, aber keinen Marktentscheid.

Internationale Vernetzung ersetzt keine Aufsicht

Das AISI Deutschland soll von Beginn an international anschlussfähig sein. Laut BMDS gibt es bereits fachlichen Austausch mit Partnerinstitutionen, unter anderem mit Frankreich, dem Vereinigten Königreich und dem EU AI Office. Außerdem soll sich das Institut aktiv in das internationale Netzwerk der KI-Sicherheitsinstitute einbringen, mit Wissensaustausch, gemeinsamen Positionen und Arbeit an einheitlichen Standards für den Umgang mit fortschrittlichster KI.

AISI Evaluierung Sicherheit AufsichtDieses Bild wurde mit KI generiertProviderhiggsfieldModellflux_2PromptEditorial Symbolbild: governance board with three separated paths for evaluation, security, and market supervision, abstract photorealistic concept, no text, no logos
Getrennte Wege auf einem Governance-Board: Evaluierung, Security, Aufsicht

Für Unternehmen in Deutschland, Österreich und der Schweiz mit globalen Modelllieferanten ist das relevant. Einheitlichere Evaluierungsmaßstäbe können langfristig Doppelarbeit reduzieren. Sie erhöhen aber auch den Druck, wenn Herstellerangaben und Evaluierungsergebnisse auseinanderlaufen. Wer in mehreren Rechtsräumen arbeitet, liest AISI-Signale deshalb als Teil eines größeren Lagebilds.

Das EU AI Office steht an einer anderen Stelle der Kette als ein nationales Evaluierungsinstitut. Evaluierung und Durchsetzung sind verwandt, aber nicht identisch. Die europäische Durchsetzungslogik erklärt die Kommission auf ihrer Seite zur Durchsetzung des AI Acts. Sie dient als Kompass für die Aufsicht, während das AISI die Achse für Evaluierung und Beratung bleibt.

Wer Hochrisiko-Systeme betreibt, Transparenzpflichten erfüllen oder Verbote beachten muss, hat durch die Gründung des Instituts keinen neuen Adressaten. Die Marktüberwachung und die Durchsetzung des AI Acts bleiben bei den dafür zuständigen Stellen. Typische Verwechslungen in der Praxis sind:

  • Die Aussage „Das AISI hat X bewertet“ wird intern als „X ist freigegeben“ gelesen.
  • Sicherheitsmeldungen aus Evaluierungskontexten gelten fälschlich als Freigabe durch die Compliance.
  • Anbieter verweisen auf internationale Netzwerke von Sicherheitsinstituten, als wären sie Zertifikate.

Das Gegenmittel ist eine schriftliche Zuordnung der Verantwortung. Evaluierungsinput geht an Risiko, Sicherheit und Architektur. Aufsicht und Konformität gehen an Recht, Compliance und Produktfreigabe. Wissen darf zwischen den Bereichen fließen, die Verantwortung darf nicht verschwimmen.

Der Datenschutz bleibt eine eigene Spur. Modellfähigkeit und Kontrollverlust sind etwas anderes als Vertraulichkeitslücken in Prompt- und Protokollketten. Die Analyse zu fünf kritischen Vertraulichkeitslücken bei KI eignet sich als Ergänzung, solange die Vorgänge getrennt geführt werden.

Wer heute schon eine „AISI-Freigabe“ in Verträge schreibt, baut Erwartungen auf, die die Quellen nicht tragen. Besser ist es, Evaluierungsquellen als Input zu nennen, Aufsichtskanäle klar zu benennen und Nachweise selbst zu führen. Behauptet ein Anbieter, seine Modelle seien mit internationalen Sicherheitsinstituten abgestimmt, sollten Unternehmen nachfassen: welche Institute, welche Evaluierungsaspekte, welche Modellversion. Ein Marketingsatz ist kein Nachweis. Konzerne mit gemeinsamen Dienstleistungseinheiten fahren gut mit zwei klar benannten Kanälen: einem „AI Evaluation Briefing“ mit kuratierten Inputs ohne Rechtswirkung und einem „AI Regulatory Actions“ für echte Aufsichts-, Melde- und Nachweispflichten.

Grauzonen gibt es dennoch. Die strategische Beratung der Bundesregierung kann indirekt Politik beeinflussen, die später Regeln verschärft. Das macht das AISI nicht zur Marktüberwachung, denn indirekte Wirkung begründet keine Zuständigkeit.

Eine Checkliste für getrennte Ansprechpartner

Die folgende Checkliste übersetzt die Unterscheidung in feste Rollen. Sie ersetzt keine Rechtsberatung, verhindert aber die teuerste Sorte Fehler, nämlich die organisatorischen.

  1. Landkarte zeichnen: Eine Seite mit drei Spalten für Evaluierung, eigenen Sicherheitsbetrieb sowie Aufsicht und Marktüberwachung, jeweils mit Verantwortlichem und Eskalationsweg.
  2. Cybersicherheit und Schadensvermeidung trennen: Zwei Arbeitsgruppen oder mindestens zwei feste Rollen. Die erste behandelt Cyberfähigkeiten, Missbrauch und Angriffsketten, die zweite Kontrollverlust, Schadenspotenzial und menschliche Aufsicht.
  3. Anbieterfragen neu schneiden: Neben der Frage nach der Einhaltung der Vorgaben gehört die Frage dazu, welche Evaluierungen zu Cyberfähigkeiten und Autonomie vorliegen und was sie für den eigenen Einsatz bedeuten.
  4. Meldeweg festlegen: Meldungen von AISI, BSI und BMDS gehen zuerst an die Risikoarchitektur, nicht automatisch an die Rechtsabteilung als Aufsichtsfall.
  5. Dokumentation trennen: Erkenntnisse aus Evaluierungen und Konformitätsnachweise liegen in getrennten Ablagen, verbunden durch Querverweise.
  6. Schulung ohne Panik: Der Unterschied zwischen Evaluierung und Aufsicht lässt sich in zehn Minuten erklären. Oft genügt ein Satz: „Ein Lagebild ist kein Bußgeld.“
  7. Internationale Inputs einplanen: Bezüge zu Frankreich, dem Vereinigten Königreich und dem EU AI Office stehen auf einer Beobachtungsliste, mit Verantwortlichem, Aktualisierungsrhythmus und der Leitfrage, was sich am eigenen Einsatz ändert.
  8. Umgehungen von Regeln prüfen: Wenn Agenten und Automatisierungen Regeln umgehen können, helfen Evaluierungsnachrichten wenig ohne technische Schutzvorkehrungen. Dazu passt die Einordnung zu GitHub Rule Insights und Governance-Bypässen.

Ein Quartalsrückblick macht aus dem Nachrichtenfluss einen Lernprozess. Dabei wird festgehalten, welche AISI- und Partnersignale eingegangen sind, welche in Bedrohungsmodelle oder Sicherheitsnachweise übernommen wurden und welche bewusst verworfen wurden. Die Checkliste lässt sich an bestehende Gremien wie KI-Rat, Sicherheitsgremium oder Datenschutzrunde koppeln, statt neue Parallelstrukturen zu bauen. Entscheidend ist, dass Evaluierung, Betrieb und Aufsicht dort feste Plätze haben, denn das verhindert Dauerdiskussionen über Zuständigkeiten.

Institute mit dem Wort „Sicherheit“ im Namen lösen in Unternehmen oft denselben Reflex aus wie neue Aufsichtsbehörden: mehr Dokumentation, mehr Besprechungen, mehr Statusberichte. Hier wäre das falsch dosiert, denn das AISI liefert Evaluierungskapazität für die Bundesregierung und baut Expertise auf. Ruhe ist an dieser Stelle professioneller als Alarm.

Dieselbe Definition sollte auch Betriebsrat, Datenschutzbeauftragte und Einkauf erreichen. Dann können sie ihre eigenen Fragen zu Mitbestimmung, Datenverarbeitung und Vertragsklauseln stellen, ohne von einer falschen Grundannahme auszugehen. Auch die Kommunikationsabteilung sollte quellentreu formulieren. „AISI Deutschland nimmt als Evaluierungsinstitut die Arbeit auf“ ist korrekt, „Neue KI-Aufsicht startet“ dagegen nicht.

Vier Sätze fassen den Stand zusammen: Das AISI Deutschland evaluiert und berät. Aufsicht und Marktüberwachung bleiben getrennt. Cybersicherheit und Schadensvermeidung sind im Nukleus aus BSI und BNetzA bewusst aufgeteilt. Die erste Phase dient dem Aufbau und liefert kein fertiges Serviceportal für Produktteams. Wer diese Trennung in Rollen, Meldewegen und Dokumentation verankert, gewinnt Tempo, ohne naiv zu werden.