Anthropic lässt Accenture von innen prüfen, doch Belege für Unabhängigkeit fehlen noch

Anthropic hat am 18. September eine Partnerschaft mit Accenture angekündigt, bei der Prüfer mit Zugang wie Mitarbeitende innerhalb des Unternehmens arbeiten sollen. Beide Seiten erwarten laut ihren Mitteilungen mindestens eine Milliarde Dollar Investition über fünf Jahre. Ob daraus unabhängige Kontrolle entsteht, hängt von Zugang, Meldewegen und veröffentlichten Ergebnissen ab.

Die Ankündigung steht in einer Mitteilung von Anthropic. Geführt wird die Arbeit von Faculty, dem auf künstliche Intelligenz spezialisierten Bereich von Accenture. Anthropic räumt selbst ein, dass die eingebettete Evaluierung neu ist und viele Details noch ausgearbeitet werden. Gerade deshalb zählt, welche Spuren Außenstehende später nachprüfen können. Die Pressemitteilung allein reicht dafür nicht.

Anthropic will Prüfer mit Mitarbeiterzugang ins Unternehmen holen

Eingebettete Evaluierung, englisch Embedded Evaluation, bedeutet nach Anthropics Darstellung, dass Prüfer innerhalb des Unternehmens arbeiten, mit Zugang vergleichbar dem von Mitarbeitenden.

Anthropic versteht die Partnerschaft als Schritt zu einer Zusage aus dem Essay des Unternehmenschefs mit dem Titel „We Must Pace the Frontier“. Externe Prüfteams kommen demnach oft nur punktuell, mit begrenztem Zeitfenster und auf Grundlage von Verträgen und Geheimhaltungsvereinbarungen. Eingebettete Prüfer sollen dagegen Modelle im Training beobachten und sehen, wie sie Gestalt annehmen. Sie sollen Entscheidungen zu Entwicklung und Einsatz verfolgen und direkt mit Mitarbeitenden sprechen.

Aus dieser Position heraus sollen sie bewerten, wie das Unternehmen arbeitet, ob Sicherheitszusagen eingehalten werden und wo blinde Flecken liegen. Sie sollen Vorfälle melden können und der Öffentlichkeit ein genaueres Bild von Nutzen und Risiken vermitteln.

Anthropic betont, unabhängige eingebettete Prüfer verringerten die Verantwortung des Unternehmens nicht. Sicherheit bleibe Anthropics Aufgabe, die Prüfer machten diese Verantwortung eher überprüfbar. Die Beschreibung stammt vom Unternehmen selbst, ein unabhängiger Prüfbericht liegt nicht vor. Die Probe kommt, sobald Ergebnisse unbequem werden und Geheimhaltungsklauseln greifen könnten.

Anthropic benennt außerdem Lücken. Es gebe bislang keine Standards dafür, welche Informationen eingebettete Prüfer erhalten sollen und wie sie berichten. Auch ein etabliertes Finanzierungssystem für unabhängige Prüfungen fehle.

Faculty soll Modelle testen, die Ausrichtung bewerten und Schutzmaßnahmen prüfen

Nach Angaben von Anthropic führt Faculty, das auf künstliche Intelligenz spezialisierte Geschäft von Accenture, die Partnerschaft. Der Auftrag umfasst drei Bereiche:

• das Bewerten und gezielte Angreifen von Modellen (Red-Teaming),
• Bewertungen der Zielausrichtung, englisch Alignment Assessments,
• das Testen der Schutzmaßnahmen der Modelle.

Anthropic ergänzt, Accenture helfe Unternehmen und Regierungen, künstliche Intelligenz branchenübergreifend einzusetzen. Dieses Verständnis praktischer Unternehmensnutzung präge den Sicherheitsansatz und fließe in die Bewertung der Modelle ein.

Accenture beschreibt in einer Mitteilung vom 18. September ein Team eingebetteter Prüfer. Es soll neben Anthropics internen Teams und Sicherheitspartnern arbeiten, mit demselben Aufgabenumfang. Faculty gehört laut Accenture durch eine Übernahme zum Konzern. Als Stärken nennt Accenture Erfahrung mit Tests und Bewertungen für führende KI-Labore sowie Projekte in Regierung, Verteidigung, Gesundheitswesen und Infrastruktur. Die Aussagen von Julie Sweet, Vorsitzender und Chefin von Accenture, und von Dr. Marc Warner, Technikchef von Accenture und Chef von Faculty, sind Darstellungen der Partner und keine unabhängigen Fakten.

Die Aufgabenliste sagt wenig, solange Methode, Fundkategorien und Veröffentlichungsregeln fehlen. Red-Teaming kann strukturierte, dokumentierte Tests mit Befunden und Behebung bedeuten. Es kann ebenso Workshops hinter Geheimhaltung ohne öffentliche Erkenntnisse meinen. Bewertungen der Zielausrichtung können Behauptungen, Belege und Unsicherheiten offenlegen oder bloß Präsentationsfolien liefern. Tests der Schutzmaßnahmen können Wirksamkeit und Lückenkategorien berichten oder nur bestätigen, dass getestet wurde.

Zugang, Stimme und Spur entscheiden über die Glaubwürdigkeit

Der Zugang wie ein Mitarbeitender wäre strukturell stärker als ein externes Kurzgutachten, sofern er tatsächlich gewährt wird. Wer im Haus sitzt, sieht, was Stichproben verpassen: Anreize im Training, Freigabeentscheidungen unter Zeitdruck und Lücken zwischen Richtlinie und Praxis. Dieselbe Nähe birgt ein Risiko, denn eingebettete Prüfer können vereinnahmt werden, wenn sie zu nah, zu abhängig oder zu leise sind.

Drei Ebenen werden oft vermischt:

• Zugang: Dürfen die Prüfer Training, Entwicklung und Einsatz fortlaufend beobachten und nicht nur in vorbereiteten Zeitfenstern?
• Stimme: Dürfen sie Vorfälle melden und blinde Flecken benennen, ohne dass die Freigabe des Unternehmens die Kernbotschaft abschwächt?
• Spur: Bleibt für Außenstehende etwas nachvollziehbar, etwa Fundkategorie, Stand der Behebung und begründete Schwärzungen mit Hinweis auf deren Auswirkung?

Fehlt die Spur, nützt der Zugang der Öffentlichkeit wenig. Fehlt die Stimme, nützt er dem Unternehmen mehr als der Verantwortlichkeit. Fehlt der Zugang, bleibt „eingebettet“ ein Etikett.

Anthropic hält die Verantwortung für überprüfbarer, wenn Prüfer im Haus arbeiten. Überprüfbar wird sie erst, wenn Befunde nicht ausschließlich intern bleiben. Aus Sicht der Redaktion ist der Meldeweg für Vorfälle der härteste Test: Dürfen eingebettete Prüfer Vorfälle nur intern eskalieren und nie an Öffentlichkeit oder Aufsichtsstellen weitergeben, bleibt ihre Unabhängigkeit Rhetorik.

Ein externes Assessment mit klarem Umfang und öffentlichem Bericht kann belastbarer sein als ein eingebettetes Team ohne Bericht und ohne Meldeweg. Die Form „eingebettet“ ist also kein Gütesiegel, die Dokumente sind es. Wer die Transparenzpflichten und die Nachweislogik des AI Act ernst nimmt, fragt nach Dokumenten statt nach Sitzplänen. Rollen ohne Nachweispflichten bleiben Folien, Prüfer ohne Berichtsrechte bleiben Dekoration.

Die Milliarde zeigt Kapazität, doch die Finanzierung schafft Abhängigkeiten

Anthropic und Accenture erwarten laut ihren Mitteilungen jeweils mindestens eine Milliarde Dollar Investition über fünf Jahre, bei Anthropic als Kapazität, bei Accenture als Ausgaben für KI-Sicherheit. Ein öffentlich hinterlegter Vertragstext mit Meilensteinen, Lieferpflichten und Prüfklauseln liegt nicht vor. Die Zahl signalisiert Ernsthaftigkeit, beweist aber keine Unabhängigkeit.

Kapazität kann Teams, Werkzeuge, Rechenleistung und Prozesse finanzieren. Sie kann auch Marketing, Markenauftritt und Konferenzplätze bezahlen. Ohne veröffentlichte Ergebnisse wissen Außenstehende nicht, welcher Anteil in prüfbare Evaluierung fließt. Die Milliardenerwartung ist deshalb ein Startsignal und noch kein Zeugnis.

Dieses Bild wurde mit KI generiertProviderhiggsfieldModellgpt_image_2PromptConference table with open notebooks and a closed laptop, soft daylight, partnership evaluation mood, no logos, no brand names, no readable text, 16:9

Anthropic finanziert Accentures Arbeit vorerst direkt. Das Unternehmen begründet dies mit Wichtigkeit und Dringlichkeit, solange gebündelte oder staatliche Finanzierung und etablierte Standards fehlen. Langfristig wünscht sich Anthropic gebündelte oder staatliche Quellen und verweist auf das Advanced AI Framework vom Juni. Parallel führt das Unternehmen Gespräche mit METR und anderen gemeinnützigen Organisationen, die eigene Finanzierungsstrukturen nutzen.

Als Übergang ist das nachvollziehbar, als Dauerzustand bleibt es heikel. Wer zahlt, kann bewusst oder unbewusst Umfang, Zeitpunkt und Ton von Befunden beeinflussen. Dem lässt sich entgegenwirken, durch veröffentlichte Regeln zum Umfang, offengelegte Interessenkonflikte, redaktionelle Unabhängigkeit der Prüfer und klare Meldewege. Das sind Versprechen, die Belege brauchen. Accentures Verweis auf Fachwissen und Größe ändert an der Finanzierungsfrage nichts, denn ein kompetentes Team kann trotzdem abhängig finanziert sein.

Anthropic betont zudem die Nicht-Exklusivität: Führende Labore sollen mit mehreren Organisationen gleichzeitig arbeiten. In den kommenden Wochen will das Unternehmen weitere Prüfer ankündigen. Accenture werde auch mit anderen KI-Entwicklern in ähnlicher Rolle zusammenarbeiten. Als Ziel nennt Anthropic gemeinsame Standards dafür, was Prüfer sehen dürfen und wie sie berichten.

Ein Ökosystem entsteht erst, wenn mehrere Prüfer mit greifbaren Rollen arbeiten, ihre Befunde vergleichbar sind und das Labor nicht nur den bequemsten Partner behält. Nicht-Exklusivität kann Vielfalt bedeuten oder viele Logos bei wenig Veröffentlichung. OpenAI hat mit eigenen Grundsätzen zu Prüfungen durch Dritte ein anderes Angebot für dieselbe Grundfrage gemacht: Wo entsteht eine Spur, die Außenstehende ohne Insider-Zugang nachvollziehen können?

Sieben Fragen helfen Aufsicht und Einkauf in Deutschland, Österreich und Schweiz

Der AI Act dient hier als Orientierung für Rollen, Nachweise und Transparenz, ersetzt aber keine Rechtsberatung. Eingebettete Evaluierung bei führenden Laboren betrifft Organisationen hierzulande indirekt. Sie zeigt, ob Anbieter von KI-Modellen mit allgemeinem Verwendungszweck prüfbare Sicherheitsspuren liefern. Aufsicht, Einkauf und Sicherheitsteams können dazu Fragen stellen, ohne Einzelheiten über Schwachstellen zu verlangen:

1. Welchen Zugang haben die Prüfer tatsächlich zu Training, Entwicklung und Einsatz, fortlaufend oder nur in vorbereiteten Zeitfenstern?
2. Welche Vorfallklassen dürfen sie melden, und an wen?
3. Welche Befunde zu blinden Flecken werden öffentlich oder an Aufsichtsstellen weitergegeben?
4. Wer finanziert wen, und welche Interessenkonflikte sind offengelegt?
5. Gibt es weitere Prüfer, gemeinnützige Organisationen oder Firmen, mit greifbaren Rollen und nicht nur Ankündigungen?
6. Bestehen gemeinsame Standards für Zugang und Berichte oder nur interne Regeln des Labors?
7. Wie wird die Behebung von Befunden dokumentiert, und welche Schwärzungen tragen einen Hinweis auf ihre Auswirkung?

Wer KI-Regulierung und den EU AI Act als Rahmen kennt, erkennt das Muster: Dokumentationsdisziplin schlägt Etikettenrhetorik. Dasselbe gilt für die vier zentralen Fragen zum AI Act, die Rollen und Nachweise schärfen. Auch Red-Teaming gehört auf die Ebene der Unternehmensführung, wie die Einordnung zu Googles Red Team und agentischen Angriffsketten als Testlogik zeigt.

Für die Praxis bedeutet das: Die Nachricht des Labors gehört getrennt vom Prüfbericht abgelegt. Abrufdatum und Adresse der Quelle sollten gespeichert werden. Fehlendes wie Prüferart, Meldeweg und Veröffentlichungsstatus gehört notiert. Kommt „Embedded Evaluation“ ohne Zugangsbeschreibung und ohne Berichtsregel, sollten Recht, Sicherheit und Einkauf eingeschaltet werden. Von öffentlichen Zusammenfassungen der Prüfungen sind Mindestangaben zu erwarten: Umfang, Prüferart, Fundkategorien, Meldeweg und Stand der Behebung.

Die Partnerschaft vom 18. September kann belastbar werden. Anthropic und Accenture haben eine Kapazitätserwartung, einen Aufgabenumfang und eine Beschreibung des Zugangs vorgelegt. Offen sind Standards, eine gesicherte Finanzierung und die öffentliche Spur der Befunde. Beobachten lässt sich das in den kommenden Wochen: Weitere Prüfer, erste Dokumente zum Umfang und erste Befunde entscheiden, ob aus der Ankündigung ein Nachweis wird.