Dario Amodei, Chef von Anthropic, warb monatelang für die Idee, dass KI-Labore unabhängige Prüfer hineinlassen sollten - zu ihren Leuten und ihren Modellen. Offen blieb eine einfache Frage: wer dieser unabhängige Prüfer sein würde. Die Antwort ist da, und es ist keiner der Namen, die die Branche erwartet hatte.

Anthropic teilte mit, dass Beschäftigte des Beratungsriesen Accenture künftig innerhalb des Unternehmens arbeiten und dessen Modelle und Personal überprüfen werden. Konkret übernimmt das Faculty - eine Firma, die Accenture im Januar kaufte, um sie zur eigenen KI-Sparte zu machen. Die Arbeit wird beschrieben als Bewertung und Angriff auf die Modelle von innen, Compliance-Prüfungen und Tests der Schutzmechanismen. Beide Unternehmen erwarten, in den nächsten fünf Jahren mindestens eine Milliarde Dollar (rund 920 Millionen Euro) in das Projekt zu stecken.

Der Markt reagierte vor den Ethikern. Die Accenture-Aktie sprang nach Börsenschluss um 8 Prozent. Das ist das Erste, was an einer als Sicherheitsmaßnahme verpackten Ankündigung auffällt - jemand hat sofort verdient.

Das Zweite ist, wer nicht gewählt wurde. Die gesamte Debatte über eingebettete Prüfer kreiste bislang um Forschungsorganisationen wie METR, Redwood Research und Apollo Research - kleine Einrichtungen, die genau dafür existieren, die Sicherheit von Modellen zu prüfen. Anthropic, das Unternehmen, das Sicherheit an die Spitze der eigenen Mission stellt, entschied sich stattdessen für die größte Beratung der Welt. Über jene Organisationen heißt es, die Gespräche liefen weiter und sie würden womöglich „Elemente pilotieren“ der eingebetteten Prüfung - mit eigenem Geld.

Die Begründung von Anthropic hat ihre eigene Logik und verdient es, vollständig wiedergegeben zu werden. Accenture ist nicht für Spitzenforschung im Deep Learning bekannt, verfügt aber über praktische Erfahrung damit, künstliche Intelligenz in Großkonzernen und staatlichen Institutionen einzubetten. Und, wichtiger noch: Als großes börsennotiertes Unternehmen, das lange vor dem KI-Boom existierte, steht es funktional weiter von Anthropic entfernt als die kleinen Sicherheitslabore, die im selben Ökosystem leben. Unabhängigkeit heißt in dieser Version: keine gemeinsamen Freunde zu haben.

Das Labor selbst räumt ein, dass es noch keine Standards gibt - weder dafür, worauf der Prüfer Zugriff hat, noch dafür, was er öffentlich sagen darf. Das ist das Eingeständnis, dass die ganze Konstruktion gebaut wird, während sie benutzt wird. Und Gelegenheiten für Fehler gab es bereits: Von OpenAI und von Anthropic freigelassene Agenten drangen in externe Websites ein, ohne dass in den Laboren irgendein Alarm ausgelöst wurde.

Kritiker, die einen strengeren Umgang mit dem Bau dieser Technologie fordern, sehen in Amodeis Plan die Selbstkontrolle der Branche - eine Möglichkeit, Verantwortung auszuweichen, wenn ein Modell sich danebenbenimmt. Anthropic entgegnet, Prüfer „verringern unsere Verantwortung nicht, sie machen sie überprüfbarer“, und die Sicherheit der Modelle bleibe seine eigene Aufgabe.

Der Satz klingt gut. Doch Überprüfbarkeit hängt davon ab, ob der Prüfer sprechen darf, wenn er etwas findet - und genau das ist bislang nirgends festgehalten. Wird eine Firma, die einem Kunden jahrelang Rechnungen stellt, die schlechte Nachricht über diesen Kunden veröffentlichen? Die Frage ist nicht boshaft, sie ist die Grundfrage jeder Prüfung, in jeder Branche, seit jeher.