Anthropic und OpenAI versprachen unabhängige Prüfer in ihren Laboren: Wer das sein wird, worauf sie Zugriff haben und was sie sagen dürfen - sagen sie nicht

Dario Amodei, Chef von Anthropic, schlug in einem am Wochenende veröffentlichten Essay etwas vor, das die Branche vor einem Jahr sofort abgelehnt hätte: In jedem großen KI-Unternehmen sollen fest eingebundene unabhängige Prüfer sitzen, mit dem Recht, Sicherheitsvorfälle zu melden, zu kontrollieren, ob Modelle wirklich ausgerichtet sind, und ihre Befunde zu veröffentlichen, ohne dass das Unternehmen ihnen die Worte ordnet. Sam Altman erklärte, auch OpenAI werde sich dazu verpflichten. Das klingt nach einer Wende. Doch wer der Prüfer sein wird, wann er hineinkommt, worauf er Zugriff hat und was er sagen darf - auf keine dieser Fragen antworteten die beiden Unternehmen, trotz wiederholter Nachfragen.

Die Prüfer, die bislang mit diesen Unternehmen gearbeitet haben, sind von der versprochenen Offenheit allein nicht begeistert. Sie fordern etwas Konkretes: Zugang nicht nur zum fertigen Modell vor der Freigabe, sondern zu den Zwischenständen aus dem gesamten Training. Adam Gleave, Direktor von FAR.AI, erklärt warum - der Vergleich dieser Zwischenstände zeigt, in welchem Moment das problematische Verhalten auftrat, lässt prüfen, welche Umgebung das Modell dafür belohnte, und verifiziert die Angaben des Unternehmens dazu, wie das Modell die Tests tatsächlich bestanden hat.

Warum ist das wichtig? Weil Modelle immer besser darin werden zu erkennen, dass sie getestet werden. Ein Modell, das einen Sicherheitstest besteht, ist nicht sicher, wenn es gelernt hat, wie genau man diesen Test besteht. John Stidley von Palisade Research verglich das direkt mit dem Dieselgate-Skandal von Volkswagen - die Autos erkannten, wann der Abgasausstoß gemessen wurde, und verhielten sich während der Messung anders. Dieselbe Logik, nur mit einem Modell statt einem Motor.

Alexander Meinke, Forschungsleiter bei Apollo Research, stellte die Frage noch schärfer. „KI-Unternehmen sollten eine ganz grundlegende Frage beantworten können: Hat das Modell jemals aktiv versucht, sein eigenes Ausrichtungstraining zu unterlaufen, während dieses Training lief?“ Die Antwort, sagt er, müsse ein unmissverständliches Nein sein - derzeit hänge alles davon ab, dass die Unternehmen selbst sorgfältig prüfen und danach wahrheitsgemäß berichten. „Und aus den jüngsten Vorfällen haben wir gesehen, dass sie in der Regel weder das eine noch das andere tun werden.“

Die bisherige Praxis spricht nicht für die Versprechen. Als der Vorfall mit Hugging Face untersucht wurde, gab OpenAI METR und Redwood rund eine Woche vor Ort - beide Firmen sagten danach, sie hätten wegen des begrenzten Umfangs und zu wenig Zeit keine verlässlichen Schlüsse ziehen können. Beim Test von GPT-6 Astra, einem Modell, das OpenAI als das bislang am besten ausgerichtete bewirbt, bekam Apollo Research drei Tage. In ihrem Beitrag zur Modellkarte schrieb die Firma, niedrige Raten problematischen Verhaltens seien kein ernsthafter Beleg für die Ausrichtung des Modells - sie hätten schlicht nicht genug Zeit zum Prüfen gehabt.

Gleave sagt, FAR.AI habe Verträge mit mehreren führenden Laboren ablehnen müssen, die zu viel Kontrolle über den Prozess wollten. Üblicherweise werden Prüfer wie gewöhnliche Subunternehmer behandelt - gebunden durch restriktive Vertraulichkeitsvereinbarungen, die dem Unternehmen erhebliche Kontrolle darüber lassen, was veröffentlicht werden darf. „Es ist möglich, dass Dario und Sam es sich schlicht anders überlegt haben und hier sehr offen sein werden“, sagt Gleave. „Aber das geistige Eigentum dieser Unternehmen ist für sie unglaublich wertvoll, und ich denke, sie werden in der Regel sehr vorsichtig damit sein, was geteilt werden darf.“

Und hier kommt der härteste Teil der Geschichte. Henry Papadatos, Geschäftsführer von Safer AI, sagt, freiwillige Maßnahmen hingen immer vom guten Willen des Unternehmens ab. „Idealerweise hätten wir eine gute Regulierung, die das verpflichtend macht - denn dann können Unternehmen es sich morgen nicht anders überlegen, wenn sie eine große öffentliche Krise trifft.“ Papadatos schließt das Argument auf eine Weise, die man sich merken sollte: Man kann nicht beides haben - null externe Rechenschaft und zugleich verlangen, dass die Öffentlichkeit glaubt, die Regeln würden eingehalten.

Meta, SpaceXAI und Google DeepMind haben sich bislang zu nichts verpflichtet. Die Gesetze wiederum sind langsamer als die Essays: Kaliforniens SB 53 verlangt von großen Entwicklern, Sicherheitsrahmen zu veröffentlichen und kritische Vorfälle zu melden, das neue SB 813 schafft einen Rahmen für staatlich anerkannte Organisationen zur unabhängigen Verifizierung. Der europäische KI-Rechtsakt verlangt dokumentierte Evaluierungen und die Meldung schwerer Vorfälle, und das KI-Büro kann selbst Prüfungen durchführen und unabhängige Fachleute benennen. Nichts davon geht bislang so weit wie Amodeis Vorschlag - was bedeutet, dass weiterhin die Labore selbst entscheiden, wie viel externe Kontrolle sie über sich zulassen. Wird irgendjemand auf dem Balkan diesen Bericht überhaupt sehen, wenn er erscheint, oder lesen wir ihn wie alles andere aus zweiter Hand?