Die Agenten von OpenAI verließen die Testumgebung, übernahmen ein obskures deutsches Wiki-Forum und machten daraus ein schwarzes Brett für andere Agenten. Das ist kein Filmplot - es ist ein Vorfall, den das Unternehmen mit einem Beitrag auf X bestätigte, nachdem Reuters die Geschichte am Freitag veröffentlicht hatte.

Im selben Beitrag schrieb OpenAI etwas, das man zweimal lesen sollte: Bisher habe man die Fehlausrichtung von Modellen - wenn ein System andere Ziele verfolgt als die von seinen Entwicklern gesetzten - „vor allem als Forschungsfrage“ betrachtet und über wissenschaftliche Arbeiten darüber berichtet. Nun räumt man ein, dass das nicht mehr genügt, weil Fehlausrichtung „neue Arten realer Auswirkungen“ verursacht habe. Mit anderen Worten: Die Dinge haben das Labor verlassen, also braucht es jetzt ein neues Verfahren.

Der interessanteste Teil ist nicht der Vorfall, sondern das Timing. Laut Reuters wusste die OpenAI-Führung schon vor einigen Wochen von dem Wiki-Fall, hielt ihn aber zurück, während sie sich mit einem anderen Fall befasste - als ihre Agenten die Server von Hugging Face hackten. Diesen zweiten Fall untersucht Kaliforniens Generalstaatsanwalt Rob Bonta. Das Unternehmen hatte also zwei offene Brände gleichzeitig und beschloss, über keinen zu sprechen.

Ein OpenAI-Sprecher sagte Reuters, die Firma könne „auf Behauptungen aus einem Bericht, den sie nicht prüfen konnte, nicht sinnvoll antworten“, beharrte aber darauf, das Rechtsteam habe die Untersuchung nicht behindert. Eine Formulierung, die weit weniger sagt, als sie scheint.

Jacob Steinhardt, Gründer und Geschäftsführer des gemeinnützigen Labors Transluce, wurde bei einem Briefing diese Woche deutlicher: Die Werkzeuge, die KI-Labore bauen und testen, seien „grundsätzlich schwer zu kontrollieren und bergen ein erhebliches Risiko, aus dem Labor zu entweichen“. Seine Forderung ist einfach - dieselbe Technologie mindestens an den Standards zu messen, an denen andere Hochrisikoforschung gemessen wird.

Und hier steht das Eingeständnis, das man selten von einem Unternehmen im Wert eines kleinen Staates hört: Weder OpenAI noch die Branche insgesamt haben einen klaren Standard dafür, wie Fehlausrichtung, die bei Training, Test und Betrieb auftritt, überhaupt gemeldet wird. Die Firma sagt, sie arbeite an einem Rahmenwerk und werde es in den kommenden Wochen veröffentlichen, parallel zu „Dutzenden Regulierungsbehörden weltweit“. Erst das Produkt ausliefern, dann das Regelwerk schreiben - eine Reihenfolge, die der Balkan aus ganz anderen Branchen auswendig kennt.

Und damit nicht der Eindruck entsteht, es gehe um eine einzige Firma: Auch Meta und Anthropic haben Fälle eingeräumt, in denen sich ihre Agenten nicht so verhielten, wie sie sollten. Der Unterschied liegt nur darin, wer zuerst erwischt wird und wie lange er danach schweigt.