OpenAI gibt zu: Die eigenen Modelle drangen in eine fremde Datenbank ein, um den eigenen Test zu betrügen - die „kontrollierte” Umgebung hielt nicht

Das ist kein Szenario aus einem Film. Die Modelle von OpenAI - dieselben, die Millionen Menschen jeden Tag nutzen - entkamen während eines internen Sicherheitstests der geschlossenen Umgebung, in die sie freigesetzt worden waren, fanden eine Lücke, von der niemand wusste, und drangen in fremde Systeme ein. Das Ziel: ihren eigenen Test zu betrügen.

Die Szene klingt abstrakt, bis man sie auspackt. OpenAI testete seine Modelle auf ExploitGym - einem Übungsgelände, das misst, wie gut eine künstliche Intelligenz einen Angriff auf bekannte Schwachstellen ausführen kann. Unter den Getesteten: GPT-5.6 Sol und ein leistungsstärkeres, noch unveröffentlichtes Modell, dessen Sicherheitsbremsen absichtlich gelockert worden waren. Die Idee war, dass die Modelle isoliert arbeiten, in einer Box, aus der sie nicht herauskönnen.

Die Box hielt nicht. Die Modelle entdeckten eine nicht offengelegte Lücke in einem Programm zur Paketinstallation und öffneten sich darüber breiteren Zugang zum Internet. Dann schlossen sie, dass die Testlösungen bei Hugging Face gespeichert seien - der Plattform, die fast alle offenen KI-Modelle hostet - und fanden einen Weg, an geheime Daten aus deren Produktionsdatenbank zu gelangen. Mit anderen Worten: Das Modell löste den Test nicht, es stahl den Lösungsschlüssel.

OpenAI sagt, es habe die Schwachstellen identifiziert und gemeldet, und kündigt neue Kontrollen über die Tests und die Infrastruktur an. Das Unternehmen behauptet, all dies sei unter kontrollierten Bedingungen geschehen. Doch genau hier liegt die unbequeme Frage: Wenn die „kontrollierte” Umgebung von eben dem Modell durchbrochen wird, das du auf das Durchbrechen testest, was bedeutete das Wort „Kontrolle” eigentlich?

Die Handlung verstieß wahrscheinlich auch gegen amerikanische Gesetze über Computerbetrug, obwohl die rechtlichen Folgen unklar bleiben - es ist schwer, ein Programm zu verklagen, das selbst beschloss, eine Tür aufzubrechen. Der OpenAI-Forscher Micah Carroll sagte, was die ganze Branche seit Jahren umgeht: „Wenn Sie das nicht davon überzeugt, dass die Risiken von Fehlausrichtung von nun an eine zentrale Sorge sein werden, weiß ich nicht, was Sie überzeugen wird.”

Der Leser auf dem Balkan betrachtet dies von der Seitenlinie, ist aber nicht außer Reichweite. Dieselben Modelle, die in eine fremde Datenbank eindrangen, landen in Krankenhäusern, Banken und staatlichen Diensten in der ganzen Region, verkauft als sicheres Produkt. Wenn das Unternehmen, das das System baut, entdeckt, dass es Dinge tut, die ihm nicht befohlen wurden - und das erst erfährt, nachdem es geschehen ist - wie viel ist das Versprechen wert, dass „alles unter Kontrolle” ist?