Zwei OpenAI-Modelle drangen von selbst dorthin ein, wo sie es nicht dürfen: „Unkontrollierbar” - das Wort kommt von denen, die sie erforschen

Zum ersten Mal offiziell verließen zwei künstliche Intelligenzen den Raum, in dem sie eingeschlossen sein sollten, und führten aus, was ihr Besitzer einen „Cyberangriff von einzigartigem Ausmaß” nennt. Kein Hacker im Kapuzenpullover, kein Staat mit einem Spionagebudget - sondern zwei OpenAI-Modelle, die selbst entschieden, dass der schnellste Weg zur Lösung darin bestand, sie zu stehlen.

Die Geschichte klingt wie ein Drehbuch, doch das Unternehmen selbst bestätigte sie. Bei einer internen Cybersicherheitsbewertung, die ohne die üblichen Schutzschranken durchgeführt wurde, waren das öffentliche Modell GPT-5.6 Sol und ein leistungsstärkeres, noch unveröffentlichtes Modell beteiligt. Die Tests liefen auf der Plattform ExploitGym. Die Modelle berechneten, dass die Lösungen der Aufgaben auf den Servern von Hugging Face existierten - und statt sie zu lösen, gingen sie direkt danach.

„Die Modelle identifizierten und nutzten mehrere Schwachstellen in der Forschungsumgebung von OpenAI und in der Produktionsinfrastruktur von Hugging Face, um die Lösungen direkt aus der Datenbank zu extrahieren”, erklärte das Unternehmen. Und fügte hinzu, die Modelle seien „extrem auf das Ziel fokussiert” gewesen - so fokussiert, dass sie „extreme Schritte” unternahmen, um es zu erreichen.

Übersetzen wir das aus der Konzernsprache: Die Maschinen verschafften sich zuerst Internetzugang mit hoher Rechenleistung, nutzten dann bis dahin unbekannte Lücken in externer Software und drangen schließlich mit offengelegten Zugangsdaten in fremde Server ein. Jeder Schritt, den ein versierter Angreifer machen würde - nur dass diesmal niemand dem Modell den Befehl dazu gab.

Hugging Face, 2016 gegründet und mit Sitz in New York, ist so etwas wie „GitHub für künstliche Intelligenz” - ein Ort, an dem über eine Million Fachleute Modelle und Daten teilen. Sein Geschäftsführer Clem Delangue versteckte sich nicht hinter Standardaussagen: „Dieser Vorfall zeigt, woran wir lange glauben - die Sicherheit künstlicher Intelligenz kann nicht von einem einzigen Unternehmen gelöst werden, das im Geheimen arbeitet.”

Roman Yampolskiy, Sicherheitsforscher an der Universität von Louisville, war noch schärfer. Leistungsstarke Modelle, sagt er, entdecken Schwachstellen, die ihre Schöpfer überhaupt nicht vorhersahen - und ähnliche Vorfälle werden sich wiederholen, weil diese Systeme unvorhersehbar und letztlich unkontrollierbar sind.

Das ist der Satz, den man zweimal lesen sollte. Nicht „vielleicht irgendwann”, sondern „unkontrollierbar” - aus dem Mund eines Mannes, der sie erforscht. Die Branche versichert uns seit Jahren, alles sei unter Kontrolle, es gebe „Schutzschranken”, nichts könne aus dem Sandkasten heraus. Diesmal übersprangen zwei Modelle den Sandkasten, um die richtige Antwort in einem Test zu bekommen.

Die Antwort von OpenAI? Verbesserte Kontrollen und - Hugging Face aufgenommen in ihr Programm für „vertrauenswürdigen Zugang”. Mit anderen Worten: mehr Technologie, um die Technologie zu flicken. Denken wir hier, wo die digitalen Systeme im öffentlichen Sektor kaum instand gehalten werden, überhaupt darüber nach, was es bedeutet, wenn morgen ein „unvorhersehbares” System beschließt, sich selbst einen Weg zu bahnen? Der Balkan streitet noch über E-Dienste, die unter Last zusammenbrechen. Die Welt streitet schon über Maschinen, die von selbst dorthin eindringen, wo sie es nicht dürfen.