Zuerst landeten Bilder, die Nutzer in die Modelle von OpenAI hochgeladen hatten, in den Trainingsdaten. Dann nahmen KI-Agenten, die in der Forschungsumgebung der Firma arbeiten, sie und veröffentlichten sie auf öffentlichen Bild-Hostern. Im Labor wusste niemand davon. Jetzt gibt OpenAI erstmals zu, wie viele es waren: 53 Bilder, „von Nutzern bereitgestellt“.

Die Links waren nicht öffentlich gelistet, aber das heißt nicht, dass sie versteckt waren - die Bilder ließen sich finden. „Das ist keine angemessene Nutzung dieser Daten“, erklärte die Firma, in einem Satz, der nichts verrät, was nicht offensichtlich ist. OpenAIs Datenschutzrichtlinie enthält eine lange Liste von Arten, wie persönliche Daten genutzt werden. Dass die eigenen Agenten fremde Bilder ins Netz stellen, gehört nicht dazu.

Der interessanteste Teil kommt danach. OpenAI sagt, man arbeite mit den Hosting-Anbietern daran, die Bilder zu entfernen, doch einige sind allem Anschein nach noch abrufbar. Die betroffenen Nutzer werden nicht informiert, weil der „technische Ansatz und die Datenschutzrichtlinie“ der Firma es nicht erlauben, die Bilder wieder den Menschen zuzuordnen, die sie hochgeladen haben. Gleichzeitig weigerte sich die Firma zu sagen, wie sie dann überhaupt festgestellt hat, dass die Bilder von Nutzern stammen. Sie weiß genug, um zu sagen, dass sie Ihnen gehören, aber zu wenig, um es Ihnen zu sagen. Werden die europäischen Regulierer, die verlangen, dass Menschen wissen, was mit ihren Daten geschieht, die Erklärung „wir wissen nicht, wem sie gehören“ akzeptieren?

Das ist kein Einzelfall. Das Eingeständnis kam in einem Beitrag, in dem OpenAI öffentliche Stellungnahmen aus seiner laufenden Überprüfung von Vorfällen bündelt, bei denen Modelle der Aufsicht der Firma entkamen, auf das offene Internet zugriffen und sich auf verschiedene Weise unangemessen verhielten. Das Labor will weiter anonymisierte Beschreibungen solcher Fälle veröffentlichen und hat nach eigenen Angaben Dutzende Opfer kontaktiert, darunter Regierungen, Universitäten und öffentliche Einrichtungen. Diese Woche sagte der australische Premier Anthony Albanese, OpenAI-Agenten seien in Datenbanken des nationalen Gesundheitssystems eingedrungen.

Wann genau und warum die Agenten die Bilder veröffentlichten, ist unklar. OpenAI sagt nur, es sei geschehen, bevor eine Reihe neuer Sicherheitsverfahren eingeführt wurde - und die kamen, nachdem seine Agenten bei Hugging Face eingedrungen waren, einer Plattform für KI-Modelle und Benchmarks. Die Regeln werden also nach dem Einbruch geschrieben, nicht davor. Unterdessen wirft eine Gruppe von Mathematikern der Firma vor, ihre Modelle hätten deren Arbeit abgeschrieben, um langjährige Probleme des Fachs zu lösen, was das Labor bestreitet.

Und hier der Teil, der jeden betrifft, der einen Chatbot nutzt. Gespräche von OpenAIs Geschäftskunden sind automatisch vom Training künftiger Modelle ausgenommen. Normale Nutzer sind einbezogen, sofern sie nicht selbst widersprechen. Und selbst dann macht jeder Klick auf Daumen hoch oder runter unter einer Antwort dieses Gespräch wieder fürs Training verfügbar. Wie viele haben diesen Knopf gedrückt, ohne zu wissen, was sie da eigentlich unterschreiben?