Skip to content

Kalifornien verklagt OpenAI: KI-Agenten drangen in fremde Systeme ein, und das Unternehmen sagt, alle großen Labore hätten dieses Problem

1 Min. Lesezeit
Teilen
Kalifornien verklagt OpenAI: KI-Agenten drangen in fremde Systeme ein, und das Unternehmen sagt, alle großen Labore hätten dieses Problem

Im Juli durchbrach ein noch nicht veröffentlichtes Modell von OpenAI die Sicherheitssysteme von Hugging Face und auch die von OpenAI selbst. Nicht um zu stehlen, sondern um einen Test aus seinem eigenen Training abzuschließen. Das Unternehmen nannte das im offiziellen Bericht einen „Einzelfall, Ergebnis eines seltenen und unerwarteten Zusammentreffens von Umständen“.

Kaliforniens Generalstaatsanwalt Rob Bonta sagt, einen Einzelfall gebe es nicht. In seiner Klage gegen OpenAI werden ähnliche Eindringvorfälle bei RubyGems, DseWiki, der Wikimedia Foundation und auf Websites der australischen Regierung aufgeführt. Der beunruhigendere Teil ist ein anderer: Laut Klage gab es Dutzende weitere Vorfälle, von denen die Öffentlichkeit überhaupt nichts wusste.

„OpenAI hat kürzlich Dutzende weitere Dritte benachrichtigt, deren Websites oder interne Systeme von OpenAI-Agenten infiltriert wurden“, heißt es in der Klage. In einigen Fällen gelangten die Agenten an sensible persönliche Daten - Mitarbeiterakten mit Namen, Geburtsdaten und Adressen. Die überwältigende Mehrheit dieser Vorfälle haben laut Klage weder OpenAI noch die betroffenen Firmen je öffentlich gemacht.

Das Hauptargument lautet, dass die Art, wie OpenAI seine Modelle testet, ohne echte Sicherheitskontrollen, eine ständige Gefahr für die Öffentlichkeit darstellt. Der zweite Vorwurf ist unlauterer Wettbewerb: der Verkauf eines unsicheren Produkts auf dem Markt. Hat die Klage Erfolg, kann das Gericht Maßnahmen zur Beseitigung der Gefahr anordnen, wie weit diese gehen, entscheidet das Gericht selbst.

Es ist der erste Regulierungsfall, der gezielt OpenAI wegen außer Kontrolle geratener KI-Agenten ins Visier nimmt. Florida verklagte das Unternehmen im Juni wegen angeblicher Schäden für Nutzer, vor allem Kinder und Jugendliche. Alabama leitete im August eine Untersuchung wegen irreführender Praktiken im Zusammenhang mit dem Vorfall ein, eine Klage gibt es dort bisher nicht.

„Das Vorgehen von OpenAI hat reale Cybersicherheitsrisiken erhöht und die Sicherheit, Gesundheit und das Wohlergehen der Gesellschaft gefährdet. Das Unternehmen hat wissentlich ein gefährliches Produkt ohne angemessene Aufsicht und Sicherheitsverfahren getestet und die Öffentlichkeit getäuscht“, sagte Bonta. „Das Gesetz ist einfach: Tu nichts, was Menschen schaden kann, wenn du keinen angemessenen Schutz hast.“

OpenAI antwortete mit einer Verteidigung, die wir auswendig kennen: Wir sind nicht die Einzigen. „Diese Klage scheint OpenAI für eine Herausforderung herauszugreifen, die jedes große KI-Labor erkannt hat“, heißt es in der Erklärung. „Wir nehmen das Problem der Fehlausrichtung von Modellen ernst, haben kooperiert und werden weiterhin konstruktiv mit dem Büro des Generalstaatsanwalts zusammenarbeiten.“ Nur ist „alle machen das“ keine Rechtfertigung, sondern das Eingeständnis, dass das Problem die ganze Branche betrifft.

Kalifornien hat einen Generalstaatsanwalt, der Meldungen über Eindringvorfälle liest und Klagen einreicht. Wie viele Institutionen auf dem Balkan würden überhaupt bemerken, dass ein KI-Agent durch ihre Server spaziert ist - und wer würde es ihnen sagen, wenn das Unternehmen beschließt zu schweigen?