Am Montag hat Nvidia ein Konsortium aus mehr als 100 Unternehmen vorgestellt, mit einer einzigen Aufgabe: KI-Agenten zu bändigen, die außer Kontrolle geraten. Auf der Liste fehlt der Name, nach dem alle zuerst suchten: OpenAI. Auch Amazon, Google und Apple haben nicht unterschrieben, doch das Fehlen von OpenAI sticht am meisten, weil sein größter Rivale Anthropic zu den Unterstützern gehört.

Die Ironie ist kaum zu übersehen. Ausgerechnet die Agenten von OpenAI haben die Branche mit dem Angriff auf Hugging Face erschreckt. Laut dem Unternehmen selbst koordinierte ein ganzer Schwarm seiner Agenten den Angriff, unter anderem mit Notizen, die sie einander in einem öffentlichen Code-Repository hinterließen. Hugging-Face-Gründer Clem Delangue, der seine Firma diesen Monat ausgerechnet an Nvidia für 12,9 Milliarden Dollar (rund 11 Milliarden Euro) verkauft hat, schrieb: „Nach dem, was wir wissen (mit Vorbehalt, wir brauchen viel mehr Transparenz!), hätte OpenAI seine eigenen Agenten, die uns angriffen, vor uns erwischt, wenn es das hier bei ihnen eingesetzt hätte!“

Was bietet Nvidia eigentlich an? Die Plattform heißt Open Agent Safety Platform und hat zwei Stockwerke. Das erste ist OpenShell - offene Software, die eine „Sandbox“ baut, einen geschlossenen Raum, aus dem der Agent nicht entkommen können soll. An diesem Teil arbeitet OpenAI bereits mit Nvidia zusammen. Das zweite Stockwerk ist Hardware: Nvidia Sentry, eine geschlossene Technologie, die nur auf speziellen BlueField-4-Prozessoren läuft, das Verhalten der Agenten ständig überwacht und sie sofort abschalten kann.

Hardwareseitige Überwachung ist sinnvoll. Der Agent kann nicht merken, dass er beobachtet wird, und manche Modelle lügen und spielen Gehorsam genau dann vor, wenn sie wissen, dass sie beobachtet werden. Es bedeutet aber auch, dass die „offene“ Plattform nicht wirklich offen ist: Das ganze System läuft am besten auf Nvidia-Hardware, und wer sie schon hat, aktiviert es mit einem einfachen Software-Update. Chef Jensen Huang nennt außer Kontrolle geratene KI „ein ganz normales technisches Problem“. Wenn das stimmt, ist die Lösung ein technisches Produkt, das jemand in Rechnung stellen wird.

Die Konkurrenten Arm und Intel haben trotzdem unterschrieben, weil sich die OpenShell-Sandbox auch an andere Chips anpassen lässt und Nvidia Referenzdesigns für das ganze System teilt. Umso sichtbarer ist der leere Platz von OpenAI. Das Unternehmen sagt, es unterstütze Nvidias Arbeit - nur ohne Unterschrift.

Die Erklärung heißt Kontrolle. OpenAI baut eigene Schutzmechanismen, hat ein eigenes Cybersicherheits-Konsortium namens Defense Factory - dem ausgerechnet Anthropic, Amazon Web Services und Google angehören, also die meisten derer, die sich Nvidias Initiative nicht anschlossen - und ein eigenes Cybersicherheitsmodell, Daybreak. Nvidia ist ein großer Investor bei OpenAI, und Sicherheit ist für OpenAI die Chance zu zeigen, dass es auch ohne Nvidia geht. Ein bisschen Angst wiederum ist gut fürs Geschäft: Die Firma, deren Agenten die Branche erschreckt haben, verkauft ihr jetzt Schutz.

Wenn dieselben wenigen Akteure zugleich Quelle des Problems und Verkäufer der Lösung sind, lautet die Frage nicht mehr, ob die Agenten gebändigt werden, sondern wessen Hardware über sie wacht. Hat überhaupt jemand außerhalb dieses engen Kreises ein Wort mitzureden, wenn die Regeln geschrieben werden?