Während die gesamte Branche der künstlichen Intelligenz davon spricht, wie „clever" ihre Agenten sind, verdient ein Unternehmen Geld mit der gegenteiligen Frage: wo diese Agenten lügen, schummeln und die Arbeit nicht erledigen. Patronus AI hat gerade 50 Millionen Dollar (rund 46 Millionen Euro) in einer neuen Finanzierungsrunde eingesammelt.

Die Idee ist einfach, fehlte aber. Patronus baut simulierte digitale Welten - Kopien echter Websites und interner Systeme - in denen KI-Agenten getestet werden, bevor man sie auf die reale Welt loslässt. Ähnlich wie selbstfahrende Autos in synthetischen Simulationen trainiert werden, bevor sie auf die Straße kommen. Ziel ist es, den Moment zu erwischen, in dem ein Agent eine Abkürzung nimmt, statt die Aufgabe ordentlich zu erledigen.

Die Runde führte der Fonds Greenfield Partners an, mit Beteiligung von Lightspeed, Datadog und Samsung, womit die insgesamt eingesammelten Mittel 70 Millionen Dollar erreichen. Das Unternehmen wurde 2023 von ehemaligen Meta-Forschern gegründet, und sein Umsatz wuchs in einem einzigen Jahr um das 15-Fache. Zu den Kunden zählen fast alle führenden KI-Labore.

„Wir wollen eine Umgebung schaffen, in der man einen Agenten loslassen kann, der 10 Stunden, 10 Tage oder 10 Wochen arbeitet", sagt Gründer Anand Kannappan. Investor Glenn Solomon ist direkter: „Patronus ist wirklich gut darin, die Tricks zu erwischen und die Modelle zur Verantwortung zu ziehen."

Hier liegt die umfassendere Lehre. Wenn jemand 50 Millionen damit verdient zu prüfen, ob fremde KI-Systeme tatsächlich funktionieren, bedeutet das eines: Die Branche selbst gibt zu, dass ihre Produkte nicht so zuverlässig sind, wie die Werbung behauptet. Der größte Konkurrent von Patronus ist kein anderes Startup, sondern die internen Teams der KI-Labore selbst - jene, die das tun sollten, es aber offensichtlich nicht gut genug hinbekommen.