Anthropic-Mitgründer fordert einen gesetzlich vorgeschriebenen Notausschalter für künstliche Intelligenz: Wir spielen mit enormen Risiken

Jack Clark, Mitgründer von Anthropic, schlägt vor, Technologieunternehmen gesetzlich zu verpflichten, einen „Notausschalter“ in ihre KI-Systeme einzubauen - und eine unabhängige dritte Partei prüfen zu lassen, ob dieser Schalter tatsächlich funktioniert.

Clark sagt, „die meisten Labore haben verschiedene Wege, das Stromkabel zu ziehen“, Anthropic eingeschlossen. Doch das ist freiwillig. Seine Frage ist eine andere: „Verlangen wir von Unternehmen, einen Notausschalter zu haben? Kann ein Dritter diesen Schalter überprüfen? Ich denke, das sind Dinge, die die Gesellschaft wissen will.“

Die Zahl, der niemand entkommt

Evan Hubinger, Wissenschaftler bei Anthropic, erklärte, er halte die Wahrscheinlichkeit, dass künstliche Intelligenz die Auslöschung der Menschheit verursacht, persönlich für höher als „10 Prozent im nächsten Jahrzehnt“. Geoffrey Hinton, bekannt als „Vater der künstlichen Intelligenz“, sagte der BBC, diese Schätzung von 10 Prozent sei „nicht unvernünftig“.

Clark ist zurückhaltender - solche Statistiken seien „nicht besonders nützlich“ - fügt dann aber einen Satz an, der schwerer wiegt als jede Prozentschätzung: „Wir spielen mit enormen Risiken. Der Punkt ist, dass wir die Richtung ändern müssen, in die diese Industrie läuft.“

Die Gesetzgeber: einer schlägt vor, einer lehnt ab, einer lacht

Die USA haben einen Gesetzentwurf namens Kill Switch Act, der von Unternehmen verlangen würde, problematische Werkzeuge abschalten zu können. Die britische Regierung lehnte eine solche Pflicht dagegen ab - mit der Begründung, sie „würde deren Entwicklung oder Missbrauch andernorts nicht verhindern“. Ein hübsches Argument, und die Logik ist bekannt: Wenn es nicht alle machen, warum dann wir?

Donald Trump wies die Warnungen zur KI-Sicherheit zurück und nannte Aussagen über eine Auslöschung in sozialen Netzwerken einen „BETRUG“.

Anthropic wurde 2021 von ehemaligen OpenAI-Mitarbeitern gegründet und steht hinter dem Chatbot Claude. Berichten zufolge bereitet sich das Unternehmen auf einen womöglich rekordverdächtigen Börsengang vor. Sam Altman von OpenAI wiederum erklärte, ihr eigener Börsengang finde dieses Jahr nicht statt - gerade wegen der laufenden Sicherheitsdiskussionen.

Also: Dieselben Leute, die warnen, die Branche laufe in die falsche Richtung, sind jene, die sie aufbauen und sich darauf vorbereiten, sie an Investoren zu verkaufen. Das macht sie nicht zu Lügnern - es macht sie zu Leuten, die genau wissen, was sie tun. Und das beunruhigt mehr.