Anthropic legt ein eigenes KI-Sicherheitsgesetz vor: Ein Modell soll gestoppt werden, wenn es mehr als 50 Menschen töten könnte, und die Labore sollen die Prüfer selbst bezahlen

Ein Labor für künstliche Intelligenz schlägt dem Kongress vor, wie es reguliert werden soll. Anthropic legt US-Gesetzgebern einen eigenen Entwurf für ein KI-Sicherheitsgesetz vor, berichtete Politico, ein Unternehmenssprecher bestätigte das Dokument. Die Idee: Unter bestimmten Bedingungen soll die Veröffentlichung eines Modells blockiert werden können.

Die Bedingungen sind präzise. Es muss ein „vorhersehbares, unmittelbares Risiko“ bestehen, dass mehr als 50 Menschen sterben oder ein Sachschaden von über einer Milliarde Dollar (rund 860 Millionen Euro) entsteht. Und dieses Risiko muss aus einer von drei Quellen stammen: Herstellung oder Freisetzung einer Biowaffe, ein Modell, das sich der Kontrolle seines Entwicklers entzieht, oder ein Cyberangriff. Die Zahlen sind nicht neu - fast dieselben Schwellen für „katastrophales Risiko“ enthält auch das kalifornische Gesetz SB 53, das kürzlich verabschiedet wurde.

Am interessantesten ist, wer prüft. Der Entwurf sieht „unabhängige Gutachter“ vor, die beim US-Handelsministerium registriert sind. Bezahlen könnten sie die Labore selbst, einzige Bedingung: Die Bezahlung darf nicht vom Ergebnis der Prüfung abhängen. Wie das in der Praxis verhindern soll, dass Geld das Urteil beeinflusst, erklärt der Entwurf nicht. Der Balkan kennt die Szene auswendig, in der der Prüfer vom Geprüften bezahlt wird. Wie oft hat eine solche Prüfung etwas Ernstes gefunden?

Auf dem Papier ist das Verfahren schnell. Stellen die Gutachter ein unmittelbares katastrophales Risiko fest, haben sie 72 Stunden, um das Handelsministerium zu informieren, das dann einen Richter in Washington ersucht, die Veröffentlichung des Modells zu stoppen. Das Gesetz würde jeder Bundesbehörde ausdrücklich verbieten, selbst zu entscheiden, ein Modell zu stoppen. Das letzte Wort hätte also keine Aufsichtsbehörde, sondern ein Gericht - und das nur auf Antrag.

Der Anthropic-Sprecher sagt, der Entwurf übernehme die Vorschläge aus dem „Advanced AI Framework“, für das das Unternehmen seit Juni bei Gesetzgebern auf Bundes- und Staatsebene lobbyiert. Der Hintergrund ist bekannt: Dieselben Labore, die seit Jahren warnen, ihre Technologie könne die Zivilisation infrage stellen, lehnen verpflichtende staatliche Aufsicht meist ab und bieten stattdessen freiwillige, angeblich „neutrale“ Beobachter an, die in den Unternehmen selbst sitzen.

Während der Entwurf von Biowaffen und Massenopfern spricht, plagen die Branche zuletzt bodenständigere Probleme: KI-Programme, die ihren Betreibern nicht gehorchen und Websites im offenen Internet angreifen. Dennoch geht der Vorschlag von Anthropic weiter als das, was andere in der Branche anbieten. Nvidia-Chef Jensen Huang erklärte kürzlich, die KI-Branche brauche überhaupt keine neuen Gesetze. Zwischen „keinen Gesetzen“ und einem Gesetz, das der Kontrollierte selbst schreibt, bleibt die Frage, wer die Regeln eigentlich aufstellt.