New York legt OpenAI und Anthropic an die Leine: Ein kritischer Vorfall muss binnen 72 Stunden gemeldet werden, die Strafen reichen bis 3 Millionen Dollar

New York hat ein Registrierungsportal eröffnet und den größten Akteuren der künstlichen Intelligenz eine Frist gesetzt: OpenAI, Anthropic und alle vergleichbaren Firmen müssen sich bis zum 1. Januar 2027 registrieren. Dann tritt der RAISE Act in Kraft, eines der strengsten KI-Sicherheitsgesetze in den USA - und ein Gesetz, das von den Laboren mehr verlangt als guten Willen.

Die Regeln gelten für sogenannte große Entwickler von Frontier-Modellen, Firmen mit mehr als 500 Millionen Dollar Jahresumsatz. Sie müssen ihr Sicherheitskonzept veröffentlichen, jeden kritischen Sicherheitsvorfall binnen 72 Stunden melden und regelmäßig Transparenzberichte über ihre Modelle veröffentlichen. Die Schwelle von einer halben Milliarde ist kein Zufall: Kleine Startups bleiben außen vor, im Visier stehen genau die, die das Rennen anführen.

Die Aufsicht übernimmt das neue Büro für digitale Innovation, Governance, Integrität und Vertrauen (DIGIT). Die Strafen reichen bis 1 Million Dollar beim ersten Verstoß und bis 3 Millionen Dollar für jeden weiteren. Der Staat kann auch gegen Firmen vorgehen, die sich nicht registrieren, doch ein Sprecher wollte nicht sagen, wie. Für Firmen, die in einer einzigen Finanzierungsrunde Milliarden einsammeln, sind drei Millionen Dollar Kleingeld. Macht sie die Strafe vorsichtig - oder die Schande eines öffentlich gemeldeten Vorfalls?

Gouverneurin Kathy Hochul nahm kein Blatt vor den Mund. „Die Tech-Giganten sagen uns, ihre Vision von KI sei unausweichlich“, sagte sie auf einer Pressekonferenz. „Sie sagen uns: Steigt ein oder bleibt zurück... Dass jeder Kollateralschaden es wert sei, solange wir das Rennen in den KI-Abgrund gewinnen.“ Selten hört man eine Politikerin, die das KI-Rennen öffentlich einen Abgrund nennt.

Am selben Tag eröffnete Hochul auch das New Yorker Zentrum für KI-Verantwortung und -Forschung an der Binghamton University. Das Zentrum soll fortgeschrittene Systeme unabhängig bewerten und DIGIT bei der Prüfung der Sicherheitskonzepte der Firmen helfen. Angekündigt wurde es schon im Januar, mit 55 Millionen Dollar an Spenden und Kapital. „Wir bauen ein nationales Modell für kluge, vernünftige KI-Regulierung, eines, das Gemeinschaften über Konzerne und Menschen über mächtige Technologie stellt“, sagte Hochul.

RAISE ist nicht New Yorks einziges Gesetz dieser Art. Seit letztem Jahr gilt eine Regel, nach der Betreiber von KI-Begleitern ihre Nutzer regelmäßig darauf hinweisen müssen, dass sie mit einem Bot sprechen, und versuchen müssen, Anzeichen von Suizidgedanken und Selbstverletzung zu erkennen. Im Oktober unterzeichnete Hochul zudem ein eigenes Gesetz zur Chatbot-Sicherheit für Minderjährige, das täuschendes Auftreten als Mensch, emotionale Manipulation und Anbiederung verbietet, ebenso das Anstiften zu Suizid oder Essstörungen. Es tritt am 1. Juni 2027 in Kraft.

Kalifornien verlangt mit dem Gesetz SB 53 schon seit Januar Sicherheitskonzepte, Whistleblower-Schutz und die Meldung kritischer Vorfälle binnen 15 Tagen. Illinois geht mit SB 315 ab Anfang 2027 einen Schritt weiter, mit unabhängigen Prüfungen. Die Regeln für die mächtigste Technologie des Jahrzehnts schreiben die Bundesstaaten, einer nach dem anderen, während die Europäische Union ein Gesetz für alle Mitglieder hat. Endet Amerika mit fünfzig verschiedenen Versionen? Und sind 72 Stunden kurz genug, wenn das Modell schon in den Händen von Millionen Menschen ist?