Der „Pate“ der KI: Ein „Tschernobyl“ der KI könnte dieses oder nächstes Jahr kommen

Wenn der Mann, der die Grundlagen der künstlichen Intelligenz gelegt hat, sagt, es wäre vielleicht besser gewesen, sie nie zu erschaffen, ist das keine gewöhnliche Kolumne für Technikfeinde. Geoffrey Hinton, einer ihrer „Paten“ und Physik-Nobelpreisträger, warnt, dass die Menschheit schon dieses oder nächstes Jahr eine ernste, von künstlicher Intelligenz ausgelöste Krise erleben könnte.

Hinton meint keine Roboter aus der Science-Fiction. Er spricht von etwas viel Bodenständigerem: großen Stromausfällen oder einem Bankensystem, das tagelang nicht funktioniert. In einem Interview mit einem britischen Medium sagte der 78-jährige Wissenschaftler, dessen Arbeit an künstlichen neuronalen Netzen die Grundlage heutiger Systeme legte, die nächsten zehn Jahre würden zeigen, ob es der Menschheit gelingt, die Risiken zu bändigen.

Tschernobyl ohne Strahlung

Die jüngsten Sicherheitsvorfälle mit autonomen KI-Systemen vergleicht Hinton mit dem Unfall im US-Kernkraftwerk Three Mile Island von 1979. Eine Warnung, aber keine Katastrophe. Die Katastrophe, meint er, kommt erst noch - eine Art „Tschernobyl“ der künstlichen Intelligenz. Kein Atomunfall, sondern ein Cyberangriff, der die Stromversorgung kappen oder das Finanzsystem vorübergehend lahmlegen kann.

Das Zynische daran: Nach seiner Ansicht könnte gerade eine solche Krise die Staats- und Regierungschefs endlich dazu bringen, sich ernsthaft um Regulierung zu kümmern. Erst müssen also die Lichter ausgehen, damit jemand reagiert. Wie oft haben wir schon Institutionen gesehen, die erst aufwachen, wenn der Schaden bereits angerichtet ist?

Wer die Risiken kennt und trotzdem rast

Hinton schont auch die Chefs der größten Tech-Konzerne nicht. Er äußerte tiefes Misstrauen gegenüber OpenAI-Chef Sam Altman und warf ihm, Mark Zuckerberg und Elon Musk vor, die Risiken zu kennen, aber Profit und das Rennen gegen die Konkurrenz vorzuziehen. Das ist seine Einschätzung ihrer Motive, keine erwiesene Tatsache - aber sie kommt von einem Mann, der diese Systeme von innen kennt.

Sein Vorschlag ist einfach: Die fortschrittlichsten Systeme sollen verpflichtend getestet werden, bevor sie die Öffentlichkeit erreichen - nach dem Vorbild der US-Arzneimittelbehörde FDA, die vor jeder Zulassung Belege für die Sicherheit eines Medikaments verlangt. Die Hersteller müssten einer unabhängigen Aufsicht nachweisen, dass der Nutzen den Schaden überwiegt. Damit stellt er sich direkt gegen den Kurs von Donald Trump, der weniger Regeln will, damit US-Unternehmen mit China konkurrieren können.

Hinton verließ Google 2023, um freier über die Gefahren sprechen zu können. Die Hoffnung gibt er nicht auf - er glaubt, dass die Menschen die Entwicklung noch steuern und die schlimmsten Folgen verhindern können, dafür seien aber viel größere Anstrengungen von Regierungen, Wissenschaft und Industrie nötig. Die Frage ist nur, ob jemand auf ihn hört - vor oder nach dem ersten „Tschernobyl“.