Selten sagt ein Hersteller von sich aus, dass sein Produkt für die ganze Welt gefährlich werden könnte. Am Mittwoch geschah genau das im UN-Sicherheitsrat. Vor dessen 15 Mitgliedern sprachen am Rande der jährlichen Tagung der Generalversammlung Sam Altman von OpenAI, Dario Amodei von Anthropic und Clément Delangue, Mitgründer von Hugging Face - drei der prominentesten Köpfe der KI-Branche.

Ihre Botschaft: Immer leistungsfähigere KI-Systeme könnten bald noch weiter voranschreiten und sich selbst verbessern, sich menschlicher Kontrolle entziehen und zur Bedrohung für die internationale Sicherheit werden. „Wenn KI schlecht gesteuert wird, könnte sie meiner Überzeugung nach sogar ein Risiko für die Menschheit als Ganzes darstellen“, sagte Amodei.

Die Labore in San Francisco und alle anderen

Altman warf die Frage auf, wer eigentlich entscheiden soll. „Wenn KI demokratisch sein soll, können die wichtigsten Entscheidungen nicht allein von Laboren in San Francisco getroffen werden. Sie müssen durch demokratische Prozesse geformt und von Regierungen getroffen werden, die den Menschen, denen sie dienen, rechenschaftspflichtig sind“, sagte er und fügte hinzu, auf internationaler Ebene erfordere das Zusammenarbeit.

„Es gab in unserer Geschichte Phasen, in denen Länder, die miteinander konkurrieren und sich nicht besonders mögen, sich dennoch um gemeinsame Interessen und das Gemeinwohl zusammenschlossen, als sie mit einer mächtigen neuen Technologie konfrontiert waren. Wir glauben, dass dies eine solche Phase ist“, betonte Altman. Klingt vernünftig. Doch Washington und Peking, die beiden dominierenden Akteure der KI-Entwicklung, sind sich weiterhin uneins, ob die Technologie globale Schutzvorkehrungen braucht oder eher dem Markt überlassen werden sollte. Die Regierungen suchen derweil nach Wegen, Systeme zu beaufsichtigen, die schneller voranschreiten, als Regulierer hinterherkommen.

„Die Gefahren sind real und unmittelbar“

Yoshua Bengio, der Kanadier, der als einer der „Paten der KI“ gilt und Ko-Vorsitzender des Unabhängigen Internationalen Wissenschaftlichen Gremiums ist, das die Generalversammlung im vergangenen Jahr eingerichtet hat, wurde noch deutlicher. „Die Gefahren sind real und unmittelbar“, sagte er. „Dieser Rat steht vor einer beispiellosen Bedrohung, einer Bedrohung, die keines seiner Mitglieder wählen würde, die niemand allein eindämmen kann und die die Grenzen, die wir verteidigen, nicht respektiert.“

Der Sicherheitsrat warnte erstmals 2023 vor den Risiken der KI, als China erklärte, die Technologie dürfe nicht zu einem „durchgehenden Pferd“ werden, und die USA vor ihrem Einsatz für Zensur und Repression warnten. Seitdem werden die Warnungen immer lauter, während globale Regeln noch immer auf dem Niveau von Reden verharren.

Altman sagte, die Entscheidungen dürften nicht allein in San Francisco bleiben. Ein schöner Satz. Doch wenn die Regeln am Ende Washington, Peking und eine Handvoll Labore schreiben - was bleibt den kleinen Staaten? Sie anzuwenden, wenn sie fertig sind?