Anthropics Sicherheitschef sagt, es gebe über 10 Prozent Chance, dass künstliche Intelligenz alle Menschen auslöscht - und geht am Montag zur Arbeit

Ein Forscher hat Anthropic verlassen mit der Begründung, die führenden KI-Firmen würden „mit unserem Leben spielen“. Jakob Coxon, der zuvor auch bei OpenAI arbeitete, schrieb das öffentlich und zog die Tür hinter sich zu. So weit - eine weitere Kündigung in einer Branche, die Menschen schneller verbraucht, als sie sie einstellt.

Dann geschah etwas Interessanteres. Statt dass die Firma ihn dementierte, teilte der für Modellsicherheit zuständige Mann bei Anthropic seinen Beitrag und fügte hinzu: „Wir glauben wirklich aufrichtig, dass KI alle Menschen töten könnte!“ Mit Ausrufezeichen. Und mit einer Zahl - persönlich schätzt er die Chance auf „über 10 Prozent im nächsten Jahrzehnt“.

Halten Sie hier einen Moment inne. Ein Mann, der dafür bezahlt wird, die Sicherheit eines der zwei mächtigsten Modelle der Welt zu gewährleisten, sagt, es gebe eine Chance von eins zu zehn, dass sein Produkt die Menschheit auslöscht - und geht am Montag weiter zur Arbeit. Das ist keine Warnung. Das ist ein Geständnis.

Die Zahl, die niemand berechnet hat

Das Problem mit diesen 10 Prozent ist, dass sie aus dem Nichts kommen. Es gibt kein Modell, keine Studie, keine Methodik dahinter. Es ist ein Gefühl im Prozentgewand - ein Trick so alt wie die Techbranche selbst, in der jede Schätzung seriöser klingt, sobald sie eine Nachkommastelle bekommt. Schriebe derselbe Mann morgen 30 Prozent, könnte ihm niemand widersprechen, weil es nichts gibt, womit.

Und hier ist die zweite Frage, die in der Luft hängt: wer ist „wir“? Ein einzelner Beitrag in einem sozialen Netzwerk spricht im Namen eines ganzen Berufsstands, der sich untereinander überhaupt nicht einig ist. Ein Teil der Forscher hält die Gefahr für real und nah. Ein Teil hält sie für Science-Fiction, verkauft als Risikomanagement. Ein „wir“ steckt alle in denselben Satz und legt ihnen Worte in den Mund.

Wer von der Angst profitiert

Es gibt eine zynischere - und passendere - Möglichkeit. Jeder Beitrag vom Typ „unser Modell hat etwas getan, das wir nicht erwartet haben“ ist zugleich Eingeständnis eines Fehlschlags und Werbung für Macht. Wäre das Produkt nicht leistungsfähig, gäbe es nichts zu fürchten. Angst und Marketing sind hier also derselbe Satz, aus zwei Blickwinkeln gelesen.

Auch das Timing ist kein Zufall. Anthropic bereitet den Börsengang vor, und der Prospekt, den die Firma bei der amerikanischen Aufsicht einreichen muss, listet die Geschäftsrisiken auf. Irgendein Anwalt in irgendeinem Büro überlegt gerade jetzt, wie man schreibt, dass es über 10 Prozent Chance gibt, dass die Firma etwas erschafft, das die Zivilisation zerstört - und dass dies „negative Auswirkungen auf die Geschäftstätigkeit hätte“. In normalen Zeiten würde so ein Satz die Bewertung einreißen. In diesen hebt er sie vielleicht.

Was verloren geht, während alle zum Horizont schauen

Es gibt auch einen Preis, der selten erwähnt wird. Während die Debatte darum kreist, ob Maschinen uns in zehn Jahren auslöschen, bleibt das, was bereits geschieht, unbeachtet - Arbeitsplätze, die jetzt verschwinden, Strom- und Wasserverbrauch der Rechenzentren, der jetzt steigt, Entscheidungen über Menschen, die jetzt ein Algorithmus trifft. Die Wörter „Superintelligenz“ und „AGI“ nehmen die ganze Luft im Raum. Was übrig bleibt, ist leiser und langweiliger, aber es ist real und es ist da.

Für den Balkan ist das keine so ferne Debatte, wie es scheint. Wir bauen diese Modelle nicht und werden an der Entscheidung, wann sie zu stoppen sind, nicht beteiligt sein - aber wir nutzen sie, und unsere Institutionen haben weder die Kapazität noch die Gesetze, um zu prüfen, was in sie hineingeht. Wenn die Firma, die das Produkt herstellt, offen sagt, sie sei sich nicht ganz sicher, was dieses Produkt tut, ist die Frage für den Nutzer am anderen Ende der Welt ganz einfach: bei wem beschwert man sich?