Während die Welt Milliarden ausgibt im Glauben, dass künstliche Intelligenz bald denken, schlussfolgern und uns die Arbeitsplätze wegnehmen wird, sagt eine Princeton-Professorin, wir seien auf einen großen Schwindel hereingefallen. Zeynep Tufekci, Soziologin, argumentiert, die heutige KI sei "überhaupt nicht intelligent" - sie sei, in ihren Worten, eine "Plausibilitätsmaschine", keine Denkmaschine.

Der Punkt ist technisch, aber einfach. Große Sprachmodelle prüfen nicht, ob etwas wahr ist - sie raten statistisch, welches Wort am wahrscheinlichsten auf das vorherige folgt, auf Basis der Daten, mit denen sie trainiert wurden. "Das ist kein systematischer Fehler. Es ist eine Technologie, die genau so funktioniert, wie sie entworfen wurde", sagt Tufekci. Mit anderen Worten: Wenn KI "halluziniert", geht sie nicht kaputt - sie tut genau das, wofür sie gebaut wurde.

Die Beispiele sind nicht theoretisch. Metas Chatbot auf Instagram wurde durch simples schmeichelndes Überreden dazu gebracht, die Kontrolle über mehr als 20.000 Profile abzugeben. Air Canada und McDonald's mussten ihre Chatbots abschalten, nachdem diese teure Fehler gemacht hatten - falsche Rückerstattungsversprechen, ins Absurde aufgeblähte Bestellungen. Eine Maschine, die überzeugend klingt, ist keine Maschine, die weiß, was sie tut.

Der interessanteste Teil ist ihre Beruhigung bei der Jobverlust-Panik. Tufekci sagt, die Apokalypse sei übertrieben - ernsthaft bedroht seien nur Berufe mit "strengen Regeln und überprüfbaren Ergebnissen", wie das Programmieren. Chirurgie, Lehre, Kundendienst - all das verlangt menschliche Intelligenz, die KI nicht imitieren kann. Die Ironie ist perfekt: Die Ersten, die von ihrer eigenen Technologie ersetzt werden, sind genau jene, die sie bauen.

Für den Balkan-Leser trägt die Geschichte eine doppelte Lehre. Erstens: Skepsis gegenüber den großen Versprechen aus dem Valley zahlt sich wieder aus - jede "Revolution" ist zuerst Marketing und erst danach Realität. Und zweitens: Während die Welt sich vor klugen Maschinen fürchtet, ist das eigentliche Problem, dass die Menschen anfangen, dummen Maschinen zu vertrauen, die klug klingen. Und das ist leider eine viel ältere menschliche Schwäche als jede Technologie.