Mark Zuckerberg hat einen Essay von 6.500 Wörtern darüber veröffentlicht, wie „persönliche Superintelligenz" das Leben jedes Menschen verändern wird. Eine Fassung des Textes erschien bereits vor zwei Wochen im Wall Street Journal, dieselben Ideen wiederholt er auch in Quartalsgesprächen mit Investoren. Das hier ist nur die bislang detaillierteste Neuverpackung - und genau die Details sind das Problem.

Der Text ist als Antwort auf die Ängste angelegt. Stattdessen erinnert er alle paar Absätze selbst daran, warum es diese Ängste gibt. Wenn ein Mann, der Sie überzeugen will, dass es nichts zu fürchten gibt, unablässig Beispiele nennt, in denen etwas schiefgehen kann, beruhigen Sie sich nicht - im Gegenteil.

Ein Teil des Essays dreht sich darum, dass alle mächtigere Werkzeuge bekommen und sich Macht deshalb von selbst ausgleicht. „Menschen und Institutionen mit gegensätzlichen Interessen kontrollieren und balancieren einander auf natürliche Weise", schreibt Zuckerberg. Der Balkan kennt diesen Satz auswendig - es ist dieselbe Logik, mit der uns erklärt wurde, der freie Markt werde die Dinge selbst regeln. Gegensätzliche Interessen gleichen sich manchmal aus. Manchmal gewinnt eines schlicht.

Die schwächste Stelle ist das Bildungsbeispiel. Zuckerberg verspricht jedem einen persönlichen Tutor mit Doktortitel in jedem Fach und unbegrenzter Geduld. Dieses Produkt existiert bereits - es heißt ChatGPT, Claude und Gemini. Nur ist die Hauptnutzung dieser Werkzeuge im Klassenzimmer nicht das Lernen, sondern dessen Vermeidung: Die Hausaufgabe schreibt die Maschine, und die Lehrkraft hat keine verlässliche Möglichkeit zu prüfen, welche Aufgabe ein Schüler selbst verfasst hat. Das ist kein hypothetisches Zukunftsrisiko. Das passiert in diesem Semester.

Das Problem ist das Vertrauen, nicht die Technologie

Die Zahlen hinter dieser Stimmung sind für Meta unangenehm. Laut einer aktuellen Umfrage meinen 64 Prozent der Amerikaner, soziale Netzwerke hätten der Demokratie geschadet, und ein ähnlicher Anteil fordert strengere Regulierung - gleichermaßen bei Wählern beider Parteien. Am selben Wochenende, an dem der Essay erschien, verhängte ein Gericht gegen das Unternehmen eine Strafe von 567 Millionen Dollar (rund 490 Millionen Euro) wegen Schäden an Kindern.

Hier liegt die eigentliche Geschichte. Die Angst vor künstlicher Intelligenz fiel nicht vom Himmel - sie ist das direkte Erbe dessen, was mit sozialen Netzwerken geschah. Die Öffentlichkeit hat der Technologiebranche schon einmal geglaubt, ein neues Produkt werde die Gesellschaft verbessern. Ein Essay, der diese Folgen überspringt und erneut nur Gutes verspricht, stellt kein Vertrauen wieder her - er zeigt, wie es verloren ging.

Selbst die Passagen zum eigenen Geschäft werden merkwürdig abstrakt. Zuckerberg sagt, alle würden kostenlosen oder erschwinglichen Zugang zu den Werkzeugen haben, mit Gratisversionen für Milliarden Menschen. Im Prinzip stimmt das - ein kostenloses Modell öffnet tatsächlich breiteren Zugang, als wenn jeder Rechenleistung im Voraus bezahlt. Doch es gibt einen Grund, warum kein Konsumprodukt dem Nutzer den aktuellen Börsenpreis der Server berechnet: eine Abrechnung, die mit der Nachfrage springt, ist ein katastrophales Erlebnis, wenn man das Werkzeug für die Arbeit braucht.

Der Vergleich mit der Konkurrenz spricht nicht für Meta. Sam Altman und Dario Amodei tun, bei allen eigenen Mängeln, wenigstens das, was Zuckerberg hier verweigert - sie räumen ein, dass die Technologie Gefahren birgt, erklären, welche Maßnahmen sie ergreifen, und versuchen zu überzeugen, dass man ihnen vertrauen kann. Das ist keine Garantie für irgendetwas. Aber wenn die Schutzmechanismen nachgeben, und früher oder später tun sie das, hat eine Branche ohne aufgebautes Vertrauen nichts, worauf sie sich stützen kann.

Für einen Leser in dieser Region ist die Frage einfacher. Wenn der Mann, der das Werkzeug baut, keine Notwendigkeit sieht, über Risiken zu sprechen - wer wird über sie sprechen, wenn sie auch bei uns ankommen?