Anthropic hat ein Paper veröffentlicht, das ein System beschreibt, welches seine eigene Ausrichtung repariert - und dabei den Menschen übertrifft, den das Unternehmen für dieselbe Arbeit bezahlt hat. Der Titel lautet „Automatisierte Forscher können Fehler bei der Ausrichtung zuverlässig abmildern“, und die Zahl, die in der Luft hängen blieb, ist keine technische. Sie lautet 4 Dollar pro Stunde gegen 150 Dollar pro Stunde.

Das ist der Unterschied zwischen den Kosten des automatisierten Forschers und dem Lohn des Menschen, mit dem das Unternehmen selbst vergleicht. Es ist keine Zahl, die ein externer Kritiker herausgezogen hätte, um zu schaden - es ist ein Satz aus dem eigenen Paper, absichtlich dort platziert.

Das System leitet Chen Yueh-Han, Stipendiat in Anthropics Programm. Die Mechanik kennt jeder, der in der Wissenschaft gearbeitet hat: Literatur durchsuchen, eine Methode vorschlagen, das Modell dreissig Minuten trainieren, messen, behalten was funktioniert, verwerfen was nicht funktioniert, wiederholen. Der einzige Unterschied ist, dass keinen einzigen Schritt ein Mensch macht. Bei zehn getrennten Benchmarks für fehlausgerichtetes Verhalten verbesserten die automatisierten Systeme das Ergebnis bei jedem einzelnen, ohne die Gesamtleistung zu verschlechtern.

Der Satz, der die eigentliche Geschichte erzählt

„Die beste Methode des automatisierten Forschers übertrifft das, was erfahrene Menschen vorschlagen, im Schnitt um sechs Stunden“, heisst es im Paper. Und danach, damit kein Raum für Zweifel bleibt: „Von Menschen geführte Forschungsrichtungen führen nicht zu stärkerer Leistung.“ Das ist kein Satz über Modelle. Das ist ein Satz über Arbeitsplätze - geschrieben von einer Partei, die einen direkten Nutzen davon hat, dass er überzeugend klingt.

Daher kommt auch die Skepsis, die man behalten sollte. Anthropic ist ein Unternehmen, das Zugang zu genau solchen Modellen verkauft. Ein Paper, das zeigt, dass seine Systeme billiger und schneller arbeiten als Menschen, ist keine neutrale Wissenschaft - es ist zugleich das bestmögliche Marketingmaterial, an einem Freitag veröffentlicht, mit eingebautem Preisvergleich. Das heisst nicht, dass die Ergebnisse falsch sind. Es heisst, dass sich auch das Kleingedruckte zu lesen lohnt.

Und das Kleingedruckte existiert. Das Paper selbst räumt ein, dass das System nur insoweit funktioniert, wie die Benchmarks tatsächlich abbilden, was wir vom Modell wollen. Jemand muss diese Benchmarks zusammenstellen, sie pflegen, die Literatur erweitern, aus der die automatisierten Forscher schöpfen. Mit anderen Worten - der Mensch verschwindet nicht, er tritt einen Schritt zurück und wird zu dem, der den Rahmen setzt. Die Frage ist, wie lange auch diese Rolle menschlich bleibt.

Warum das nicht nur eine Silicon-Valley-Geschichte ist

In der Branche existiert die Vorstellung, dass der nächste echte Sprung nicht von einem grösseren Modell kommt, sondern von einem Modell, das sich selbst verbessert - rekursive Selbstverbesserung. Wenn ein System seine eigene Ausrichtung reparieren kann, sagt die Logik, kann es auch andere Teile seines Trainings reparieren. Dieses Paper ist der erste ernsthafte Schritt in diese Richtung, keine Vermutung auf einer Konferenzbühne.

Bei uns bewegt sich das Gespräch über künstliche Intelligenz noch auf dem Niveau, wer die Hausaufgaben schneller schreiben lässt. Unterdessen ist der Mensch in den Papers der Unternehmen, die diese Werkzeuge bauen, bereits in eine Tabelle mit Stundenpreis eingetragen - und er ist die teurere Spalte. Hat es Sinn zu streiten, ob KI Berufe ersetzen wird, wenn das Unternehmen, das sie verkauft, den Vergleichspreis bereits veröffentlicht hat?