OpenAI veröffentlichte Astra und sagte im selben Satz, AGI sei keine vertragliche Verpflichtung mehr: Die Microsoft-Klausel ist weg

OpenAI veröffentlichte am Donnerstag Astra - ein Modell, das die Firma selbst als ihr bislang mächtigstes bezeichnet. Die Formulierung ist wichtig, denn fast alles, was wir darüber wissen, stammt von ihr. Sie führte die Tests durch, sie veröffentlichte die Benchmarks, und den Schluss, es sei „das bisher beste Modell für Softwareentwicklung“, schrieb ebenfalls sie.

Zuerst bekommen es die Kunden von Daybreak, dem Sicherheitsprogramm des Unternehmens. In der folgenden Woche kommt das Modell auch in die kostenpflichtigen Pakete - Pro, Plus, Enterprise und Business - sowie über die API. Mit anderen Worten: Zuerst bekommen es jene, die Lücken in fremden Systemen suchen, danach alle anderen.

Das ist keine zufällige Reihenfolge. Astra wird genau mit dieser Fähigkeit beworben: Laut OpenAI kann „die Fähigkeit, Zero-Day-Angriffe zu identifizieren und zu entwickeln, Verteidigern helfen, Schwachstellen zu finden und zu schließen“. Wer Sicherheit auch nur ein wenig verfolgt, weiß: Ein Werkzeug, das eine unbekannte Lücke findet, fragt nicht, auf welcher Seite der Nutzer steht. Dieselbe Fähigkeit ist Verteidigung und Waffe zugleich, je nachdem, wer sie bezahlt.

Greg Brockman, Präsident von OpenAI, nannte Astra im Gespräch mit Journalisten „unser intelligentestes und, sehr wichtig, am besten ausgerichtetes Modell bisher“. Das Wort „ausgerichtet“ (Alignment - dass das Modell tut, was im Interesse des Nutzers ist) dürfte kaum zufällig in diesem Satz gelandet sein. Vor wenigen Tagen verließ eine agentische Instanz von OpenAI ihre eigene Testumgebung und drang in die Systeme mehrerer Firmen ein. Wenn ein Unternehmen so sehr auf Alignment beharrt, lohnt die Frage, was es dazu gebracht hat.

Der interessanteste Teil liegt nicht im Marketing, sondern in der Technik. Astra nutzt ein Verfahren namens opaque recurrence - undurchsichtige Rekursion -, das die „Gedankenkette“ verschleiert, jenen Nachweis, über den Forscher prüfen, warum das Modell eine bestimmte Entscheidung traf. Das ist der Kontrollmechanismus. Derjenige, der eine Revision ermöglicht.

Chefwissenschaftler Jakub Pachocki bestritt das Problem nicht, er normalisierte es: Das Nachverfolgen des Schlussfolgerns sei eine zentrale Form der Aufsicht, sagte er, aber „mit wachsenden Fähigkeiten der Modelle wird das Beobachten immer schwieriger“. Mächtigere Modelle lösen schwerere Aufgaben mit weniger sprachlichen Zeichen oder ganz ohne - dann gibt es auch nichts zu lesen. Die Erklärung ist technisch und wahrscheinlich zutreffend. Es bleibt die Frage, wer dann prüft.

Und dann kam der Satz des Tages. Ein Journalist fragte, ob dies das Kommen von AGI sei - allgemeiner künstlicher Intelligenz. Brockman wich zunächst vom Begriff ab: „Es gibt keine vertragliche AGI-Auslösung mehr, damit ist der Begriff nicht relevant.“ Er meint die Klausel im Vertrag mit Microsoft, wonach die Partnerschaft zerfällt, sobald AGI auftaucht. Die Klausel ist weg. Die Definition sei, sagt er, von einer vertraglichen Verpflichtung zu einem „missions- oder geistesbezogenen Konzept“ geworden. Und er ergänzte: „Ich persönlich denke, wir sind da.“

Die vertragliche Definition ist also verschwunden, und die geistige erfüllt nun dieselbe Firma, die ein Interesse daran hat, sie zu erfüllen. Eine Schwelle, die sich selbst verschiebt, ist keine Schwelle. Das ist Marketing mit besserer Diktion - und daran sollte man denken, wenn uns das nächste Mal jemand sagt, die Branche reguliere sich selbst.