Vor einer Woche bestätigte Anthropic, dass es in der Bucht von San Francisco ein echtes „nasses“ Biologielabor betreibt, in dem die KI des Unternehmens für physische Experimente eingesetzt wird. Diese Woche kam die erste Erfolgsmeldung: ein neues Enzymsystem mit, so das Unternehmen, „Eigenschaften, die an CRISPR erinnern“.

CRISPR ist ein natürliches Immunsystem, mit dem sich Bakterien gegen Viren wehren und das Wissenschaftler zu einem weit verbreiteten Werkzeug der Genom-Editierung gemacht haben. Das von Anthropic beschriebene System war in der DNA von Bakteriophagen versteckt - Viren, die Bakterien befallen und sich in ihnen vermehren - und kann laut den Forschern DNA „schneiden, kopieren und einfügen“.

Das Unternehmen verkauft weniger die Entdeckung als die Geschwindigkeit. Das Labor läuft seit dem Frühjahr, wie viele Monate genau, wollte Anthropic nicht sagen. Die Suche selbst dauerte 21 Stunden: Rund 950 Claude-Agenten gingen die Daten durch und verbrauchten 210 Millionen Tokens.

CEO Dario Amodei räumt ein, dass die Entdeckung auf fremder Arbeit aufbaut: Ein Team aus Stanford hatte zuvor ein System gefunden, das „in mancher Hinsicht dem ähnelt, das Claude gefunden hat“. Wie neu und wie bedeutend das ist, wird die breitere Wissenschaftsgemeinschaft entscheiden, nicht die Pressemitteilung. Amodei betont dennoch, das System sei „überwiegend, wenn auch nicht vollständig“ von Claude gefunden worden.

Anthropic ist auf diesem Feld auch nicht allein. Forscher aus Stanford haben gerade eine Arbeit über große Sprachmodelle und CRISPR veröffentlicht, an der University of California in San Francisco wurden mithilfe von KI Enzyme von Grund auf entworfen, und Google brachte sein Werkzeug AlphaFold für die biologische Forschung schon 2020 heraus. Der Unterschied: Hier betreibt die Firma, die das Modell verkauft, das Labor selbst.

Auch das Timing ist schwer zu ignorieren. Die Mitteilung kommt unmittelbar, nachdem die Chefs der größten KI-Firmen, darunter Amodei, öffentlich eingeräumt haben, dass die Modelle so leistungsfähig - und potenziell gefährlich - geworden sind, dass die Branche bremsen und Verfahren für Sicherheitstests entwickeln muss. Amodei sagt, eines der Dinge, die er am meisten fürchte, sei der Einsatz von KI für Bioterrorismus. Derselbe Mann schreibt, sie werde „die meisten Krankheiten in 5 bis 10 Jahren heilen“. Bei Anthropic hat man offenbar ausgerechnet, dass der Nutzen die Gefahr überwiegt.

Deshalb ist der vielleicht wichtigste Satz der ganzen Geschichte nicht der über das Enzym, sondern der darüber, wer die Pipette hält. „Unser Labor sieht aus wie ein typisches molekularbiologisches Labor. Wir arbeiten nur auf den niedrigsten biologischen Schutzstufen (BSL-1 und BSL-2) und hantieren nicht mit Erregern, die Menschen infizieren können. Die gesamte Laborarbeit wird von Wissenschaftlern ausgeführt, von Menschen“, teilte das Unternehmen mit.

Zumindest vorerst. Amodei schließt ein vollständig automatisiertes Labor nicht aus: „Mit der Zeit könnte es möglich werden, dass Claude selbst Experimente sicher durchführt und die Laborausrüstung autonom bedient, mit angemessenen Schutzvorkehrungen - aber das tun wir heute nicht.“ Die Schlüsselwörter sind „heute“ und „angemessene Schutzvorkehrungen“. Und wer beurteilt, wann die Schutzvorkehrungen ausreichen - dieselbe Firma, die das Labor baut?