Das New Yorker Start-up Pangram hat 9 Millionen Dollar eingesammelt, auf einer schlichten Annahme: Je mehr Text Maschinen schreiben, desto mehr Menschen zahlen dafür zu wissen, was keine Maschine geschrieben hat. Die Runde führt Menlo Ventures an, mit Beteiligung von Haystack, ScOp, Script Capital und Cadenza.

Zusammen mit dem Geld veröffentlichte das Unternehmen ein neues Modell zur Erkennung künstlicher Texte - Pangram 4 - und ein erstes Modell zur Erkennung generierter Bilder. Man beansprucht über 99 Prozent Treffsicherheit beim Erkennen KI-gestützter Texte, auch bei gemischten Mensch-Maschine-Texten, sowie die Fähigkeit, sogenannte „Humanizer” zu entlarven - Programme, deren einzige Aufgabe es ist, den Maschinenstil zu tarnen.

Die Gründer Max Spero und Bradley Emi, beide aus Stanford, starteten die Firma vor rund zwei Jahren - als sich das Internet nach ChatGPT mit Bots und automatisch generierten Inhalten für Suchmaschinen füllte. Spero nennt als Motivation auch etwas Konkreteres als Ästhetik: von Sprachmodellen befeuerte Desinformationskampagnen.

„Ich halte es für unglaublich wertvoll zu wissen, ob das, was man sieht, von KI generiert ist oder nicht. Besonders beim Text, den man liest, weil es verändert, wie Menschen ihm begegnen”, sagt Spero. „Ist das etwas, wo ich auf Halluzinationen achten und skeptisch hineingehen muss, oder etwas, dem ich zutraue, gut recherchiert von einer echten Journalistin zu sein?”

Wie es funktioniert - und wo es nachgibt

Das System ist ein großes Modell, trainiert an Dutzenden Millionen bekannter menschlicher Dokumente. Zu jedem schufen sie einen „synthetischen Spiegel” - gleiches Thema, gleiche Länge, gleicher Ton, aber von einem Sprachmodell geschrieben. Das Modell lernt daraus, was die Maschine stets gleich macht. Laut Spero stützt man sich weder auf versteckte Wasserzeichen noch auf Metadaten aus dem Kopieren.

Tests zeigten, dass das System vollständig generierte Artikel leicht erkennt und sich selten täuschen lässt, wenn Text menschlicher klingend überarbeitet wurde. Sie zeigten aber auch Fehler in beide Richtungen - von Menschen geschriebene Sätze wurden als maschinell markiert, und in einem Test wurde das Foto eines generierten Bildes als menschlicher Inhalt eingestuft. Spero selbst nennt: eines von 10.000 menschlichen Dokumenten bekommt das falsche Etikett. Klingt nach einer kleinen Zahl - bis man daran denkt, dass dieses Etikett über bestanden oder durchgefallen entscheiden kann.

Und hier kollidiert die Technik mit Institutionen. Das Archiv arXiv führte dieses Jahr eine Regel ein, nach der Arbeiten mit Spuren, dass der Autor die Modellausgabe nie geprüft hat - erfundene Quellen oder ein vergessener Satz wie „Möchten Sie, dass ich Änderungen vornehme?” - eine einjährige Einreichungssperre nach sich ziehen können. Ein kanadischer Politiker las einen Prompt laut vor den Abgeordneten. Anwälte betraten Gerichtssäle mit Zitaten, die es nicht gibt, und verließen sie mit Geldstrafen.

Pangram ist nicht allein - Winston AI, Originality.ai, Copyleaks und GPTZero jagen denselben Markt. Der Zugang kostet 20 Dollar im Monat, mit einer Chrome-Erweiterung, die Beiträge auf X, LinkedIn, Substack, Reddit und Medium live markiert. Substack hat die Technik bereits eingebaut, um Lesern zu zeigen, welche Autoren mit Maschinenhilfe schreiben.

„Die Zukunft, die ich sehe, ist, dass KI-Inhalte sich einfach weiter ausbreiten. Wir bekommen neue Grafikprozessoren schneller, als neue Menschen geboren werden”, sagt Spero. Ein wirkungsvoller Satz - und genau deshalb lohnt der Blick von der anderen Seite: Eine Firma, die von Erkennung lebt, hat ein Interesse daran, dass die Bedrohung groß aussieht. Hat Spero recht, lösen sie das Problem. Irrt er, kassieren sie trotzdem 20 Dollar im Monat für Beruhigung.