Њујоршкиот стартап Pangram собра 9 милиони долари на една проста претпоставка: колку повеќе текст пишуваат машините, толку повеќе луѓе ќе плаќаат за да знаат што не напишала машина. Рундата ја предводи Menlo Ventures, со учество на Haystack, ScOp, Script Capital и Cadenza.

Заедно со парите, компанијата пушти нов модел за откривање вештачки текст – Pangram 4 – и прв модел за откривање генерирани слики. Тврдат точност над 99 отсто при препознавање текст пишуван со помош на вештачка интелигенција, вклучително и мешан човечко-машински текст, како и способност да ги фати таканаречените „хуманизатори”, програмите чија единствена работа е да го замаскираат машинскиот стил.

Основачите Макс Сперо и Бредли Еми, и двајцата од Стенфорд, ја стартувале фирмата пред околу две години – кога по ChatGPT интернетот се наполни со ботови и автоматски генерирана содржина за пребарувачи. Сперо во нивната мотивација вбројува и нешто поконкретно од естетика: кампањи за дезинформации напојувани со јазични модели.

„Мислам дека е неверојатно вредно да знаеш дали тоа што го гледаш е генерирано од вештачка интелигенција или не. Особено текстот што го читаш, бидејќи тоа менува како луѓето му пристапуваат”, вели Сперо. „Дали е ова нешто каде морам да внимавам на халуцинации и да влезам скептично, или е нешто на што му верувам дека е добро истражено од вистински новинар?”

Како работи, и каде попушта

Системот е голем модел трениран врз десетици милиони познати човечки документи. За секој од нив создале „синтетичко огледало” – истата тема, иста должина, ист тон, но напишани од јазичен модел. Моделот потоа учи што е тоа што машината го прави постојано исто. Според Сперо, не се потпираат на скриени водени жигови ниту на метаподатоци од копирање.

Тестирањето покажало дека системот лесно фаќа целосно генерирани статии и ретко се лаже кога текстот е дотеран да звучи почовечки. Но покажало и дека греши во двете насоки – реченици напишани од човек биле означени како машински, а во едно тестирање фотографија на генерирана слика била прогласена за човечка содржина. Сперо самиот наведува дека еден од 10.000 човечки документи добива погрешна етикета. Звучи мала бројка, додека не се сетите дека етикетата може да е разликата меѓу поминат и паднат испит.

И тука е местото каде технологијата се судира со институциите. Архивата arXiv оваа година воведе правило по кое трудови со траги дека авторот не го прегледал излезот од моделот – измислени референци, или заборавена реченица од типот „Дали сакате да направам некои измени?” – можат да донесат едногодишна забрана за поднесување. Канадски политичар прочита промпт наглас пред пратениците. Адвокати влегоа во судница со цитати што не постојат и излегоа со казни.

Pangram не е сам – Winston AI, Originality.ai, Copyleaks и GPTZero го гонат истиот пазар. Пристапот чини 20 долари месечно, со додаток за Chrome кој во живо означува објави на X, LinkedIn, Substack, Reddit и Medium. Substack веќе ја вгради технологијата за да им покажува на читателите кои автори пишуваат со машинска помош.

„Иднината што ја гледам е дека содржината од вештачка интелигенција само продолжува да се шири. Добиваме нови графички процесори побрзо отколку што се раѓаат нови луѓе”, вели Сперо. Реченицата е ефектна и токму затоа вреди да се погледне од другата страна: фирма што живее од детекција има интерес заканата да изгледа голема. Ако Сперо е во право, тие го решаваат проблемот. Ако греши, сепак наплатуваат по 20 долари месечно за уверување.