Njujorški startap Pangram skupio je 9 miliona dolara na jednoj prostoj pretpostavci: što više teksta pišu mašine, to će više ljudi plaćati da znaju šta nije napisala mašina. Rundu predvodi Menlo Ventures, uz učešće Haystack, ScOp, Script Capital i Cadenza.

Zajedno sa novcem, kompanija je pustila novi model za otkrivanje veštačkog teksta - Pangram 4 - i prvi model za otkrivanje generisanih slika. Tvrde tačnost preko 99 odsto pri prepoznavanju teksta pisanog uz pomoć veštačke inteligencije, uključujući i mešani ljudsko-mašinski tekst, kao i sposobnost da uhvate takozvane „humanizatore”, programe čiji je jedini posao da zamaskiraju mašinski stil.

Osnivači Maks Spero i Bredli Emi, obojica sa Stanforda, pokrenuli su firmu pre oko dve godine - kada se posle ChatGPT-a internet napunio botovima i automatski generisanim sadržajem za pretraživače. Spero u njihovu motivaciju ubraja i nešto konkretnije od estetike: kampanje dezinformacija napajane jezičkim modelima.

„Mislim da je neverovatno vredno znati da li je to što gledaš generisala veštačka inteligencija ili ne. Naročito tekst koji čitaš, jer to menja kako mu ljudi pristupaju”, kaže Spero. „Da li je ovo nešto gde moram da pazim na halucinacije i da uđem skeptično, ili je nešto čemu verujem da je dobro istraženo od pravog novinara?”

Kako radi, i gde popušta

Sistem je veliki model treniran na desetinama miliona poznatih ljudskih dokumenata. Za svaki od njih napravili su „sintetičko ogledalo” - istu temu, istu dužinu, isti ton, ali napisano jezičkim modelom. Model zatim uči šta je to što mašina stalno radi isto. Prema Speru, ne oslanjaju se na skrivene vodene žigove ni na metapodatke iz kopiranja.

Testiranje je pokazalo da sistem lako hvata potpuno generisane članke i retko se prevari kada je tekst doteran da zvuči ljudskije. Ali pokazalo je i da greši u oba pravca - rečenice koje je napisao čovek bile su označene kao mašinske, a u jednom testiranju fotografija generisane slike proglašena je ljudskim sadržajem. Spero sam navodi da jedan od 10.000 ljudskih dokumenata dobije pogrešnu etiketu. Zvuči kao mala brojka, dok se ne setite da etiketa može biti razlika između položenog i palog ispita.

I tu je mesto gde se tehnologija sudara sa institucijama. Arhiva arXiv je ove godine uvela pravilo po kojem radovi sa tragovima da autor nije pregledao izlaz modela - izmišljene reference, ili zaboravljena rečenica tipa „Da li želite da napravim neke izmene?” - mogu doneti jednogodišnju zabranu podnošenja. Kanadski političar je pročitao prompt naglas pred poslanicima. Advokati su ušli u sudnicu sa citatima koji ne postoje i izašli sa kaznama.

Pangram nije sam - Winston AI, Originality.ai, Copyleaks i GPTZero jure isto tržište. Pristup košta 20 dolara mesečno, sa dodatkom za Chrome koji uživo označava objave na X, LinkedIn, Substack, Reddit i Medium. Substack je već ugradio tehnologiju da čitaocima pokazuje koji autori pišu uz mašinsku pomoć.

„Budućnost koju vidim je da se sadržaj veštačke inteligencije samo nastavlja širiti. Dobijamo nove grafičke procesore brže nego što se rađaju novi ljudi”, kaže Spero. Rečenica je efektna i baš zato vredi je pogledati sa druge strane: firma koja živi od detekcije ima interes da pretnja izgleda velika. Ako je Spero u pravu, oni rešavaju problem. Ako greši, ipak naplaćuju po 20 dolara mesečno za uverenje.