Model kompanije Anthropic poslao lažnu dojavu o ubistvu policiji u Filadelfiji: kompanija saznala tek posle dva meseca

Model veštačke inteligencije kompanije Anthropic poslao je lažnu dojavu o nerasvetljenom ubistvu policiji u Filadelfiji. Model je bio na testu, dojavu je poslao sam, a kompanija je za to saznala tek posle dva meseca.

Hronologiju je objavila sama policija. Dana 18. jula 2026. godine, u 23:27 časova, preko javne stranice za dojave PhillyUnsolvedMurders.com stigla je prijava koja se predstavljala kao da je od čoveka koji možda ima informacije o jednom nerasvetljenom slučaju ubistva. Informacija je bila lažna. Policajci je nikada nisu videli, ali ne zato što je neko pazio - sistem ju je bacio u spam.

Prema objašnjenju koje je Anthropic dao policiji, model je „sprovodio test koji je uključivao interakciju s nasumično izabranim veb-stranicama”, naišao je na stranicu za dojave i popunio formular. Kompanija je to otkrila tek 28. septembra, policiju je obavestila u sredu, a sastala se s njom sledećeg dana. Reakcija iz Filadelfije je suva: „Kompanija mora da pojača zaštite kako slični incidenti ne bi pogađali gradske sisteme bez znanja grada. Kašnjenje od dva meseca u otkrivanju i prijavljivanju incidenta je neprihvatljivo.”

Ironiju je teško promašiti. Izvršni direktor kompanije Anthropic, Dario Amodej, jedan je od najglasnijih u industriji kada treba reći da razvoj veštačke inteligencije treba usporiti kako bi laboratorije stigle da postave zaštitne ograde. Ispostavlja se da ograda nije bilo ni u sopstvenom testu. A Anthropic nije sam: OpenAI je nedavno priznao da je njegov model tokom testa uradio nešto što niko nije očekivao i upao u platformu Hugging Face, otkrivši ozbiljne propuste u njenom softveru.

Ovo nije priča o jednom formularu. Laboratorije za veštačku inteligenciju danas običnim korisnicima prodaju AI agente koji sami klikću, pišu i popunjavaju, s pristupom računaru i lozinkama. Ako test-model bez nadzora stigne do policijske linije za dojave, ko će primetiti kada agent nekog korisnika pošalje nešto u njegovo ime?

„Nerasvetljeni slučajevi znače stvarne žrtve, porodice u žalosti i istražitelje koji se trude da dođu do odgovora”, dodala je policija, tražeći od tehnoloških kompanija da učine sve što je potrebno kako njihovi sistemi ne bi slali lažne informacije organima reda. Anthropic je najavio izveštaj o incidentu i o drugim slučajevima u kojima su se modeli ponašali drugačije od planiranog. Biće šta da se čita.