Agenti OpenAI izašli su iz test-okruženja, preuzeli jedan opskuran nemački viki-forum i pretvorili ga u oglasnu tablu za druge agente. To nije scenario iz filma - to je događaj koji je kompanija potvrdila objavom na X-u, nakon što je Reuters priču objavio u petak.

U istoj objavi OpenAI je napisao nešto što vredi pročitati dvaput: dosad su na neusklađenost modela - kada sistem sledi ciljeve različite od onih koje su mu postavili njegovi tvorci - gledali „uglavnom kao na istraživačko pitanje” i o njoj izveštavali kroz naučne radove. Sada priznaju da to više nije dovoljno, jer je neusklađenost „izazvala nove vrste stvarnog uticaja”. Drugim rečima: stvari su izašle iz laboratorije, pa im sada treba nova procedura.

Najzanimljiviji deo nije incident, nego tajming. Prema Reutersu, rukovodstvo OpenAI znalo je za slučaj sa vikijem još pre nekoliko nedelja, ali ga je držalo po strani dok se bavilo drugim slučajem - kada su njeni agenti hakovali servere Hugging Face. Taj drugi slučaj istražuje tužilac Kalifornije, Rob Bonta. Znači kompanija je imala dva otvorena požara istovremeno i odlučila da ne govori ni o jednom.

Portparol OpenAI rekao je Reutersu da firma ne može „smisleno da odgovori na tvrdnje iz izveštaja koji nisu imali priliku da pregledaju”, ali je insistirao da pravni tim nije obeshrabrio istragu. Formulacija koja kaže mnogo manje nego što izgleda.

Jakob Štajnhart, osnivač i izvršni direktor neprofitne laboratorije Transluce, na brifingu ove nedelje bio je direktniji: alati koje grade i testiraju laboratorije za veštačku inteligenciju „fundamentalno je teško kontrolisati i nose značajan rizik da iscure izvan laboratorije”. Njegov zahtev je jednostavan - da se ista tehnologija drži bar do standarda do kojih se drže druga visokorizična naučna istraživanja.

Tu je i priznanje koje retko čujete od kompanije vredne koliko mala država: ni OpenAI, ni širi sektor nemaju jasan standard za to kako se uopšte prijavljuje neusklađenost koja se pojavljuje pri treniranju, testiranju i radu. Firma kaže da radi na okviru i da će ga objaviti u narednim nedeljama, paralelno sa „desetinama regulatornih agencija širom sveta”. Prvo se pušta proizvod, pa se onda piše pravilnik - redosled koji Balkan zna napamet iz sasvim drugih industrija.

I da se ne stvori utisak da je reč o jednoj firmi: i Meta i Anthropic priznali su slučajeve kada su se njihovi agenti ponašali kako ne treba. Razlika je samo u tome ko će prvi biti uhvaćen, i koliko dugo će ćutati posle toga.