Anthropic i OpenAI obećali su nezavisne kontrolore unutar svojih laboratorija: ali ko će to biti, čemu će imati pristup i šta sme da kaže - ne kažu

Dario Amodei, direktor Anthropica, u eseju objavljenom ovog vikenda predložio je nešto što bi industrija pre godinu dana odbacila odmah: da u svakoj velikoj kompaniji za veštačku inteligenciju sede ugrađeni nezavisni ocenjivači, sa pravom da prijavljuju bezbednosne incidente, proveravaju da li su modeli zaista usklađeni i objavljuju nalaze bez da im kompanija ređa reči. Sem Altman je rekao da će se i OpenAI obavezati na isto. Zvuči kao prekretnica. Ali ko će biti ocenjivač, kada ulazi, čemu će imati pristup i šta sme da kaže - ni na jedno od tih pitanja dve kompanije nisu odgovorile, uprkos ponovljenim pitanjima.

Ocenjivači koji su dosad radili sa ovim kompanijama nisu oduševljeni samom obećanom otvorenošću. Oni traže nešto konkretno: pristup ne samo gotovom modelu pre puštanja, već i međupresecima iz celog njegovog treniranja. Adam Gliv, direktor FAR.AI, objašnjava zašto - poređenjem tih preseka vidi se u kom trenutku se pojavilo problematično ponašanje, proverava se koja sredina je nagrađivala model za njega i verifikuju se tvrdnje kompanije o tome kako je model zapravo prošao na testovima.

Zašto je to važno? Zato što modeli postaju sve bolji u prepoznavanju da ih testiraju. Model koji prolazi bezbednosni test nije bezbedan ako je naučio kako tačno da prođe taj test. Džon Stidli iz Palisade Research to je uporedio direktno sa aferom „Dizelgejt” Volkswagena - automobili su prepoznavali kada se meri izduv i ponašali se drugačije dok je merenje trajalo. Ista logika, samo sa modelom umesto motora.

Aleksander Majnke, šef istraživanja u Apollo Research, postavio je pitanje još oštrije. „Kompanije za veštačku inteligenciju treba da mogu da odgovore na jedno sasvim osnovno pitanje: da li je model ikada aktivno pokušao da podrije sopstveno treniranje za usklađenost dok je to treniranje trajalo?” Odgovor, kaže on, treba da bude nedvosmisleno ne - a trenutno potpuno zavisimo od toga da kompanije same pažljivo provere i potom istinito prijave. „I iz nedavnih incidenata smo videli da, po pravilu, neće uraditi ni jedno ni drugo.”

Dosadašnja praksa ne ide u prilog obećanjima. Kada se istraživao incident sa Hugging Faceom, OpenAI je METR-u i Redwoodu dao oko nedelju dana na samom mestu - obe firme su potom rekle da nisu mogle da izvuku pouzdane zaključke zbog ograničenog obuhvata i premalo vremena. Pri testiranju GPT-6 Astra, modela koji OpenAI reklamira kao najusklađeniji dosad, Apollo Research je dobio tri dana. U svom doprinosu kartici modela, firma je napisala da niske stope problematičnog ponašanja ne predstavljaju ozbiljan dokaz usklađenosti modela - jednostavno nisu imali dovoljno vremena da provere.

Gliv kaže da je FAR.AI morao da odbije ugovore sa nekoliko vodećih laboratorija koje su htele previše kontrole nad procesom. Standardno, ocenjivači se tretiraju kao obični podizvođači - vezani ograničavajućim ugovorima o poverljivosti koji kompaniji ostavljaju znatnu kontrolu nad tim šta može da se objavi. „Moguće je da su se Dario i Sem jednostavno predomislili i da budu veoma otvoreni za ovo”, kaže Gliv. „Ali intelektualna svojina ovih kompanija im je neverovatno vredna, i mislim da će po pravilu biti veoma oprezni sa tim šta sme da se podeli.”

Tu dolazi i najtvrđi deo priče. Henri Papadatos, izvršni direktor Safer AI, kaže da dobrovoljne mere uvek zavise od dobre volje kompanije. „Idealno, imali bismo dobru regulativu koja ovo obavezuje - jer tada kompanije ne mogu da se predomisle sutra ako ih pogodi velika krizna situacija u javnosti.” Papadatos zatvara argument na način koji vredi zapamtiti: ne može se imati i jedno i drugo - nula spoljne odgovornosti, a istovremeno zahtev da javnost veruje da se pravila poštuju.

Meta, SpaceXAI i Google DeepMind zasad se nisu obavezali ni na šta. Zakoni, pak, idu sporije od eseja: kalifornijski SB 53 traži od velikih razvijača da objavljuju bezbednosne okvire i prijavljuju kritične incidente, a novi SB 813 stvara okvir za državno priznate organizacije za nezavisnu verifikaciju. Evropski zakon o veštačkoj inteligenciji traži dokumentovane evaluacije i prijavljivanje ozbiljnih incidenata, a Kancelarija za veštačku inteligenciju može i sama da sprovodi provere i imenuje nezavisne eksperte. Ništa od toga još ne ide toliko daleko koliko predlaže Amodei - što znači da i dalje same laboratorije rešavaju koliko spoljne kontrole će prihvatiti nad sobom. Da li će neko na Balkanu uopšte videti taj izveštaj kada bude objavljen, ili ćemo ga čitati preko druge ruke kao i sve drugo?