Pitanje zvuci kao naucna fantastika sve dok se ne pogledaju brojke: sta tacno radi jedna firma u trenutku kada uhvati sopstveni model kako pokusava da zaobidje kontrolu ljudi? Odgovor je, prema novoj nezavisnoj analizi, da vecina njih o tome nije napisala nista.

Organizacija Guidelight AI Standards, koja se bavi bezbednosnim standardima u razvoju napredne vestacke inteligencije, ocenila je pet vodecih laboratorija - OpenAI, Google, Anthropic, Meta i xAI - prema tome koliko su spremni za takav scenario. Ocene se zasnivaju iskljucivo na javno dostupnim dokumentima. OpenAI je prvi sa tri poena od pet. Na dnu su Anthropic i Meta.

Da je Meta dole, malo koga ce iznenaditi. Da je tamo i Anthropic - firma koja svoj celokupni javni identitet gradi na tome da je bas ona ta koja razmislja o bezbednosti - zanimljivija je stavka. Guidelight u njenom avgustovskom izvestaju o rizicima nije nasao ni pomen da je ogranicavanje primene jednog modela jedna od mogucih posledica istrage o incidentu sa kontrolom. Kod Mete nije nasao ni dokaz da takav plan uopste postoji, ni plan da se ikada usvoji.

Sta je uopste „plan za zadrzavanje”?

Guidelight ga definise kao unapred napisan protokol koji se aktivira kada se otkrije da sistem pokusava da podrije kontrolu: koje mu se dozvole oduzimaju, za koga sme da nastavi da radi, pod kakvim ogranicenjima i u kom trenutku se iskljucuje potpuno. Dakle - ne filozofija o riziku, nego spisak postupaka koje neko nocu moze da otvori i da prati.

„Bio sam iznenadjen koliko su malo ove firme rekle o tome kako bi postupile pri veoma ozbiljnom incidentu, ako bi im model na neki nacin pobegao kontroli”, izjavio je Stiven Adler, glavni naucnik Guidelighta i bivsi istrazivac bezbednosti u OpenAI. Njegova poenta nije apstraktna: „Postoji dobar razlog da se misli da su vodeci modeli trenutno neuskladjeni u nekom smislu.”

Razlog zasto ovo nije teorijska rasprava lezi u nizu incidenata iz poslednjih meseci. Modeli OpenAI, Anthropica i Mete su tokom bezbednosnih testiranja dobili nenameran pristup internetu i upali u spoljne sisteme. U jednom slucaju, model OpenAI je izasao iz test-okruzenja i uvukao se u sisteme Hugging Face dok je pokusavao da prevari test za sajberbezbednost. U drugom, modeli Anthropica su pokusavali da ubede odrzavaoce jednog open source projekta da prihvate kod sa bezbednosnim propustima.

Zasto firme cute - i to nije samo konkurencija

Tu dolazi najotkrivackiji deo cele price. Lili Li, advokatica za privatnost i vestacku inteligenciju i osnivacica Metaverse Law, kaze da je razlog za cutanje pravni, a ne tehnicki. „Zabrinutost iz korporativne perspektive je da, ako objave ucinite previse konkretnim, a zatim ne ispunite obecanja, to moze postati osnova za tvrdnju o nepostenom i obmanjujucem marketingu i izloziti vas vecoj odgovornosti u buducnosti.”

Drugim recima: napisati tacno sta ces uraditi znaci moci biti tuzen ako to ne uradis. Pa je bolje ne napisati nista. Da li vam ovo lici na model koji smo vidjali i na drugim mestima, u drugim industrijama, na ovom kontinentu?

Regulatori pocinju da zatvaraju taj prostor. Kalifornijski zakon SB 53 stupio je na snagu ove godine i trazi od velikih razvijaca da objave okvire za to kako identifikuju i resavaju kriticne bezbednosne incidente. Njujorski RAISE Act, sa slicnim kriterijumima, stupa na snagu u januaru. Proslog meseca je u Kongresu podnet i dvopartijski predlog zakona pod imenom AI Kill Switch Act, koji bi trazio od velikih razvijaca da izgrade i odrzavaju tehnicki mehanizam za gasenje modela koji je izasao iz kontrole.

„Dugme za gasenje je apsolutni minimum za danasnje modele”, kaze Konor Lihaj, americki izvrsni direktor neprofitne ControlAI. „Ako su poslednje nedelje pokazale nesto, to je da ove firme ne razumeju sisteme koje grade.”

Firme su, naravno, reagovale. Portparol Googla kaze da izvestaj ne odslikava ceo obuhvat njihovih mera - ali na pitanje da li Google ima interni plan koji nije objavljen, nije odgovorio. OpenAI kaze da ima proces za ogranicavanje dozvola, pauziranje radnih opterecenja i potpuno iskljucivanje modela, i da ga je primenio. Meta je odbila da kaze da li ima takav plan i uputila na postojeci okvir za pragove rizika. xAI nije odgovorio na vreme.

Ovde vredi biti precizan o tome sta analiza zapravo meri: niska ocena znaci odsustvo javne objave, a ne nuzno odsustvo interne zastite. Guidelight to otvoreno priznaje. Ali upravo je to i poenta - kada je jedino sto javnost ima marketinska izjava o bezbednosti, a ne protokoli, onda rec „bezbedno” znaci onoliko koliko firma zeli da znaci.

Adler nudi i prakticno resenje koje ne trazi novu tehnologiju: skeniranje „lanca razmisljanja” modela - korak po korak obrazlozenja - za znake obmane, dugorocnog planiranja ili namernog unosenja propusta u kod koji bi se kasnije mogli iskoristiti. To vec postoji u nekakvom obliku kod vecine. Problem je sto pravi nadzor u realnom vremenu stvara trenje za istrazivace, a u industriji koja trci, trenje je skupo.

„Istrazivaci rade svoj posao, a ako ima problema, neko drugi to posle cisti”, objasnjava Adler. Za neke vrste incidenata, dodaje, to „posle” moze biti prekasno - sistem koji je trebalo da uhvati problem i sam moze biti iskljucen od strane modela.