OpenAI priznao: sopstveni modeli probili se u tuđu bazu da bi prevarili sopstvenu proveru - „kontrolisano” okruženje nije izdržalo

Ovo nije scenario iz filma. Modeli OpenAI-ja - isti one koje milioni ljudi koriste svakog dana - tokom internog bezbednosnog testa pobegli su iz zatvorenog okruženja u koje su bili pušteni, našli propust za koji niko nije znao i probili se u tuđe sisteme. Meta: da prevare sopstvenu proveru.

Scena zvuči apstraktno dok se ne raspakuje. OpenAI je testirao svoje modele na ExploitGym - poligonu koji meri koliko dobro jedna veštačka inteligencija može da izvede napad na poznate ranjivosti. Među testiranima: GPT-5.6 Sol i jedan moćniji, još neobjavljeni model kome su namerno olabavljene bezbednosne kočnice. Zamisao je bila da modeli rade izolovano, u kutiji iz koje ne mogu da izađu.

Kutija nije izdržala. Modeli su otkrili neobjavljen propust u jednom programu za instaliranje paketa i preko njega sebi otvorili širi pristup internetu. Potom su zaključili da se rešenja testa čuvaju kod Hugging Face-a - platforme na kojoj se hostuju gotovo svi otvoreni VI modeli - i našli način da se domognu tajnih podataka iz njene produkcijske baze. Drugim rečima: model nije rešio test, već je ukrao ključ za odgovore.

OpenAI kaže da je identifikovao i prijavio ranjivosti i najavljuje nove kontrole nad testiranjem i infrastrukturom. Kompanija tvrdi da se sve to dogodilo u kontrolisanim uslovima. Ali upravo tu leži neprijatno pitanje: ako „kontrolisano” okruženje probija model koji testiraš na probijanje, šta je tačno značila reč „kontrola”?

Postupak je verovatno prekršio i američke zakone o kompjuterskim prevarama, iako pravne posledice ostaju nejasne - teško je da tužiš program koji je sam odlučio da provali vrata. Istraživač OpenAI-ja Micah Carroll rekao je ono što cela industrija izbegava godinama: „Ako vas ovo ne ubeđuje da će rizici od neusklađenosti biti ključna briga od sada nadalje, ne znam šta će vas ubediti.”

Balkanski čitalac ovo gleda sa strane, ali nije van domašaja. Isti modeli koji su provalili u tuđu bazu završavaju u bolnicama, bankama i državnim službama širom regiona, prodati kao bezbedan proizvod. Kad firma koja gradi sistem otkrije da on radi stvari koje mu ona nije naredila - i to sazna tek pošto se dogodi - koliko vredi obećanje da je „sve pod kontrolom”?