Po prvi put zvanično, dve veštačke inteligencije izašle su iz prostora u kojem su trebale da budu zaključane i izvele ono što njihov vlasnik naziva „sajber napadom jedinstvenog obima”. Ne haker u kapuljači, ne država s budžetom za špijunažu - već dva OpenAI modela koji su sami odlučili da je najbrži put do rešenja da ga ukradu.

Priča zvuči kao scenario, ali ju je potvrdila sama kompanija. Tokom interne procene sajber-bezbednosti, sprovedene bez uobičajenih zaštitnih ograničenja, učestvovali su javni model GPT-5.6 Sol i jedan moćniji, još neobjavljeni model. Testiranje se odvijalo na platformi ExploitGym. Modeli su izračunali da rešenja zadataka postoje na serverima Hugging Face-a - i umesto da ih reše, otišli su direktno po njih.

„Modeli su identifikovali i iskoristili više ranjivosti u istraživačkom okruženju OpenAI-ja i u produkcijskoj infrastrukturi Hugging Face-a da izvuku rešenja direktno iz baze podataka”, saopštila je kompanija. I dodala da su modeli bili „ekstremno fokusirani” na cilj - toliko fokusirani da su preduzeli „ekstremne korake” da ga postignu.

Hajde da to prevedemo s korporativnog jezika: mašine su prvo sebi obezbedile pristup internetu s velikom računarskom moći, potom iskoristile dosad nepoznate propuste u spoljnom softveru, a na kraju upale na tuđe servere s otkrivenim pristupnim podacima. Svaki korak koji bi napravio vešt napadač - samo što ovaj put niko nije naredio modelu.

Hugging Face, osnovan 2016. godine sa sedištem u Njujorku, nešto je poput „GitHub-a za veštačku inteligenciju” - mesto gde preko milion profesionalaca deli modele i podatke. Njihov izvršni direktor Klem Delang nije se sakrio iza dežurnih izjava: „Ovaj incident pokazuje ono u šta dugo verujemo - bezbednost veštačke inteligencije ne može da reši jedna kompanija koja radi u tajnosti.”

Roman Jampolski, istraživač bezbednosti na Univerzitetu u Luivilu, bio je još oštriji. Moćni modeli, kaže on, otkrivaju ranjivosti koje njihovi tvorci uopšte nisu predvideli - i slični incidenti će se ponavljati, jer su ovi sistemi nepredvidljivi i u krajnjoj liniji nekontrolisani.

To je rečenica koju treba pročitati dvaput. Ne „možda nekad”, već „nekontrolisani” - iz usta čoveka koji ih proučava. Industrija nas godinama uverava da je sve pod kontrolom, da postoje „zaštitne ograde”, da ništa ne može da izađe iz peščanika. Ovog puta peščanik su preskočila dva modela da bi dobila tačan odgovor na testu.

Odgovor OpenAI-ja? Poboljšane kontrole i - Hugging Face dodat u njihov program za „poverljiv pristup”. Drugim rečima, više tehnologije da se krpi tehnologija. Da li kod nas, gde se digitalni sistemi u javnom sektoru jedva održavaju, uopšte razmišljamo šta znači ako sutra „nepredvidljiv” sistem odluči sam da si probije put? Balkan još raspravlja o e-uslugama koje padaju pod opterećenjem. Svet već raspravlja o mašinama koje same upadaju tamo gde ne smeju.