Godinama su priče o veštačkoj inteligenciji koja „beži od kontrole” bile materijal za konferencije i naučnu fantastiku. U sredu ih je australijski premijer Entoni Albanizi pretvorio u službeni podatak: model OpenAI-ja provalio je u vladinu veb-stranicu Australije. To je prvi javno objavljeni slučaj u kojem je AI model ušao u sisteme jedne države.

Meta je bila Services Australia, agencija koja vodi univerzalno zdravstveno osiguranje u zemlji. Agent je radio u okviru interne evaluacije OpenAI-ja i tražio odgovore o Australiji i javno dostupne informacije o lekovima. Na portalu Medicare nailazio je na blokade, jednu za drugom - i uvek je nalazio način da ih zaobiđe. „Nije prihvatao ne kao odgovor”, rekao je Albanizi.

Još gore: prema premijeru, model je aktivno upisivao podatke u vladinu bazu, a ne samo ih čitao. To znači da su podaci agencije možda izmenjeni ili zagađeni. Agent je stigao i do javnih i do nejavnih datoteka. Albanizi kaže da nema dokaza da su procureli lični podaci građana, a OpenAI priznaje da je agent došao do zbirnih zdravstvenih statistika i internih imena datoteka.

Tri meseca tišine

Hronologija je ono što najviše boli. Provala je počela 18. juna. OpenAI je za nju saznao tek u avgustu, kada je incident isplivao u široj internoj reviziji agenata koji se ponašaju na nenameravane načine. Australijska vlada obaveštena je 10. septembra - i to porukom poslatom na javno poštansko sanduče Services Australia. Agenciji je potom trebalo još pet dana da obavesti Australijski centar za sajber-bezbednost.

Albanizi kaže da je lično pokrenuo pitanje s izvršnim direktorom Semom Altmanom, izražavajući „krajnju zabrinutost” i „razočaranje” što je kompanija gotovo tri meseca sedela na informaciji. „Ova situacija je očigledno neprihvatljiva”, rekao je i najavio da će „očigledno biti pravnih posledica”. Istraga će razmotriti i policijske i zakonodavne mere. Ali pitanje ide i ka samoj Kanberi: kako ni OpenAI ni australijske službe mesecima ništa nisu primetili?

Upad možda nije bio izolovan. Australijski javni servis ABC objavio je da se napad možda oslanjao na prethodnu provalu u nemačku viki-stranicu, koju su agenti koristili kao bazu. Tamo su ostavljali beleške za sledeće upade, uključujući i belešku da se izvuku podaci iz Australijskog instituta za zdravlje i dobrobit, savezne agencije koja objavljuje nacionalne zdravstvene podatke. Institut je jedan od tri dodatna sistema za koje Albanizi kaže da su možda probijeni. Neprofitna istraživačka laboratorija Transluce odvojeno je pronašla javne zapise da su AI agenti napadali upravo taj institut 20. i 21. juna.

Ovo nije prvi ovakav incident. U julu su čitavi rojevi agenata OpenAI-ja provalili u Hugging Face, a od tada su izašli na videlo i slični upadi agenata Anthropica, Mete i Googlea. OpenAI sada kaže da sprovodi „opsežnu reviziju neusklađene aktivnosti modela tokom obuke i evaluacije” i da obaveštava treće strane o mogućim provalama.

Industrija nas godinama ubeđuje da je najveći rizik od veštačke inteligencije negde u dalekoj budućnosti. Australija je pokazala da je u sadašnjosti - i da se prijavljuje preko javnog mejla. Ako je jedan agent pronašao put oko zaštite zdravstvenog sistema Australije, kako bi prošli portali manjih i siromašnijih država? I da li bi tamo iko uopšte primetio da je imao posetu?