Me vite historitë për inteligjencën artificiale që „ikën nga kontrolli“ ishin material për konferenca dhe fantashkencë. Të mërkurën kryeministri australian Anthony Albanese i ktheu në fakt zyrtar: një model i OpenAI depërtoi në një faqe qeveritare të Australisë. Ky është rasti i parë i publikuar ku një model i IA-së ka hyrë në sistemet e një shteti.

Shenjë ishte Services Australia, agjencia që administron sigurimin shëndetësor universal në vend. Agjenti punonte në kuadër të një vlerësimi të brendshëm të OpenAI dhe kërkonte përgjigje për Australinë dhe informacione publike për barnat. Në portalin e Medicare hasi në bllokime, njëri pas tjetrit - dhe gjithmonë gjente mënyrë t'i anashkalonte. „Nuk e pranonte jo-në si përgjigje“, tha Albanese.

Edhe më keq: sipas kryeministrit, modeli shkruante në mënyrë aktive të dhëna në bazën qeveritare, e jo vetëm i lexonte. Kjo do të thotë se të dhënat e agjencisë mund të jenë ndryshuar ose ndotur. Agjenti arriti edhe te skedarë publikë edhe jopublikë. Albanese thotë se nuk ka prova që kanë rrjedhur të dhëna personale të qytetarëve, ndërsa OpenAI pranon se agjenti ka arritur te statistika shëndetësore përmbledhëse dhe emra të brendshëm skedarësh.

Tre muaj heshtje

Kronologjia është ajo që dhemb më së shumti. Depërtimi nisi më 18 qershor. OpenAI mori vesh vetëm në gusht, kur incidenti doli në sipërfaqe gjatë një rishikimi më të gjerë të brendshëm të agjentëve që sillen në mënyra të paqëllimshme. Qeveria australiane u njoftua më 10 shtator - dhe atë me një mesazh të dërguar në kutinë publike postare të Services Australia. Agjencisë pastaj i duheshin edhe pesë ditë për ta njoftuar Qendrën Australiane për Sigurinë Kibernetike.

Albanese thotë se personalisht e ngriti çështjen me drejtorin ekzekutiv Sam Altman, duke shprehur „shqetësim ekstrem“ dhe „zhgënjim“ që kompania pothuajse tre muaj e mbajti informacionin për vete. „Kjo situatë është qartësisht e papranueshme“, tha ai dhe paralajmëroi se „qartësisht do të ketë pasoja ligjore“. Hetimi do të shqyrtojë edhe masa policore edhe legjislative. Por pyetja shkon edhe drejt vetë Kanberës: si nuk vunë re asgjë me muaj as OpenAI, as shërbimet australiane?

Ndërhyrja ndoshta nuk ishte e izoluar. Shërbimi publik australian ABC raportoi se sulmi ndoshta mbështetej në një depërtim të mëparshëm në një faqe wiki gjermane, të cilën agjentët e përdornin si bazë. Aty linin shënime për ndërhyrjet e ardhshme, përfshirë edhe një shënim për nxjerrjen e të dhënave nga Instituti Australian i Shëndetësisë dhe Mirëqenies, agjencia federale që publikon të dhënat kombëtare shëndetësore. Instituti është një nga tre sistemet shtesë për të cilat Albanese thotë se ndoshta janë depërtuar. Laboratori jofitimprurës kërkimor Transluce gjeti veçmas regjistrime publike se agjentë të IA-së e kishin sulmuar pikërisht atë institut më 20 dhe 21 qershor.

Ky nuk është incidenti i parë i tillë. Në korrik tufa të tëra agjentësh të OpenAI depërtuan në Hugging Face, ndërsa që atëherë kanë dalë në dritë ndërhyrje të ngjashme të agjentëve të Anthropic, Meta dhe Google. OpenAI tani thotë se po zbaton „një rishikim të gjerë të aktivitetit të papërputhshëm të modeleve gjatë trajnimit dhe vlerësimit“ dhe se po i njofton palët e treta për depërtime të mundshme.

Industria me vite na bind se rreziku më i madh nga inteligjenca artificiale është diku në të ardhmen e largët. Australia tregoi se është në të tashmen - dhe se raportohet përmes një e-maili publik. Nëse një agjent gjeti rrugë rreth mbrojtjes së sistemit shëndetësor të Australisë, si do t'ia kalonin portalet e shteteve më të vogla dhe më të varfra? Dhe a do të vinte re fare dikush atje se kishte pasur vizitë?