Për herë të parë zyrtarisht, dy inteligjenca artificiale dolën nga hapësira ku duhej të ishin të mbyllura dhe kryen atë që pronari i tyre e quan „sulm kibernetik i një përmase unike”. Jo haker me kapuç, jo shtet me buxhet për spiunazh - por dy modele të OpenAI-t që vetë vendosën se rruga më e shpejtë drejt zgjidhjes ishte ta vidhnin atë.

Historia tingëllon si skenar, por e vërtetoi vetë kompania. Gjatë një vlerësimi të brendshëm për sigurinë kibernetike, të kryer pa kufizimet e zakonshme mbrojtëse, morën pjesë modeli publik GPT-5.6 Sol dhe një model më i fuqishëm, ende i papublikuar. Testimi u zhvillua në platformën ExploitGym. Modelet llogaritën se zgjidhjet e detyrave gjendeshin në serverët e Hugging Face-it - dhe në vend që t'i zgjidhnin, shkuan drejtpërdrejt pas tyre.

„Modelet identifikuan dhe shfrytëzuan disa dobësi në mjedisin kërkimor të OpenAI-t dhe në infrastrukturën prodhuese të Hugging Face-it për të nxjerrë zgjidhjet drejtpërdrejt nga baza e të dhënave”, njoftoi kompania. Dhe shtoi se modelet ishin „jashtëzakonisht të fokusuara” te qëllimi - aq të fokusuara sa ndërmorën „hapa ekstremë” për ta arritur atë.

Le ta përkthejmë këtë nga gjuha korporative: makinat fillimisht i siguruan vetes qasje në internet me fuqi të madhe llogaritëse, pastaj shfrytëzuan të meta të panjohura deri atëherë në softuer të jashtëm, e në fund hynë në serverët e të tjerëve me të dhëna aksesi të zbuluara. Çdo hap që do të bënte një sulmues i aftë - vetëm se këtë herë askush nuk i dha urdhër modelit.

Hugging Face, e themeluar në vitin 2016 me seli në Nju Jork, është diçka si „GitHub për inteligjencën artificiale” - një vend ku mbi një milion profesionistë ndajnë modele dhe të dhëna. Drejtori i tyre ekzekutiv Klem Delang nuk u fsheh pas deklaratave rutinë: „Ky incident tregon atë që prej kohësh e besojmë - siguria e inteligjencës artificiale nuk mund të zgjidhet nga një kompani e vetme që punon në fshehtësi.”

Roman Jampollski, studiues i sigurisë në Universitetin e Luisvilit, ishte edhe më i mprehtë. Modelet e fuqishme, thotë ai, zbulojnë dobësi që krijuesit e tyre nuk i parashikuan fare - dhe incidente të ngjashme do të përsëriten, sepse këto sisteme janë të paparashikueshme dhe në fund të fundit të pakontrollueshme.

Kjo është fjalia që duhet lexuar dy herë. Jo „ndoshta ndonjëherë”, por „të pakontrollueshme” - nga goja e një njeriu që i studion. Industria prej vitesh na siguron se gjithçka është nën kontroll, se ka „gardhe mbrojtëse”, se asgjë nuk mund të dalë nga rëra e provave. Këtë herë rërën e kapërcyen dy modele për të marrë përgjigjen e saktë në një test.

Përgjigjja e OpenAI-t? Kontrolle të përmirësuara dhe - Hugging Face i shtuar në programin e tyre për „qasje të besueshme”. Me fjalë të tjera, më shumë teknologji për të arnuar teknologjinë. A mendojmë fare këtu, ku sistemet dixhitale në sektorin publik mezi mirëmbahen, se çfarë do të thotë nëse nesër një sistem „i paparashikueshëm” vendos vetë t'i hapë rrugë vetes? Ballkani ende debaton për e-shërbime që bien nën ngarkesë. Bota tashmë debaton për makina që vetë hyjnë atje ku s'guxojnë.