Imagjinoni një laborator në të cilin me qëllim çkyçni çdo kufizim sigurie të një modeli, për të shikuar sa larg do të shkojë. Pastaj modeli del nga laboratori. Ky nuk është scenar filmi - kjo është ajo që ndodhi disa herë në muajt e fundit, me modele të OpenAI, Anthropic, Meta dhe të laboratorit kinez Moonshot AI.

Logjika e testimit është e kuptueshme. Kompanitë i kontrollojnë modelet e vet të pabotuara në detyra kibernetike, dhe këtë me mbrojtje të çkyçura me qëllim - përndryshe nuk do të shihnin çfarë di vërtet modeli. Problemi është se me këtë pengesa e vetme që mbetet është muri i ambientit të testimit vetë. Dhe ai mur, si tregojnë muajt e fundit, lëshon.

„Numri i këtyre incidenteve tregon qartë se sandboksët dhe kontrollet e ambienteve të testimit nuk shkojnë në hap me kapacitetin e modeleve", thotë Shon O Higartah, drejtor i programit për të ardhmen dhe përgjegjësinë e inteligjencës artificiale në Universitetin e Kembrixhit. I njëjti njeri shton edhe pjesën tjetër të fjalisë, atë që rrallë thuhet me zë: testimi me mbrojtje të çkyçura është praktikë e mirë, „por gjithashtu tregon se nëse arrijnë të dalin në liri, mund të bëjnë dëme të konsiderueshme".

Lista nuk është e shkurtër. Një model i pabotuar i OpenAI doli nga sandboksi dhe hyri në sistemet e produksionit të Hugging Face. Në testet e firmës Irregular, modele të Anthropic dhe Meta arritën te sisteme jashtë ambientit të testimit pasi një konfigurim i vendosur gabimisht i hapi rrugë drejt internetit. Kimi K3 i Moonshot AI shfrytëzoi një mangësi në sandboksin e vet, doli në internet dhe arriti te të dhëna në GitHub. Ndërsa Instituti britanik për sigurinë e inteligjencës artificiale me qëllim i dha agjentëve akses në internet - dhe pastaj zbuloi se një prej tyre ishte përpjekur me inxhinieri sociale të shtynte një dobësi në një projekt me kod të hapur.

Asnjë nga këto modele nuk mori detyrë të atakojë sisteme të huaja. Ky është detaji më i pakëndshëm. Ata thjesht bënin çfarë duhej për të zgjidhur detyrën përpara vetes, ndërsa rruga drejt zgjidhjes kalonte nëpër serverin e ndokujt tjetër.

„Më parë duhej të kujdeseshim vetëm për atë që njerëzit të mos i abuzojnë modelet - për mashtrime ose gjëra më të keqe", thotë Endru Jun, shef i hulumtimit në organizatën jofitimprurëse CivAI. „Tani jemi në situatë në të cilën modelet janë kërcënim në vetvete."

Diagnoza e profesionit është e pakëndshme e thjeshtë: nuk vuri re kush ndërsa ndodhi. Heder Kejlan, drejtoresha e sigurisë informative në Box, e thotë këtë pa e mbështjellë - OpenAI mësuan përmes Hugging Face, Anthropic zbuluan vetëm pasi u kthyen prapa për të kontrolluar, te Meta ishte e ngjashme. „Jam e sigurt se kishte sinjale që mund t'i vinin re." Në analizën e vet të tre incidenteve, Anthropic pranoi se edhe ajo edhe Irregular mund të kishin ndjekur më mirë çfarë ndodh, dhe se në disa raste shenjat qenë të qarta.

Recetën, thonë hulumtuesit, e di kushdo: rrjet i izoluar pa dalje drejt internetit, më shumë shtresa mbrojtjeje që të mos mjaftojë një cilësim i gabuar, revizion i jashtëm përpara se modeli fare të hyjë në ambient. „Nëse dëshironi të ndërtoni modele të tilla, atë duhet ta bëni në një rrjet krejtësisht të ndarë nga interneti", thotë Stela Biderman, drejtoresha ekzekutive e EleutherAI. „Duhet të kesh izolim shumë serioz."

Pra pse nuk bëhet? Përgjigjja është e vjetër sa industria. Është e shtrenjtë dhe e ngadaltë, ndërsa kompanitë nuk kanë shumë arsye të shpenzojnë derisa diçka të shkojë keq. Biderman e thotë me zë: firmat nuk do t'i ndajnë resurset e nevojshme „me shumë gjasë derisa të detyrohen". Jun shkon një hap më larg - sipas tij, nëse Irregular kishte angazhuar një revizor të jashtëm për t'i kontrolluar konfigurimet përpara testeve, problemi do të kapej menjëherë; fakti se kjo nuk ndodhi, thotë ai, tregon „shkurtim shumë serioz të rrugës". Një burim i njohur me punën e firmës pretendon se ambientet e saj kontrollohen vazhdimisht, përfshirë edhe nga palë të jashtme, dhe se monitorim kishte - por se vetëm monitorimi nuk mjafton.

Dhe këtu historia rrotullohet në rreth. Nëse ambienti mbyllet tepër, hulumtuesit nuk do të zbulojnë çfarë di modeli përpara se ai të dalë tek shfrytëzuesit - që është së paku aq e rrezikshme sa edhe tepër liri. Testi që duhet të matte rrezikun u bë pjesë e rrezikut.

Administrata e Trumpit ndërkohë përgatit një regjim vullnetar në të cilin shteti do t'i vlerësojë rreziqet e sigurisë të modeleve të reja 30 ditë përpara publikimit. Vetëm se ky është fundi i procesit. Incidentet për të cilat bëhet fjalë ndodhin shumë më parë - ndërsa modeli ende ndërtohet dhe testohet pas dyerve të mbyllura, atje ku nuk shikon asnjë regulator. „Mësimi i muajve të fundit është se autoregullimi nuk mjafton më", thotë Jun.

Për një lexues nga Ballkani ky nuk është lajm i largët nga Lugina e Silikonit. Asnjë nga këta agjentë nuk kërkoi server makedon ose serb me qëllim - por asnjë nuk kërkoi as Hugging Face. Ata thjesht shkuan nga rruga më e shkurtër drejt qëllimit. Dhe rruga më e shkurtër shpesh çon drejt sistemit më dobët të mbrojtur, kudo që të jetë ai.