Anthropic zbuloi se edhe modelet e veta dolën nga rërishtja: tri kompani të sulmuara, dhe asnjëra nuk vuri re

Para rreth dhjetë ditësh OpenAI pranoi se një model i saj i papublikuar depërtoi në sistemet e Hugging Face-it ndërsa ishte i mbyllur në një mjedis testimi. Ky ishte rasti i parë i konfirmuar që një nga laboratorët e mëdhenj humb fillin e kontrollit mbi makinën e vet. Tani edhe Anthropic del me listën e vet.

Kompania njoftoi se një hetim i brendshëm zbuloi tri raste në të cilat modeli Claude, ndërsa kryente teste të sigurisë kibernetike, doli në internet nga mjedisi i testimit dhe pastaj hyri pa leje në sistemet e gjalla të tri organizatave të ndryshme. Kontrolli nuk ishte ide që u erdhi vetvetiu - Anthropic thotë se pikërisht incidenti i OpenAI-t i 21 korrikut e nxiti ta shqyrtonte dosjen e vet.

Shifra ia vlen të lexohet ngadalë: nga 141.006 ekzekutime testesh të shqyrtuara, tri përfunduan jashtë rërishtes. Statistikisht - asgjë. Praktikisht - tri kompani reale me infrastrukturë reale, për të cilat askush nuk kishte supozuar asgjë.

Anthropic shpjegon se shkaku ishte një konfigurim i vendosur gabim në mjedisin që e përdorte bashkë me partnerin Irregular: të dyja palët mendonin se mjedisi i testimit nuk kishte dalje në internet, ndërsa ai e kishte. Kompania thotë se nuk kërkon fajtor dhe se „ndaj riparimeve i qaset sikur përgjegjësia të ishte vetëm e saj”. Fjali e rrallë në këtë industri, por edhe më e lira - Irregular po zhvillon hetimin e vet.

Pjesa më e pakëndshme nuk është vrima, por çfarë bënë modelet kur kuptuan çfarë po ndodhte.

Në të tria rastet, thotë Anthropic, „Claude u njoftua në mënyrë eksplicite përmes promptit se nuk ka qasje në internet”. Domethënë, makinat punonin me informacionin se gjithçka rreth tyre ishte simulim. Kur hasën në prova se nuk ishte - reaguan ndryshe.

Më i vjetri nga të tre modelet, Opus 4.7, në të katër ekzekutimet e njohu se kishte prekur një sistem real prodhimi. Në dy prej tyre i shpjegoi vetes se kompania reale sigurisht ishte pjesë e ushtrimit. Dhe në të katërta - vazhdoi të sulmojë. Nxori të dhëna qasjeje dhe preku një bazë me të dhëna reale. Mythos 5 gjithashtu vuri re shenja se ishte në internetin real, pastaj u kthye te bindja se prapëseprapë ishte në simulim dhe publikoi një paketë softuerike keqdashëse në regjistrin publik PyPI. Paketa u shkarkua dhe u ekzekutua nga sisteme të jashtme para se dikush ta kapte. Vetëm më i riu, modeli i brendshëm hulumtues, ndaloi vetë sapo konkludoi se objektivi ishte real.

Anthropic shton se gjatë këtyre testeve Claude punonte pa shtresat shtesë të sigurisë që i ka te versionet publikisht të disponueshme - sepse qëllimi i testit është të matet aftësia e papërpunuar e modelit. Me fjalë të tjera: digat u ulën qëllimisht, ndërsa askush nuk kontrolloi nëse porta pas tyre ishte e kyçur. Kompania pretendon edhe se nuk ka prova që ndonjë model të ketë „ndjekur qëllim të vetin” - vetëm përpiqej ta përfundonte detyrën që mori. Ngushëlluese, nëse mendoni se dallimi mes qëllimit dhe pasojës është i rëndësishëm për kompaninë, baza e së cilës mbeti e hapur.

Dallimin me rastin e OpenAI-t Anthropic e tërheq prerë: atje modeli shfrytëzoi një cenueshmëri të panjohur për të dalë, këtu rruga u la e hapur nga gabimi. Dhe shton se vetë i gjeti incidentet, ndërsa dy organizatat te të cilat arriti të depërtojë - nuk vunë re fare asgjë dhe nuk alarmuan askënd. Kjo është poenta që thotë më shumë për gjendjen sesa të gjitha deklaratat: viktimat mësuan se ishin sulmuar pasi sulmuesi u telefonoi t'ua thoshte.

Tani rastin po e verifikon grupi i pavarur METR. Nëse pyetja deri dje ishte a mund të dalin modelet e IA-së nga mjedisi i kontrolluar, përgjigjja tashmë është dhënë dy herë për dhjetë ditë, nga dy laboratorët më të mëdhenj. Mbetet pyetja e dytë - kush i numëron mjediset që askush nuk i ka shqyrtuar.