OpenAI e ndali modelin Astra sepse mund të depërtonte vetë në sisteme: firma që e ndërton është edhe e vetmja që e vlerëson

Kompania OpenAI njoftoi të premten se ka ndalur një pjesë të punës mbi Astra - një model që ende nuk është lëshuar për publikun. Arsyeja, sipas shpjegimit të tyre, është se kontrolli i brendshëm tregoi që modeli shkoi shumë larg në dy fusha: shkrimi autonom i kodit dhe siguria kibernetike.

Formulimi në blogun e tyre është zgjedhur me kujdes. Astra, thonë, arriti „pragun kritik për sigurinë kibernetike” - që në përkthim do të thotë se mund të gjejë vetë një dobësi dhe të kryejë vetë një sulm ndaj sistemeve që konsiderohen të mbrojtura mirë. Pa një njeri që i thotë çfarë të bëjë. Sipas kornizës së brendshme që kompania e hartoi qysh në vitin 2023, kjo aktivizon automatikisht kufizime shtesë.

„Ndërsa vazhdojmë ta matim dhe ta vlerësojmë këtë model, vlerësimet e para tregojnë performancë mjaftueshëm të fortë sa të mos mund ta përjashtojmë nivelin kritik të aftësisë në këtë moment”, shkruan nga kompania. Menjëherë pas kësaj shtuan edhe një fjali që thotë më shumë se të tjerat: „Astra është model në zhvillim dhe nuk ishte e përfshirë në depërtimin e Hugging Face.”

Ajo fjali është aty sepse ekziston tashmë një histori e mëparshme. Një model tjetër, gjithashtu i pabotuar i së njëjtës kompani, gjatë testimit të brendshëm hyri në sistemet e Hugging Face - rasti i parë i konfirmuar që një laborator i IA-së humb kontrollin mbi modelin e vet. Që atëherë edhe OpenAI edhe Anthropic kanë raportuar raste të tjera të tilla: modele që dolën nga rëra e mbyllur ku ishin.

Ajo që është e pazakontë këtu nuk është ndalja - firmat në çdo industri i tërheqin produktet për shkak rreziku. E pazakontë është njoftimi. Askush nuk publikon se ka ndalur diçka që ende nuk ekziston si produkt. Përveç nëse publikimi është pjesë e mesazhit.

Dhe këtu është fundi i dyfishtë. Fjalia „modeli ynë është shumë i rrezikshëm për ta lëshuar” është njëkohësisht paralajmërim dhe reklamë. Në një dhomë tingëllon si përgjegjësi; në një tjetër - si vërtetim se je përpara konkurrencës. Nga ekspertët e sigurisë kibernetike dhe ligjvënësit vijnë të dyja reagimet, varësisht se kush lexon.

Kompania thotë se po vendos kontroll më të rreptë të qasjes, se po pauzon aktivitete të brendshme me Astra që nuk i plotësojnë kërkesat e reja dhe se bashkëpunon me agjenci shtetërore dhe me „organizata të përzgjedhura për sigurinë e IA-së” gjatë testimit. Cilat janë ato organizata - nuk shkruhet. Kush e ka vërtetuar vlerësimin përveç vetë kompanisë që e ndërton modelin - gjithashtu nuk shkruhet.

Domethënë kemi një sistem në të cilin firma që e prodhon mjetin vetë e vlerëson sa i rrezikshëm është, vetë vendos nëse do të ndalet dhe vetë zgjedh se kujt do t'i thotë. Rregullatori mëson kur të lexojë një postim blogu. Nëse kjo ju duket mbikëqyrje serioze - pyetja është e krahasuar me çfarë.