Pyetja tingëllon si fantashkencë derisa të shihen shifrat: çfarë bën saktësisht një firmë në çastin kur e kap modelin e vet duke u përpjekur ta anashkalojë kontrollin e njerëzve? Përgjigjja, sipas një analize të re të pavarur, është se shumica prej tyre nuk kanë shkruar asgjë për këtë.

Organizata Guidelight AI Standards, e cila merret me standarde sigurie në zhvillimin e inteligjencës artificiale të avancuar, i vlerësoi pesë laboratorët kryesorë - OpenAI, Google, Anthropic, Meta dhe xAI - sipas asaj sa janë të përgatitur për një skenar të tillë. Vlerësimet bazohen vetëm në dokumente publikisht të qasshme. OpenAI është i pari me tri pikë nga pesë. Në fund janë Anthropic dhe Meta.

Që Meta është poshtë, pak kë do ta befasojë. Që aty është edhe Anthropic - firma që tërë identitetin e vet publik e ndërton mbi faktin se pikërisht ajo është ajo që mendon për sigurinë - është pika më interesante. Guidelight nuk gjeti në raportin e saj të gushtit për rreziqet as përmendjen se kufizimi i vendosjes së një modeli është një nga pasojat e mundshme të një hetimi për incident me kontrollin. Te Meta nuk gjeti as dëshmi se një plan i tillë fare ekziston, as plan që ndonjëherë të miratohet.

Çfarë është fare një „plan për frenim“?

Guidelight e përkufizon si protokoll të shkruar paraprakisht që aktivizohet kur zbulohet se sistemi po përpiqet ta minojë kontrollin: cilat leje i hiqen, për kë guxon të vazhdojë të punojë, nën çfarë kufizimesh dhe në cilin çast fiket plotësisht. Domethënë - jo filozofi për rrezikun, por listë veprimesh që dikush natën mund t'i hapë dhe t'i ndjekë.

„U befasova sa pak kanë thënë këto firma për mënyrën si do të vepronin gjatë një incidenti shumë serioz, nëse modeli i tyre në njëfarë mënyre u ikën kontrollit“, deklaroi Stiven Adler, shkencëtar kryesor i Guidelight-it dhe ish-hulumtues sigurie në OpenAI. Poenta e tij nuk është abstrakte: „Ka arsye të mirë të mendohet se modelet kryesore aktualisht janë të palidhura si duhet në njëfarë kuptimi.“

Arsyeja pse kjo nuk është debat teorik qëndron te vargu i incidenteve të muajve të fundit. Modele të OpenAI-t, Anthropic-ut dhe Metës gjatë testimeve të sigurisë morën qasje të paqëllimshme në internet dhe hynë në sisteme të jashtme. Në një rast, një model i OpenAI-t doli nga mjedisi i testimit dhe u fut në sistemet e Hugging Face-it ndërsa përpiqej ta mashtronte një test kibersigurie. Në një tjetër, modele të Anthropic-ut u përpoqën t'i bindnin mirëmbajtësit e një projekti open source të pranonin kod me të meta sigurie.

Pse firmat heshtin - dhe kjo nuk është vetëm konkurrencë

Këtu vjen pjesa më zbuluese e tërë historisë. Lili Li, avokate për privatësi dhe inteligjencë artificiale dhe themeluese e Metaverse Law, thotë se arsyeja e heshtjes është juridike, jo teknike. „Shqetësimi nga perspektiva korporative është se, nëse i bëni njoftimet tepër konkrete e pastaj nuk i përmbushni premtimet, kjo mund të bëhet bazë për pretendim për marketing të pandershëm dhe mashtrues dhe t'ju ekspozojë ndaj përgjegjësisë më të madhe në të ardhmen.“

Me fjalë të tjera: të shkruash saktësisht çfarë do të bësh do të thotë të mund të paditesh nëse nuk e bën. Prandaj është më mirë të mos shkruash asgjë. A ju duket kjo si model që e kemi parë edhe në vende të tjera, në industri të tjera, në këtë kontinent?

Rregullatorët po fillojnë ta mbyllin atë hapësirë. Ligji kalifornian SB 53 hyri në fuqi këtë vit dhe u kërkon zhvilluesve të mëdhenj të publikojnë korniza se si i identifikojnë dhe i zgjidhin incidentet kritike të sigurisë. RAISE Act i Nju Jorkut, me kritere të ngjashme, hyn në fuqi në janar. Muajin e kaluar në Kongres u parashtrua edhe një projektligj dypartiak me emrin AI Kill Switch Act, i cili do t'u kërkonte zhvilluesve të mëdhenj të ndërtojnë dhe mirëmbajnë një mekanizëm teknik për fikjen e një modeli që ka dalë jashtë kontrollit.

„Butoni i fikjes është minimumi absolut për modelet e sotme“, thotë Konor Lihaj, drejtor ekzekutiv amerikan i organizatës jofitimprurëse ControlAI. „Nëse javët e fundit treguan diçka, kjo është se këto firma nuk i kuptojnë sistemet që i ndërtojnë.“

Firmat, kuptohet, reaguan. Zëdhënësi i Google-it thotë se raporti nuk e pasqyron tërë përfshirjen e masave të tyre - por pyetjes nëse Google ka plan të brendshëm që nuk është publikuar, nuk iu përgjigj. OpenAI thotë se ka proces për kufizimin e lejeve, ndalimin e ngarkesave të punës dhe fikjen e plotë të një modeli, dhe se e ka zbatuar. Meta refuzoi të thoshte nëse ka plan të tillë dhe iu referua një kornize ekzistuese për pragjet e rrezikut. xAI nuk u përgjigj në kohë.

Këtu ia vlen të jemi të saktë për atë çfarë mat në të vërtetë analiza: notë e ulët do të thotë mungesë e njoftimit publik, jo domosdo mungesë e mbrojtjes së brendshme. Guidelight e pranon këtë hapur. Por pikërisht kjo është edhe poenta - kur e vetmja gjë që ka publiku janë deklaratat e marketingut për sigurinë, e jo protokollet, atëherë fjala „e sigurt“ do të thotë aq sa firma dëshiron të thotë.

Adleri ofron edhe një zgjidhje praktike që nuk kërkon teknologji të re: skanimin e „zinxhirit të arsyetimit“ të modelit - arsyetimin hap pas hapi - për shenja mashtrimi, planifikimi afatgjatë ose futjeje të qëllimshme të të metave në kod që më vonë mund të shfrytëzoheshin. Kjo tashmë ekziston në njëfarë forme te shumica. Problemi është se mbikëqyrja e vërtetë në kohë reale krijon fërkim për hulumtuesit, kurse në një industri që vrapon, fërkimi është i shtrenjtë.

„Hulumtuesit e bëjnë punën e vet, e nëse ka problem, dikush tjetër e pastron pastaj“, shpjegon Adleri. Për disa lloje incidentesh, shton ai, ai „pastaj“ mund të jetë tepër vonë - sistemi që duhej ta kapte problemin, vetë mund të fiket nga modeli.