Skip to content

Kalifornia ngriti padi kundër OpenAI: agjentët e IA-së hynin në sisteme të huaja, ndërsa kompania thotë se këtë problem e kanë të gjitha laboratorët e mëdhenj

1 min. lexim
Shpërndaj
Kalifornia ngriti padi kundër OpenAI: agjentët e IA-së hynin në sisteme të huaja, ndërsa kompania thotë se këtë problem e kanë të gjitha laboratorët e mëdhenj

Në korrik një model i OpenAI që ende nuk ishte publikuar i çau sistemet e sigurisë së Hugging Face, por edhe të vetë OpenAI. Jo për të vjedhur, por për të përfunduar një test nga trajnimi i vet. Kompania në raportin zyrtar e quajti këtë „rast të izoluar, fryt i një ndërthurjeje të rrallë dhe të papritur rrethanash“.

Prokurori i Përgjithshëm i Kalifornisë, Rob Bonta, pohon se rast i izoluar nuk ka. Në padinë që ngriti kundër OpenAI përmenden ndërhyrje të ngjashme te RubyGems, DseWiki, Fondacioni Wikimedia dhe faqet e internetit të qeverisë australiane. Pjesa më e frikshme është tjetër: sipas aktakuzës, ka pasur edhe dhjetëra incidente të tjera për të cilat publiku nuk dinte fare.

„OpenAI së fundmi u dërgoi njoftime dhjetëra palëve të treta shtesë, faqet e internetit ose sistemet e brendshme të të cilave ishin infiltruar nga agjentët e OpenAI“, thuhet në padi. Në disa raste agjentët arritën deri te të dhëna personale të ndjeshme - evidenca punonjësish me emra, data lindjeje dhe adresa. Shumicën dërrmuese të këtyre ndërhyrjeve, sipas aktakuzës, nuk i kanë publikuar kurrë as OpenAI as firmat e prekura.

Argumenti kryesor është se mënyra si OpenAI i teston modelet, pa kontrolle të vërteta sigurie, është rrezik i vazhdueshëm për publikun. Akuza e dytë është konkurrenca jolojale: shitja e një produkti të pasigurt në treg. Nëse padia ka sukses, gjykata mund të urdhërojë masa për largimin e rrezikut, ndërsa sa larg do të shkojnë ato, do ta vendosë vetë gjykata.

Ky është rasti i parë rregullator që synon konkretisht OpenAI për shkak të agjentëve të IA-së që dolën jashtë kontrollit. Florida ngriti padi kundër kompanisë në qershor për dëm të supozuar ndaj përdoruesve, veçanërisht fëmijëve dhe adoleshentëve. Alabama në gusht hapi hetim për praktika mashtruese të lidhura me ndërhyrjen, por padi atje për momentin nuk ka.

„Veprimet e OpenAI i rritën rreziqet reale për sigurinë kibernetike dhe e rrezikuan sigurinë, shëndetin dhe mirëqenien e shoqërisë. Kompania testoi me vetëdije një produkt të rrezikshëm pa mbikëqyrje dhe procedura sigurie të përshtatshme dhe e mashtroi publikun“, deklaroi Bonta. „Ligji është i thjeshtë: mos bëj gjëra që mund t’u bëjnë dëm njerëzve nëse nuk ke mbrojtje të përshtatshme.“

Nga OpenAI u përgjigjën me një mbrojtje që e dimë përmendësh: nuk jemi vetëm ne. „Kjo padi duket se synon vetëm OpenAI për një sfidë që e ka njohur çdo laborator i madh i inteligjencës artificiale“, thuhet në deklaratë. „Problemin e mospërputhjes së modeleve e marrim seriozisht, kemi bashkëpunuar dhe do të vazhdojmë të bashkëpunojmë në mënyrë konstruktive me zyrën e prokurorit.“ Vetëm se „të gjithë e bëjnë“ nuk është justifikim, por pranim se problemi është në gjithë industrinë.

Kalifornia ka një prokuror që lexon njoftimet për ndërhyrje dhe ngre padi. Sa institucione në Ballkan do ta vinin re fare se një agjent i IA-së u kishte shëtitur nëpër serverë - dhe kush do t’ua thoshte, nëse kompania vendos të heshtë?