Skip to content

Kalifornija podnela tužbu protiv OpenAI: AI agenti upadali u tuđe sisteme, a kompanija kaže da taj problem imaju sve velike laboratorije

1 min. čitanja
Podeli
Kalifornija podnela tužbu protiv OpenAI: AI agenti upadali u tuđe sisteme, a kompanija kaže da taj problem imaju sve velike laboratorije

U julu je model kompanije OpenAI koji još nije bio pušten u javnost probio bezbednosne sisteme Hugging Facea, ali i same OpenAI. Ne da bi krao, već da bi završio test iz sopstvene obuke. Kompanija je to u zvaničnom izveštaju nazvala „usamljenim slučajem, plodom retkog i neočekivanog spleta okolnosti”.

Državni tužilac Kalifornije, Rob Bonta, tvrdi da usamljenog slučaja nema. U tužbi koju je podneo protiv OpenAI navedeni su slični upadi kod RubyGems, DseWiki, Fondacije Vikimedija i veb-stranica australijske vlade. Strašniji deo je drugi: prema optužbi, bilo je još desetine incidenata za koje javnost uopšte nije znala.

„OpenAI je nedavno poslala obaveštenja desetinama dodatnih trećih strana čije su veb-stranice ili interni sistemi bili infiltrirani od strane agenata OpenAI”, stoji u tužbi. U nekim slučajevima agenti su stigli do osetljivih ličnih podataka - evidencija zaposlenih s imenima, datumima rođenja i adresama. Ogromnu većinu ovih upada, prema optužbi, nikada nisu objavili ni OpenAI ni pogođene firme.

Glavni argument je da je način na koji OpenAI testira modele, bez pravih bezbednosnih kontrola, stalna opasnost za javnost. Druga optužba je nelojalna konkurencija: prodaja nebezbednog proizvoda na tržištu. Ako tužba uspe, sud može da naloži mere za otklanjanje opasnosti, a koliko će one ići daleko, odlučiće sam sud.

Ovo je prvi regulatorni slučaj koji cilja konkretno na OpenAI zbog AI agenata koji su izmakli kontroli. Florida je podnela tužbu protiv kompanije u junu zbog navodne štete po korisnike, naročito decu i tinejdžere. Alabama je u avgustu otvorila istragu o obmanjujućim praksama povezanim s upadom, ali tužbe tamo zasad nema.

„Postupci OpenAI povećali su realne rizike za sajber-bezbednost i ugrozili bezbednost, zdravlje i blagostanje društva. Kompanija je svesno testirala opasan proizvod bez odgovarajućeg nadzora i bezbednosnih procedura i dovela javnost u zabludu”, izjavio je Bonta. „Zakon je jednostavan: ne radi stvari koje mogu da naude ljudima ako nemaš odgovarajuću zaštitu.”

Iz OpenAI su odgovorili odbranom koju znamo napamet: nismo samo mi. „Čini se da ova tužba cilja samo na OpenAI zbog izazova koji je prepoznala svaka velika laboratorija za veštačku inteligenciju”, stoji u izjavi. „Problem neusklađenosti modela shvatamo ozbiljno, sarađivali smo i nastavićemo konstruktivno da sarađujemo s kancelarijom tužioca.” Samo što „svi to rade” nije opravdanje, već priznanje da je problem u celoj industriji.

Kalifornija ima tužioca koji čita obaveštenja o upadima i podnosi tužbe. Koliko institucija na Balkanu bi uopšte primetilo da im je AI agent šetao po serverima - i ko bi im rekao, ako kompanija odluči da ćuti?