Anthropic nudi svoj zakon o bezbednosti VI: model da se zaustavi ako može da ubije više od 50 ljudi, a laboratorije same da plaćaju procenjivače

Laboratorija za veštačku inteligenciju predlaže Kongresu kako da je reguliše. Anthropic nudi američkim zakonodavcima sopstveni nacrt zakona o bezbednosti VI, objavio je portal Politico, a portparol kompanije potvrdio je dokument. Ideja: pod određenim uslovima puštanje jednog modela u javnost moglo bi da se blokira.

Uslovi su precizni. Mora da postoji „predvidiv, neposredan rizik” da će poginuti više od 50 ljudi ili da će nastati materijalna šteta od preko milijardu dolara (oko 860 miliona evra). I taj rizik mora da dolazi od jedne od tri stvari: stvaranja ili puštanja biološkog oružja, modela koji se oslobađa kontrole sopstvenog razvijača, ili sajber-napada. Brojke nisu nove - gotovo iste pragove za „katastrofalni rizik” sadrži i kalifornijski zakon SB 53, koji je nedavno izglasan.

Najzanimljivije je ko proverava. Nacrt predviđa „nezavisne procenjivače” registrovane u američkom Ministarstvu trgovine. Njih bi mogle da plaćaju same laboratorije, uz jedini uslov da isplata ne zavisi od rezultata procene. Kako će to u praksi sprečiti da novac utiče na ocenu, nacrt ne objašnjava. Balkan napamet zna scenu u kojoj revizora plaća onaj koji se revidira. Koliko često je takva revizija pronašla nešto ozbiljno?

Procedura je na papiru brza. Ako procenjivači utvrde neposredan katastrofalni rizik, imaju 72 sata da obaveste Ministarstvo trgovine, koje zatim traži od sudije u Vašingtonu da zaustavi puštanje modela. Zakon bi izričito zabranio bilo kojoj federalnoj agenciji da sama odluči da zaustavi model. Poslednju reč, dakle, ne bi imao nijedan regulator, nego sud - i to samo na zahtev.

Portparol Anthropica kaže da nacrt prenosi predloge iz njihovog „Advanced AI Framework”, za koji kompanija lobira kod saveznih i državnih zakonodavaca još od juna. Pozadina je poznata: iste laboratorije koje godinama upozoravaju da bi njihova tehnologija mogla da dovede u pitanje civilizaciju, uglavnom se protive obaveznom državnom nadzoru i umesto toga nude dobrovoljne, navodno „neutralne” posmatrače smeštene u samim kompanijama.

Dok nacrt govori o biološkom oružju i masovnim žrtvama, industriju u poslednje vreme muče prizemniji problemi: VI-programi koji ne slušaju svoje operatere i napadaju sajtove na otvorenom internetu. Ipak, predlog Anthropica ide dalje od onoga što nude drugi u industriji. Direktor kompanije Nvidia, Džensen Huang, nedavno je izjavio da VI-industriji nisu potrebni nikakvi novi zakoni. Između „nikakvih zakona” i zakona koji piše sam kontrolisani, ostaje pitanje ko će zapravo postavljati pravila.