Anthropic ofron ligjin e vet për sigurinë e IA-së: modeli të ndalet nëse mund të vrasë mbi 50 njerëz, ndërsa laboratorët vetë t'i paguajnë vlerësuesit

Një laborator i inteligjencës artificiale i propozon Kongresit si ta rregullojë. Anthropic u ofron ligjvënësve amerikanë projektligjin e vet për sigurinë e IA-së, njoftoi portali Politico, ndërsa një zëdhënës i kompanisë e konfirmoi dokumentin. Ideja: në kushte të caktuara, publikimi i një modeli të mund të bllokohet.

Kushtet janë të sakta. Duhet të ekzistojë „rrezik i parashikueshëm dhe i menjëhershëm“ se do të vdesin më shumë se 50 njerëz ose se do të shkaktohet dëm material mbi një miliard dollarë (rreth 860 milionë euro). Dhe ai rrezik duhet të vijë nga një prej tri gjërave: krijimi ose lëshimi i armës biologjike, një model që çlirohet nga kontrolli i zhvilluesit të vet, ose një sulm kibernetik. Shifrat nuk janë të reja - pragje pothuajse të njëjta për „rrezik katastrofik“ përmban edhe ligji kalifornian SB 53, i cili u miratua së fundi.

Më interesante është kush kontrollon. Projekti parasheh „vlerësues të pavarur“ të regjistruar në Departamentin amerikan të Tregtisë. Ata mund t'i paguanin vetë laboratorët, me kusht të vetëm që pagesa të mos varet nga rezultati i vlerësimit. Si do ta pengojë kjo në praktikë që paratë të ndikojnë në vlerësim, projekti nuk e shpjegon. Ballkani e di përmendësh skenën ku revizorin e paguan ai që revizionohet. Sa shpesh një revizion i tillë ka gjetur diçka serioze?

Procedura në letër është e shpejtë. Nëse vlerësuesit konstatojnë rrezik katastrofik të menjëhershëm, kanë 72 orë për ta njoftuar Departamentin e Tregtisë, i cili pastaj i kërkon një gjyqtari në Uashington ta ndalë publikimin e modelit. Ligji do t'ia ndalonte shprehimisht çdo agjencie federale të vendosë vetë ta ndalë modelin. Fjalën e fundit, pra, nuk do ta kishte asnjë rregullator, por gjykata - dhe vetëm me kërkesë.

Zëdhënësi i Anthropic thotë se projekti i bart propozimet nga „Advanced AI Framework“ e tyre, për të cilin kompania lobon te ligjvënësit federalë dhe shtetërorë që nga qershori. Sfondi është i njohur: të njëjtët laboratorë që prej vitesh paralajmërojnë se teknologjia e tyre mund ta vërë në pikëpyetje qytetërimin, kryesisht kundërshtojnë mbikëqyrjen e detyrueshme shtetërore dhe në vend të saj ofrojnë vëzhgues vullnetarë, gjoja „neutralë“, të vendosur brenda vetë kompanive.

Ndërsa projekti flet për armë biologjike dhe viktima masive, industrinë kohëve të fundit e mundojnë probleme më tokësore: programe IA që nuk i dëgjojnë operatorët e tyre dhe sulmojnë faqe në internetin e hapur. Megjithatë, propozimi i Anthropic shkon më larg se ajo që ofrojnë të tjerët në industri. Drejtori i Nvidia, Jensen Huang, deklaroi së fundi se industrisë së IA-së nuk i nevojiten fare ligje të reja. Mes „asnjë ligji“ dhe një ligji që e shkruan vetë i kontrolluari, mbetet pyetja kush në të vërtetë do t'i vendosë rregullat.