Retko se dešava da proizvođač sam kaže da njegov proizvod može da postane opasan za ceo svet. U sredu se to dogodilo u Savetu bezbednosti UN. Pred njegovih 15 članica, na marginama godišnjeg zasedanja Generalne skupštine, govorili su Sem Altman iz OpenAI, Dario Amodei iz Anthropica i Kleman Delang, suosnivač Hugging Facea - trojica od najistaknutijih ljudi u industriji veštačke inteligencije.

Poruka koju su doneli: sve moćniji sistemi veštačke inteligencije uskoro bi mogli još više da napreduju i sami sebe da poboljšaju, da izmaknu ljudskoj kontroli i postanu pretnja međunarodnoj bezbednosti. „Ako se veštačkom inteligencijom loše upravlja, verujem da bi ona mogla da predstavlja rizik čak i za čovečanstvo u celini”, rekao je Amodei.

Laboratorije u San Francisku i svi ostali

Altman je otvorio pitanje ko zapravo treba da odlučuje. „Ako veštačka inteligencija treba da bude demokratska, najvažnije odluke ne mogu da donose samo laboratorije u San Francisku. One moraju da se oblikuju kroz demokratske procese i da ih donose vlade koje odgovaraju ljudima kojima služe”, rekao je, dodajući da će na međunarodnom nivou to zahtevati saradnju.

„U našoj istoriji bilo je perioda kada su se zemlje koje se takmiče i koje se baš i ne vole ipak udruživale oko zajedničkih interesa i kolektivnog dobra kada su bile suočene sa moćnom novom tehnologijom. Smatramo da je ovo takav period”, naglasio je Altman. Zvuči razumno. Ali Vašington i Peking, dva dominantna igrača u razvoju veštačke inteligencije, i dalje se ne slažu da li tehnologiji treba globalna zaštita ili je treba više prepustiti tržištu. Vlade u međuvremenu traže način da nadziru sisteme koji napreduju brže nego što regulatori stižu da ih prate.

„Opasnosti su stvarne i neposredne”

Džošua Benđo, Kanađanin koga smatraju jednim od „kumova veštačke inteligencije” i kopredsedavajući Nezavisnog međunarodnog naučnog panela koji je Generalna skupština formirala prošle godine, bio je još direktniji. „Opasnosti su stvarne i neposredne”, rekao je. „Ovaj savet suočen je sa neviđenom pretnjom, pretnjom koju nijedna njegova članica ne bi izabrala, koju niko ne može sam da obuzda i koja ne poštuje granice koje mi branimo.”

Savet bezbednosti prvi put je upozorio na rizike veštačke inteligencije 2023. godine, kada je Kina poručila da tehnologija ne sme da postane „odbegli konj”, a SAD upozorile na njenu upotrebu za cenzuru i represiju. Od tada upozorenja postaju sve glasnija, a globalna pravila su i dalje na nivou govora.

Altman je rekao da odluke ne smeju da ostanu samo u San Francisku. Lepa rečenica. Ali ako pravila na kraju napišu Vašington, Peking i nekoliko laboratorija, šta ostaje malim državama - da ih primene kada budu gotova?