Ретко се случува производителот сам да каже дека неговиот производ може да стане опасен за целиот свет. Во среда тоа се случи во Советот за безбедност на ОН. Пред неговите 15 членки, на маргините на годишната сесија на Генералното собрание, говореа Сем Алтман од OpenAI, Дарио Амодеи од Anthropic и Клеман Деланг, кооснивач на Hugging Face – тројца од најистакнатите луѓе во индустријата на вештачката интелигенција.

Пораката што ја донесоа: сè помоќните системи на вештачка интелигенција наскоро би можеле уште повеќе да напреднат и сами да се подобрат, да излезат од човечка контрола и да станат закана за меѓународната безбедност. „Ако со вештачката интелигенција се управува лошо, верувам дека таа би можела да претставува ризик дури и за човештвото во целина“, рече Амодеи.

Лабораториите во Сан Франциско и сите други

Алтман го отвори прашањето кој всушност треба да одлучува. „Ако вештачката интелигенција треба да биде демократска, најважните одлуки не можат да ги носат само лабораториите во Сан Франциско. Тие мора да се обликуваат преку демократски процеси и да ги носат владите што одговараат пред луѓето на кои им служат“, рече тој, додавајќи дека на меѓународно ниво тоа ќе бара соработка.

„Во нашата историја имало периоди кога земји што се натпреваруваат и што баш и не се сакаат, сепак се здружувале околу заеднички интереси и колективното добро кога биле соочени со моќна нова технологија. Сметаме дека ова е таков период“, нагласи Алтман. Звучи разумно. Но Вашингтон и Пекинг, двата доминантни играча во развојот на вештачката интелигенција, и понатаму не се согласуваат дали на технологијата ѝ треба глобална заштита или треба повеќе да се препушти на пазарот. Владите, во меѓувреме, бараат начин да ги надгледуваат системите што напредуваат побрзо отколку што регулаторите стигнуваат да ги следат.

„Опасностите се реални и непосредни“

Јошуа Бенџио, Канаѓанецот кого го сметаат за еден од „кумовите на вештачката интелигенција“ и копретседавач на Независниот меѓународен научен панел што Генералното собрание го формираше минатата година, беше уште подиректен. „Опасностите се реални и непосредни“, рече тој. „Овој совет е соочен со невидена закана, закана што ниту една негова членка не би ја избрала, што никој не може сам да ја обузда и што не ги почитува границите што ние ги браниме.“

Советот за безбедност за првпат предупреди за ризиците од вештачката интелигенција во 2023 година, кога Кина порача дека технологијата не смее да стане „одбеган коњ“, а САД предупредија на нејзина употреба за цензура и репресија. Оттогаш предупредувањата стануваат сè погласни, а глобалните правила се сè уште на ниво на говори.

Алтман рече дека одлуките не смеат да останат само во Сан Франциско. Убава реченица. Но ако правилата на крајот ги напишат Вашингтон, Пекинг и неколку лаборатории, што останува за малите држави – да ги применат кога ќе бидат готови?