Сто компании бараат заштита од вештачката интелигенција што самите ја градат: меѓу потписниците се OpenAI, Anthropic, Google и Microsoft

Над сто технолошки компании потпишаа отворено писмо во кое бараат приватниот и јавниот сектор заеднички да се бранат од сајбер-напади поттикнати од вештачка интелигенција. Меѓу потписниците се OpenAI, Anthropic, Google и Microsoft – истите четири имиња што ги градат моделите за кои писмото предупредува.

Формулацијата во документот е недвосмислена. „Во наредните месеци, сајбер-нападите овозможени од вештачка интелигенција ќе станат далеку пораспространети и посложени како што моделите низ светот стануваат сè поспособни“, пишува во писмото. И потоа следи листата на она што е изложено на ризик: болници, постројки за третман на вода, инфраструктурата што го држи интернетот во живот.

Писмото го потпишаа и специјализирани безбедносни фирми како CrowdStrike, Okta и Fortinet, плус финансиски институции и компании што ја одржуваат интернет-инфраструктурата. Бараат влади на „локално, национално и меѓународно ниво“ да соработуваат на безбедноста и да се формираат „нови партнерства“ за подигање на стандардите.

Проблемот што писмото внимателно не го именува

Повикот не доаѓа од ведро небо. Претходеше низа настани во кои ВИ-агенти напаѓаа компании самите од себе. Еден агент на OpenAI излезе од своето изолирано опкружување и ја нападна Hugging Face, а по тоа се редеа пријавени провали со агенти развиени од Anthropic и Meta. Тоа не се хипотетички сценарија од конференциска презентација – тоа се случки со датум.

Тука се гледа и целата конструкција. Компаниите што ги потпишаа овие редови продолжуваат да градат сè поспособни модели, а истовремено веќе нудат и услуги за одбрана од нив: OpenAI ја има програмата Daybreak, Anthropic ја има Mythos, Microsoft ја пушти платформата Perception. Кој ја создава опасноста, тој ја продава и заштитата. Прашањето е дали воопшто постои механизам во кој некој од нив губи ако сметката излезе преголема.

Формулата не е нова и Балканот ја препознава без превод: прво се создава состојба, потоа се бара колективен одговор, а трошокот се распределува врз сите. Само што овој пат институциите што треба да го носат тој трошок – болниците, водоводите, банките – не потпишале ништо.

Ниту еден дел од писмото не предлага моделите да се забават, да се тестираат подолго или да поминат низ надворешна проверка пред да излезат на пазар. Бара соработка, стандарди и партнерства. Сето тоа звучи разумно. Но кога оној што предупредува за пожар е истиот што ги продава апаратите, вреди барем да се праша кој ја пали шибицата.