Безбедносниот тим на Anthropic вели дека постои над 10 отсто шанса вештачката интелигенција да ги избрише сите луѓе

Еден истражувач си замина од Anthropic со образложение дека водечките фирми за вештачка интелигенција „коцкаат со нашите животи“. Јакоб Коксон, кој претходно работел и во OpenAI, го напишал тоа јавно и си го затворил вратата зад себе. Дотука – уште една оставка во индустрија што ги троши луѓето побрзо отколку што ги вработува.

Потоа настана нешто поинтересно. Наместо фирмата да го демантира, човекот задолжен за безбедност на моделите во Anthropic ја сподели неговата објава и додаде: „Ние навистина искрено веруваме дека вештачката интелигенција може да ги убие сите луѓе!“ Со извичник. И со процент – лично проценува дека шансата е „над 10 отсто во следната деценија“.

Застанете тука за момент. Човек кој е платен да ја чува безбедноста на еден од двата најмоќни модели на светот вели дека постои еден шанса од десет неговиот производ да ја избрише човечката раса – и продолжува да оди на работа во понеделник. Тоа не е предупредување. Тоа е признание.

Бројката што никој не ја пресметал

Проблемот со тие 10 отсто е што не доаѓаат од никаде. Не постои модел, не постои студија, не постои методологија зад нив. Тоа е чувство облечено во процент – трик стар колку и самата технолошка индустрија, каде што секоја проценка звучи посериозно штом ќе добие децимала. Ако утре истиот човек напише 30 отсто, никој не би можел да го оспори, бидејќи нема од што.

И тука е второто прашање што виси во воздухот: кои сме „ние“? Една објава на општествена мрежа зборува во име на цела професија која воопшто не е согласна меѓу себе. Дел од истражувачите мислат дека опасноста е реална и блиска. Дел мислат дека е научна фантастика продадена како ризик-менаџмент. Едно „ние“ ги става сите во иста реченица и им става зборови в уста.

Кој профитира од стравот

Постои поцинична – и посоодветна – можност. Секоја објава од типот „нашиот модел направи нешто што не го очекувавме“ истовремено е и признание за неуспех и реклама за моќ. Ако производот не беше способен, немаше да има од што да се плашиме. Значи стравот и маркетингот овде се истата реченица, прочитана од два агла.

Не е случајно ниту тајмингот. Anthropic се подготвува за излегување на берза, а проспектот што мора да го поднесе до американскиот регулатор ги набројува ризиците на бизнисот. Некој адвокат во некоја канцеларија токму сега размислува како да се напише дека постои над 10 отсто шанса фирмата да создаде нешто што ќе ја уништи цивилизацијата – и дека тоа „би имало негативни последици по работењето“. Во нормални времиња таква реченица би ја срушила проценетата вредност. Во овие, можеби ќе ја крене.

Што се губи додека сите гледаме кон хоризонтот

Има и трошок што ретко се спомнува. Додека дебатата се води за тоа дали машините ќе нè избришат за десет години, работите што веќе се случуваат остануваат без внимание – работни места што исчезнуваат сега, потрошувачка на струја и вода од дата центрите што расте сега, одлуки за луѓе што ги носи алгоритам сега. Зборовите „суперинтелигенција“ и „AGI“ го земаат целиот воздух во просторијата. Она што останува е потивко и подосадно, но е реално и е тука.

За Балканот ова не е далечна расправа колку што изгледа. Ние не ги градиме овие модели и нема да учествуваме во одлуката кога да застанат – но ги користиме, а нашите институции ги немаат ниту капацитетот ниту законите да проценат што влегува во нив. Кога фирмата што го прави производот отворено кажува дека не е сосема сигурна што прави тој производ, прашањето за корисникот на другиот крај на светот е сосема едноставно: на кого се жалиш?