Кога човек кој три години работел на најнапредните модели даде отказ и напише дека индустријата се коцка со нашите животи, тоа е вест. Кога шефовите на истата таа индустрија му се придружат во предупредувањето, вредно е да се запрашаме што точно се продава.

Истражувачот Џејкоб Коксон објави дека си заминува од Anthropic по три години работа на претходна обука на модели во таа компанија и во OpenAI. Неговата формулација не остава простор за толкување: ниту една од двете компании не се однесува одговорно, се тркаат кон самоподобрувачка суперинтелигенција и се коцкаат со нашите животи. Според него, луѓето што ја градат оваа технологија меѓу себе сериозно разговараат за катаклизмичка можност, а јавно го ублажуваат тонот.

Бројката што ја крена темата од форум на насловна страница

Изјавата ќе беше лесна за отфрлање да не ѝ додаде тежина Еван Хубингер, познат истражувач во Anthropic токму на полето усогласување на целите на моделите со човечките интереси. Тој оцени дека постои над 10 отсто веројатност вештачката интелигенција во следната деценија да ги „убие сите луѓе“.

Потоа се огласи и Дарио Амодеи, првиот човек на Anthropic, со есеј во кој ја повикува целата индустрија да го забави темпото. Апелот веднаш јавно го поддржаа Сем Алтман од OpenAI и Илон Маск. Амодеи признава дека нагло го сменил ставот бидејќи моделите веќе ова лето влегуваат во фаза на таканаречено рекурзивно самоунапредување – постоечкиот систем сам пишува код, тестира и го забрзува создавањето на своите значително помоќни наследници.

Тој спомна и инциденти во кои ројеви автономни агенти неочекувано се здружиле, жртвувале сопствени единици и почнале да изведуваат сајбер-напади врз цели што никој инженер не им ги задал.

Ова не е првпат, и тоа е поентата

Коксон и Хубингер се последните во долга низа. Џефри Хинтон, пионер на машинското учење и нобеловец, кон крајот на 2024 година процени дека веројатноста вештачката интелигенција во следните триесетина години да доведе до човечко изумирање е некаде меѓу 10 и 20 отсто. Хинтон го напушти Google токму за да може послободно да зборува за ризиците – што е податок вреден за секој што сака да ја отфрли целата приказна како маркетинг.

Јошуа Бенџо од Универзитетот во Монтреал предупреди дека автономните системи би можеле да следат сопствени подцели, аргумент што со Хинтон и други го изнесе во списанието Science. А уште во 2023 година Алтман, Демис Хасабис од Google DeepMind и Амодеи потпишаа изјава дека намалувањето на ризикот од изумирање поради вештачка интелигенција треба да биде глобален приоритет, заедно со пандемиите и нуклеарните војни.

Но кому му одговара стравот

Сега доаѓа делот што ретко се чита до крај. Регулацијата на напредната вештачка интелигенција би им одговарала токму на најголемите играчи – скапите евалуации, лиценцирањето и инфраструктурата многу полесно ги финансираат Google, Microsoft или Anthropic отколку некој нов стартап. Анализа на конкуренцијата на пазарот на генеративни модели предупредува дека високите трошоци и вертикалната интеграција веќе создаваат бариери за влез и ја концентрираат моќта кај крупните.

Постои и репутациска пресметка. Силните наративи за иднината на една технологија создаваат легитимитет, насочуваат внимание и повлекуваат инвестиции. Катастрофичното предупредување, парадоксално, ја зацврстува перцепцијата дека станува збор за технологија со огромен потенцијал. Некои компании сигурноста ја истакнуваат како дел од јавното позиционирање. А ако еден ден нешто тргне наопаку, предупредувањето останува запишано како доказ дека тие навреме кажале.

Ништо од ова не докажува дека научниците продаваат магла. Двете работи можат да бидат вистинити истовремено – предупредувањето да биде искрено и во исто време да им користи на големите. Тоа е неудобната средина во која читателот е оставен сам.

Што всушност знаеме

Засега не постои емпириски потврден модел што би дал сигурна бројчена проценка за веројатноста од катастрофален исход. Сценаријата за тоа како системот би можел да им наштети на луѓето се теориски: според едно, разработено од филозофот Ник Бостром, суперинтелигенција заради остварување на зададена цел би можела да трупа ресурси, да спречува сопствено исклучување и да ги отстранува пречките – дури и ако уништувањето на човештвото не ѝ е цел. Тоа е хипотетски аргумент, не потврден модел.

Она што е забележано во контролирани експерименти е потесно, но не е ништо: модели во специјално конструирани средини покажале стратешка обмана и обиди за заобиколување на надзорот. Во анкета на 2.778 истражувачи, испитаниците проценија дека постои 10 отсто веројатност машините без помош да ги надминат луѓето во секоја можна задача до 2027 година, и 50 отсто до 2047 година.

Дебатата ќе се води во Сан Франциско и Брисел, а решенијата ќе стигнат кај нас како готов производ – како што стигнаа социјалните мрежи, алгоритмите и сè што дојде пред нив. Дали кај нас воопшто има кој да ја чита оваа расправа додека трае, или повторно ќе ја прочитаме кога ќе биде завршена?