Соосновач на Anthropic бара законски прекинувач за гасење на вештачката интелигенција: Се коцкаме со огромни ризици

Џек Кларк, соосновач на Anthropic, предлага технолошките компании законски да бидат обврзани да вградат „прекинувач за исклучување“ во своите системи за вештачка интелигенција – и трета, независна страна да провери дали тој прекинувач навистина функционира.

Кларк вели дека „повеќето лаборатории имаат различни начини да го исклучат струјниот кабел“, вклучувајќи го и самиот Anthropic. Но тоа е доброволно. Неговото прашање е друго: „Дали бараме од компаниите да имаат прекинувач за исклучување? Може ли трето лице да го провери тој прекинувач? Мислам дека тоа се работи што општеството ќе сака да ги знае.“

Бројката од која никој не бега

Еван Хубингер, научник во Anthropic, изјави дека лично смета оти веројатноста вештачката интелигенција да предизвика истребување на човештвото надминува „10 проценти во следната деценија“. Џефри Хинтон, познат како „таткото на вештачката интелигенција“, ѝ кажа на Би-Би-Си дека таа проценка од 10 проценти „не е неразумна“.

Кларк е поздржан – вели дека таквите статистики „не се особено корисни“ – но потоа додава реченица што е потешка од секоја процентуална проценка: „Се коцкаме со огромни ризици. Поентата е дека мораме да ја смениме насоката во која оди оваа индустрија.“

Законодавците: еден предлага, друг одбива, трет се смее

САД имаат предлог-закон наречен Kill Switch Act, кој би барал од компаниите да можат да оневозможат проблематични алатки. Британската влада, пак, го одби воведувањето обврска за прекинувач – со образложение дека тоа „не би спречило нивно развивање или злоупотреба на друго место“. Аргументот е убав, а логиката му е позната: ако сите не го прават, зошто ние?

Доналд Трамп ги отфрли предупредувањата за безбедноста на вештачката интелигенција, нарекувајќи ги тврдењата за истребување „ИЗМАМА“ на социјалните мрежи.

Anthropic е основана во 2021 година од поранешни вработени во OpenAI и стои зад чатботот Claude. Според пишувањата, компанијата се подготвува за можно рекордно излегување на берза. Сем Алтман од OpenAI, пак, изјави дека нивното излегување нема да се случи оваа година токму поради тековните дискусии за безбедноста.

Значи: истите луѓе кои предупредуваат дека индустријата оди во погрешна насока се и тие што ја градат и се спремаат да ја продадат на инвеститори. Тоа не ги прави лажговци – ги прави луѓе кои знаат точно што прават. И тоа е попознемирувачко.