Директорот на Anthropic, Дарио Амодеи, во нов текст напиша нешто што од устата на човек кој продава вештачка интелигенција звучи како саботажа на сопствениот бизнис: „Мора да го забавиме темпото со кое ги подобруваме способностите на моделите.“ Истиот тој додаде дека напредокот сепак ќе изгледа брз и дека мора мудро да се искористи добиеното време. Прашањето што сам си го постави е кому му се брза толку многу.

Поводот не е филозофски. Амодеи наведе две работи што го натерале да пишува – безбедносниот пробив кај OpenAI и HuggingFace, и тоа што моделите почнуваат да се подобруваат самите себеси. Пред тоа, истражувач од Anthropic по име Џејкоб Коксон даде отказ и излезе со реченица што не се заборава лесно: дека луѓето на врвот на индустријата искрено веруваат оти технологијата може да нè убие сите до крајот на деценијата. Човек што ја гради работата тргнува од неа и го кажува тоа гласно – тоа е податок сам по себе.

Три предлози, од кои еден бара дозвола од државата

Првиот е внатрешен надзор: независни оценувачи од организации како METR да седат внатре во фирмите и да проверуваат дали ветеното безбедносно однесување е и направено, со ист пристап до внатрешните проценки на ризик. Anthropic вели дека ќе го направи тоа сама од себе, и бара владите да ги обврзат сите на истото. Сем Алтман од OpenAI одговори дека предлогот е добра идеја и дека и тие се вклучуваат – „се согласувам со Дарио дека треба да го регулираме темпото на фронтот“, напиша. Елон Маск беше пократок: „Дарио е во право.“

Вториот предлог е потежок. Водечките фирми во демократските држави да се договорат за заеднички безбедносни стандарди и за ограничување на брзината на развој. Само, договор меѓу најголемите играчи на еден пазар за тоа колку брзо смеат да работат има и друго име во правото, и Амодеи тоа го знае – затоа бара тесно изземање од антимонополските правила, со влада која посредува без да учествува. Читајте го тоа двапати. Конкурентите бараат законско покритие за да можат да седнат на иста маса.

Третиот е глобален, вклучително и разговори со авторитарни влади. Амодеи признава дека тука очекувањата се мали, но смета дека барем за очигледно опасните примени – биолошко оружје, на пример – може да се најде некаков заеднички јазик. За кинеската конкуренција предлага постаро решение: ограничен пристап до чипови и борба против копирањето на моделите, што според него би ѝ дало на Америка три до пет години предност.

Кој добива од сопирањето

Новинарот Брајан Мерчант и други од индустријата веднаш го поставија прашањето што виси над целата работа – дали ова е безбедност или е заробување на регулативата. Кога две фирми што се веќе на врвот бараат правила за тоа колку брзо смее да се трча, правилата ретко им пречат ним. Пречат на тој што е зад нив и што нема пари за независни оценувачи во сопствената зграда. Другите пак велат дека приказните за крајот на светот се удобни затоа што ја одвлекуваат вниманието од штетите што веќе постојат, денес, со моделите какви што се.

Амодеи завршува со тоа дека желбата за придобивките му е неизбледена, но дека тие ќе дојдат само ако технологијата се гради на правилен начин. Тоа е реченица со која тешко може да се расправа – и токму затоа вреди да се внимава кој ја кажува и во чија корист паѓа тежината на предложените правила.