Anthropic во проспектот за берза предупредува дека е близу до ВИ што сама се подобрува: признава дека забрзувањето на сопствениот развој веќе еднаш го забележала дури откако се случило

Anthropic ја објави ревидираната пријава за излегување на берза (документот S-1/A) и вниманието веднаш отиде на бројките: приходите растат, но растат и трошоците. Подлабоко во документот, во делот за ризици, стои реченица поважна од секој биланс. Компанијата пишува дека можеби е на прагот на вештачка интелигенција што сама себе се подобрува.

Терминот е рекурзивно самоподобрување (RSI) – точката кога ВИ станува толку добра во тренирањето на самата себе што развојот почнува да се забрзува без кочница. За едните тоа е моментот кога човекот ја губи контролата и нема враќање назад. За другите е ветување за продуктивност и научни откритија што тешко можеме да ги замислиме. Anthropic, според сопствениот документ, мисли дека е и едното и другото.

Новите реченици во делот за ризици се две. Првата: компанијата сè повеќе користи ВИ за сопствениот развој, па моделите може да напредуваат побрзо отколку што таа стигнува да ги провери и обезбеди. И признава дека во минатото значително забрзување во развојот не го препознала сè додека тоа веќе не се случило. Втората: внатрешните проценки за идните модели покажуваат дека Anthropic можеби „во блиска иднина“ ќе го достигне прагот што во сопствената Политика за одговорно скалирање го опишува како „драматично забрзан напредок што се должи на ВИ“.

Документот веднаш и смирува. За ниеден од сегашните модели не е утврдено дека го преминал тој праг, а податоците сè уште се анализираат. Компанијата пишува дека не очекува безбедно да го пушти Claude целосно сам да дизајнира и да гради нови генерации модели без „значаен човечки надзор или разбирање“, и дека размислува за промени во политиката за да ги задржи луѓето во контрола.

Тука треба да се застане и да се прочита кој пишува и зошто. Проспектот за берза е истовремено задолжително откривање на ризици и рекламен материјал пред продажба на акции. Компанија што им кажува на инвеститорите дека е близу до ВИ што сама се гради им праќа и друга порака: дека е пред сите други. Дали е ова предупредување или најскапата реклама на годината?

Од друга страна, напредокот на Claude оваа година во програмирање, математика и сајбер-безбедност се гледа и без проспект. Ако самата компанија што го гради системот вели дека ѝ се приближува на линијата, прашањето повеќе не е технолошко. Кој ќе ја чува таа линија – акционерите што допрва влегуваат, или законодавците во Вашингтон и во Брисел?