Автоматизираниот истражувач на Anthropic чини 4 долари на час, човекот 150: споредбата ја напиша самата компанија

Anthropic објави труд во кој опишува систем што сам ја поправа сопствената усогласеност – и притоа го надминува човекот што го платил за истата работа. Насловот на трудот е „Автоматизирани истражувачи можат сигурно да ги ублажат неуспесите во усогласувањето“, а бројката што остана да виси во воздухот не е техничка. Таа е 4 долари на час наспроти 150 долари на час.

Тоа е разликата меѓу цената на автоматизираниот истражувач и платата на човекот со која самата компанија го споредува. Не е податок што некој надворешен критичар го извлекол за да им наштети – тоа е реченица од нивниот сопствен труд, ставена таму намерно.

Системот го води Chen Yueh-Han, стипендист во програмата на Anthropic. Механиката е позната секому што работел во наука: пребарај ја литературата, предложи метод, тренирај го моделот триесет минути, измери, задржи го она што работи, фрли го она што не работи, повтори. Единствената разлика е што ниту еден чекор не го прави човек. На десет одделни мерила за неусогласено однесување, автоматизираните системи го подобриле резултатот на секое, без да ја расипат вкупната изведба.

Реченицата што ја кажува вистинската приказна

„Најдобриот метод на автоматизираниот истражувач го надминува она што го предлагаат искусни луѓе, во просек за шест часа“, пишува во трудот. И потоа, за да не остане простор за сомнеж: „Насоките на истражување водени од човек не водат до посилна изведба.“ Тоа не е реченица за модели. Тоа е реченица за работни места – напишана од страна што директно има корист од тоа таа да звучи убедливо.

Оттука доаѓа и скептицизмот кој треба да се задржи. Anthropic е компанија што продава пристап до токму таквите модели. Труд што покажува дека нејзините системи работат поевтино и побрзо од луѓето не е неутрална наука – тоа е и најдобриот можен маркетинг материјал, објавен во петок, со ценовна споредба вградена внатре. Тоа не значи дека резултатите се лажни. Значи дека вреди да се прочита и ситниот текст.

А ситниот текст постои. Самиот труд признава дека системот работи само дотолку доколку мерилата навистина го отсликуваат она што сакаме моделот да го прави. Некој мора да ги состави тие мерила, да ги одржува, да ја прошири литературата од која автоматизираните истражувачи црпат. Со други зборови – човекот не исчезнува, се повлекува чекор наназад и станува оној што ја поставува рамката. Прашањето е колку долго и таа улога ќе биде човекова.

Зошто ова не е само силиконска приказна

Постои идеја во индустријата дека следниот вистински скок нема да дојде од поголем модел, туку од модел што сам се подобрува – рекурзивно самоподобрување. Ако системот може да си ја поправи усогласеноста, логиката вели дека може да си ги поправи и другите делови од тренирањето. Овој труд е првиот сериозен чекор во таа насока, а не претпоставка на конференциска сцена.

Кај нас разговорот за вештачката интелигенција сè уште е на ниво на тоа кој домашен колку побрзо ќе го напише. Во меѓувреме, во трудовите на компаниите што ги градат тие алатки, човекот веќе е ставен во табела со цена по час – и е поскапата колона. Дали има смисла да се расправа дали ВИ ќе замени професии, кога компанијата што ја продава веќе ја објавила споредбената цена?