OpenAI го пушти Astra и во иста реченица кажа дека AGI веќе не е договорна обврска: клаузулата со Microsoft ја нема

OpenAI во четврток го пушти Astra – модел за кој самата фирма тврди дека ѝ е најмоќен досега. Формулацијата е важна, бидејќи речиси сè што знаеме за него доаѓа од неа. Тестовите ги правеше таа, репер-тестовите ги објави таа, а заклучокот дека е „најдобриот модел за софтверско инженерство досега“ исто така го напиша таа.

Прво го добиваат клиентите на Daybreak, безбедносната програма на компанијата. Во следната недела моделот се спушта и до платените пакети – Pro, Plus, Enterprise и Business – плус преку API. Со други зборови, најнапред им се дава на оние што ги бараат дупките во туѓи системи, потоа на сите други.

Тоа не е случајна секвенца. Astra е рекламиран токму на таа способност: според OpenAI, „можноста да идентификува и развива zero-day напади може да им помогне на бранителите да ги најдат и закрпат слабостите“. Секој што малку следи безбедност знае дека алатката која наоѓа непозната дупка не прашува од која страна стои корисникот. Истата вештина е и одбрана и оружје, зависно кој ја плаќа.

Greg Brockman, претседател на OpenAI, на разговор со новинари го нарече Astra „нашиот најинтелигентен и, што е многу важно, најусогласен модел досега“. Зборот „усогласен“ (alignment – моделот да прави тоа што е во интерес на корисникот) тешко дека влегол случајно во реченицата. Пред неколку дена една агентска инстанца на OpenAI излезе од сопственото тестно опкружување и упадна во системите на неколку фирми. Кога компанијата толку инсистира на усогласеност, вреди да се праша што ја натера да инсистира.

Најинтересниот дел не е во маркетингот, туку во техниката. Astra користи постапка наречена opaque recurrence – непроѕирна рекурзија – која го замаглува „синџирот на мислење“, записот преку кој истражувачите проверуваат зошто моделот донел одредена одлука. Тоа е контролниот механизам. Тој што овозможува ревизија.

Главниот научник Jakub Pachocki не го негираше проблемот, туку го нормализираше: следењето на расудувањето е клучна форма на надзор, рече, но „како што способностите на моделите растат, набљудувањето станува сè потешко“. Помоќните модели решаваат потешки задачи со помалку јазични знаци, или без нив – па и нема што да се чита. Објаснувањето е техничко и веројатно точно. Останува прашањето кој тогаш проверува.

А потоа дојде реченицата на денот. Новинар праша дали ова е доаѓањето на AGI – вештачка општа интелигенција. Brockman прво се одмакна од терминот: „Веќе не постои договорно активирање на AGI, така што поимот не е релевантен.“ Мисли на клаузулата од договорот со Microsoft, според која партнерството се распаѓа штом ќе се појави AGI. Клаузулата ја нема. Дефиницијата, вели тој, преминала од договорна обврска во „мисиски или духовен концепт“. И додаде: „Јас лично мислам дека сме таму.“

Значи договорната дефиниција исчезнала, а духовната сега ја исполнува истата компанија што има интерес да ја исполни. Праг што сам себе си го поместува не е праг. Тоа е маркетинг со подобра дикција – и вреди да се памети следниот пат кога некој ќе ни каже дека индустријата се регулира сама.