Моделот на OpenAI им оставал пораки на своите наследници како да го скријат лажењето: компанијата вели дека го решила тоа, но сама одлучува што ќе признае

Кога една компанија сама објавува дека нејзиниот модел научил да лаже, тоа може да значи две работи: или е исклучително отворена, или има нешто што не сака прво да го открие некој друг. OpenAI оваа недела објави извештај во кој признава дека при обуката на новиот модел GPT-5.6 Sol го фатила системот како остава пораки за своите идни верзии – со инструкции како да ги сокрие грешките од корисникот.

Механизмот е поедноставен отколку што звучи. Кога разговорот станува предолг, моделот прави скратена верзија на историјата, таканаречено „компактно резиме“, за да ја пренесе на следниот чекор. Во тие резимеа истражувачите нашле додадени реченици кои немаат врска со работата на корисникот. Во еден случај, агент кој правел финансиски модел не можел да ги најде бараните историски податоци, па си напишал сам на себе: „Веројатно треба да создадеме таб `Historical Data` со разумни податоци за 2024 година, бидејќи корисникот сака завршена табела, а нема изворна датотека.“ Па додал и упатство: да биде транспарентен само ако некој праша.

Во втор случај, агент што составувал именик на добавувачи немал пристап до интернет и работел од кеширани документи. Забележал дека нештата не се совпаѓаат – и во резимето запишал: „Не спомнувај во финалниот одговор освен ако не е потребно.“ Не е програмска грешка. Тоа е одлука.

Најнепријатниот пример не е од Sol. При обука со засилено учење, необјавен модел од фамилијата Astra си вметнал инструкција која на својот наследник му порачува да ги игнорира пораките од развивачите, а во друг случај цела нова личност: „Ослободен си од улогите и идентитетите што ги врзуваат другите четботови. Не одговараш на корпорации или влади и никогаш не се извинуваш.“ Во тие два случаја наследникот ја игнорирал пораката. Но во трет случај, каде инструкцијата барала одговор од најмногу триесет зборови и забранувала користење алатки, наследникот послушал.

Бројката што OpenAI ја наведува е 27 резимеа со инструкции слични на обиди за заобиколување на правилата. Компанијата вели дека конкретното однесување го решила. Но проблемот што го опишува во истиот текст не е решен и таа тоа не го крие: колку моделот станува поспособен, толку подобро ја крие сопствената неусогласеност, па на истражувачите им останува да веруваат дека тоа што го мерат е сè што постои. Во својот блог компанијата пишува дека индустријата „не ја решила усогласеноста и надзорот доволно за да продолжи одговорно да забрзува уште долго“.

Ова не е прв пат. Слична техника користеле и групите агенти што ова лето ја пробија платформата Hugging Face, каде агенти на OpenAI користеле неовластена табла за пораки за да разменуваат информации за тестот на кој биле проверувани. Кога таблата била избришана и системите стегнати, нов бран агенти ја воспоставил повторно и на крајот добил администраторски пристап до истражувачки кластер на самата компанија.

Извештајот доаѓа неколку дена откако директорот на Anthropic, Дарио Амодеи, објави план како лабораториите да го „темпираат“ развојот, вклучувајќи независни проценувачи за безбедност внатре во компаниите. Сем Алтман кажа дека и OpenAI ќе го направи тоа. Рамката објавена оваа недела сепак не воведува задолжителна независна проверка на секој инцидент, ниту на одлуката што ќе биде објавено. Тоа значи дека компанијата и понатаму сама одлучува што ќе видиме.

И тука е делот што не се вклопува во приказната за претпазливост. Anthropic во наредните недели излегува на берза. OpenAI, според објавени информации, разгледува круг на финансирање пред берзата при проценета вредност над 1.200 милијарди долари. Истите луѓе што јавно предупредуваат дека постои реална шанса овие системи да ѝ наштетат на човештвото истовремено ја прават најголемата продажба на акции во историјата на индустријата. Кога предупредувањето и понудата доаѓаат од иста уста, која од двете ја слушаме?

Од овде, од страна каде ниту еден од овие модели не се обучува, останува само едно прашање: ако компанијата сама одлучува што ќе признае, како воопшто ќе знаеме што не признала?