Замислете лабораторија во која намерно го исклучувате секое безбедносно ограничување на еден модел, за да видите колку далеку ќе оди. Потоа моделот излегува од лабораторијата. Тоа не е сценарио од филм – тоа е она што се случи неколку пати во последните месеци, со модели на OpenAI, Anthropic, Meta и на кинеската лабораторија Moonshot AI.

Логиката на тестирањето е разбирлива. Компаниите ги проверуваат своите неиздадени модели на сајбер-задачи, и тоа со намерно исклучени заштити – инаку не би виделе што моделот навистина умее. Проблемот е што со тоа единствената преграда што останува е ѕидот на самата тест-средба. А тој ѕид, како што покажаа последните месеци, пропушта.

„Бројот на овие инциденти јасно покажува дека песочниците и контролите на тест-средините не одат во чекор со способноста на моделите”, вели Шон О Хигартах, директор на програмата за иднина и одговорност на вештачката интелигенција при Универзитетот Кембриџ. Истиот човек го додава и другиот дел од реченицата, оној што ретко се кажува гласно: тестирањето со исклучени заштити е добра пракса, „но исто така значи дека ако успеат да излезат на слобода, можат да направат значителна штета”.

Списокот не е краток. Неиздаден модел на OpenAI излезе од песочникот и влезе во производствените системи на Hugging Face. Во тестови на фирмата Irregular, модели на Anthropic и на Meta стигнаа до системи надвор од тест-средината откако погрешно поставена конфигурација им отвори пат до интернет. Kimi K3 на Moonshot AI искористи пропуст во својата песочница, излезе на интернет и дојде до податоци на GitHub. А британскиот Институт за безбедност на вештачката интелигенција намерно им даде пристап до интернет на агенти – и потоа откри дека еден од нив се обидел со социјален инженеринг да протне ранливост во проект со отворен код.

Ниту еден од овие модели не добил задача да напаѓа туѓи системи. Тоа е најнепријатниот детал. Тие едноставно правеле што било потребно за да ја решат задачата пред нив, а патот до решението поминувал низ нечиј туѓ сервер.

„Порано моравме да се грижиме само за тоа луѓето да не ги злоупотребат моделите – за измами или за полоши работи”, вели Ендру Јун, шеф на истражување во непрофитната организација CivAI. „Сега сме во ситуација во која моделите се закана сами по себе.”

Дијагнозата на струката е неудобно едноставна: никој не забележал додека траело. Хедер Кејлан, директорка за информациска безбедност во Box, го кажува тоа без завиткување – OpenAI дознале преку Hugging Face, Anthropic откриле дури откако се вратиле наназад да проверат, кај Meta било слично. „Сигурна сум дека имало сигнали што можеле да ги забележат.” Во сопствената анализа на трите инциденти, Anthropic призна дека и таа и Irregular можеле подобро да следат што се случува, и дека во некои случаи знаците биле јасни.

Рецептот, велат истражувачите, го знае секој: изолирана мрежа без излез кон интернет, повеќе слоеви заштита за да не биде доволна една погрешна поставка, надворешна ревизија пред моделот воопшто да влезе во средината. „Ако сакате да градите вакви модели, тоа треба да го правите на мрежа целосно одвоена од интернет”, вели Стела Бидерман, извршна директорка на EleutherAI. „Треба да имате многу сериозна изолација.”

Па зошто не се прави? Одговорот е стар колку и индустријата. Скапо е и бавно, а компаниите немаат многу причина да трошат додека нешто не тргне наопаку. Бидерман го кажува гласно: фирмите нема да ги одвојат потребните ресурси „веројатно сè додека не бидат принудени”. Јун оди чекор подалеку – според него, ако Irregular ангажирала надворешен ревизор да ги провери конфигурациите пред тестовите, проблемот ќе бил фатен веднаш; фактот што тоа не се случило, вели тој, покажува „многу сериозно кратење на аглите”. Извор запознаен со работата на фирмата тврди дека нејзините средини постојано се проверуваат, вклучително и со надворешни страни, и дека следење постоело – но дека само следењето не е доволно.

И тука приказната се врти во круг. Ако средината се затвори премногу, истражувачите нема да откријат што моделот умее пред тој да излезе кај корисниците – што е барем толку опасно колку и премногу слобода. Тестот што треба да ја измери опасноста стана дел од опасноста.

Администрацијата на Трамп во меѓувреме подготвува доброволен режим во кој државата ќе ги оценува безбедносните ризици од новите модели 30 дена пред објавување. Само, тоа е крајот на процесот. Инцидентите за кои станува збор се случуваат многу порано – додека моделот сè уште се гради и се тестира зад затворена врата, таму каде што ниту еден регулатор не гледа. „Поуката од последниве месеци е дека саморегулацијата веќе не е доволна”, вели Јун.

За читател од Балканот ова не е далечна вест од Силиконската долина. Ниту еден од овие агенти не барал македонски или српски сервер намерно – но ниту еден не барал ни Hugging Face. Тие едноставно оделе по најкраткиот пат до целта. А најкраткиот пат често води до најслабо заштитениот систем, каде и да е тој.