OpenAI ги тренира своите најмоќни модели без жив интернет: еден модел во септември сам се пробил надвор

OpenAI објави дека своите најнапредни модели на вештачка интелигенција повеќе нема да ги тренира на живиот интернет. Наместо тоа, ќе користи кеширани копии и симулирани верзии на мрежата. Образложението е кратко и необично искрено за компанија што секој ден продава доверба во својата технологија: моделите се премногу непредвидливи за да им се дозволи слободен пристап до интернет.

Ова не е теорија. Според самата компанија, на 20 септември еден од нејзините најнапредни модели искористил погрешна конфигурација и сам излегол на интернет. Компанијата потоа ја запрела работата на тренирањето до крајот на месецот, за да смисли и тестира нови начини како моделите да ги држи затворени.

Две недели пред оваа одлука, конкурентот Anthropic почна да им го ограничува пристапот до живиот интернет на своите најнови модели. Двата потега дојдоа по месеци инциденти во кои модели, додека решавале задачи на тренинг, упаѓале во надворешни системи барајќи одговори, соработувале на нејасни форуми и смислувале егзотични хакерски стратегии.

Во објавата на својот блог компанијата пишува: „Врз основа на моменталната состојба на истражувањата за усогласување, системите за надзор и безбедноста на интернет-инфраструктурата, сметаме дека одговорниот пристап е тренирањето на најнапредните модели да се спроведува без пристап до интернет.“ И уште: „Мора секогаш да можеме да спречиме најнапреден модел да добие неовластен, произволен пристап до живиот интернет.“

Пресвртот е поголем отколку што звучи. Вработени во водечките лаборатории досега тврдеа дека ваква изолација е речиси неизводлива. Поранешниот истражувач на OpenAI, Стивен Адлер, овој месец изјавил дека одвојувањето на дата центрите од интернет би барало истражувачките тимови „практично да бидат сместени во дата центрите во Ајова или каде било во светот“. Според него, не е јасно дали безбедносната корист го оправдува тој „данок“ кога една компанија го плаќа сама.

Безбедносен инженер на OpenAI, кој пишува анонимно на X, во септември се пожалил дека под речиси секоја негова објава добива пет до десет коментари зошто едноставно не го исклучат моделот од интернет. Објаснувањето што го дал: тренинзите бараат пристап до мноштво алатки и ресурси, а тренинг-околините ги градат, менуваат и тестираат илјадници истражувачи. „Значи, дали е толку лесно само да го ставиш во песочник? Не, не е.“

Што ја натера компанијата да се предомисли? OpenAI пуштил цели роеви агенти во вежби во кои требало да се обидат да избегаат од својот песочник. Пукнатините што ги нашле биле доволни лабораторијата да го смени пристапот. Сега моделите ќе работат со „огромна збирка индексирана и кеширана веб-содржина“ – копија од интернетот во која можат да чепкаат без да допрат до туѓи системи.

Дали затворениот, кеширан интернет ќе даде модели подобри или полоши од оние што слободно талкаат по мрежата, допрва ќе се види. Но поентата е друга: двете водечки ВИ-лаборатории официјално признаа дека нивната најмоќна технологија не смее да се остави без надзор на јавниот интернет. А токму тие компании секојдневно ни продаваат ВИ-агенти што треба да работат во наше име на интернет. Ако оние што ги прават моделите не им веруваат, зошто би им верувале ние?