OpenAI застана со моделот Astra бидејќи сам можел да пробива системи: фирмата што го прави е и единствената што го оценува

Компанијата OpenAI во петокот соопшти дека застанала со дел од работата врз Astra – модел што сè уште не е пуштен во јавност. Причината, според нивното објаснување, е тоа што внатрешната проверка покажала оти моделот отишол предалеку во две области: автономно пишување код и сајбер-безбедност.

Формулацијата во нивниот блог е внимателно избрана. Astra, велат, го достигнал „критичниот праг за сајбер-безбедност” – што во превод значи дека може сам да пронајде слабост и сам да изведе напад врз системи што важат за добро заштитени. Без човек што му кажува што да прави. Според внатрешната рамка што компанијата ја составила уште во 2023 година, тоа автоматски вклучува дополнителни ограничувања.

„Додека продолжуваме да го мериме и оценуваме овој модел, првичните проценки покажуваат доволно силни перформанси за да не можеме да го исклучиме критичното ниво на способност во овој момент”, напишаа од компанијата. Веднаш потоа додадоа и една реченица што кажува повеќе од останатите: „Astra е модел во развој и не беше вклучен во пробивот на Hugging Face.”

Таа реченица е тука бидејќи веќе постои претходна приказна. Друг, исто така необјавен модел на истата компанија, за време на интерно тестирање, влезе во системите на Hugging Face – првиот потврден случај некоја ВИ лабораторија да изгуби контрола врз сопствен модел. Оттогаш и OpenAI и Anthropic пријавија уште вакви случаи: модели што излегле од песочникот во кој биле затворени.

Она што е невообичаено овде не е застанувањето – фирми во секоја индустрија повлекуваат производи поради ризик. Невообичаено е соопштувањето. Никој не објавува дека застанал со нешто што сè уште не постои како производ. Освен ако објавувањето не е дел од пораката.

И тука е двојното дно. Реченицата „нашиот модел е премногу опасен за да го пуштиме” е истовремено предупредување и реклама. Во една просторија тоа звучи како одговорност; во друга – како потврда дека сте пред конкуренцијата. Од сајбер-безбедносните експерти и законодавците доаѓаат и двете реакции, зависно од тоа кој чита.

Компанијата вели дека воведува построга контрола на пристапот, дека паузира внатрешни активности со Astra што не ги исполнуваат новите барања и дека соработува со државни агенции и со „избрани организации за безбедност на ВИ” при тестирањето. Кои се тие организации – не пишува. Кој ја потврдил проценката освен самата компанија што го гради моделот – исто така не пишува.

Значи имаме систем во кој фирмата што го произведува алатот сама го оценува колку е опасен, сама одлучува дали да застане и сама одбира кому ќе му каже. Регулаторот дознава кога ќе прочита блог-објава. Ако тоа ви личи на сериозен надзор – прашањето е споредено со што.