OpenAI призна: сопствените модели се пробиле во туѓа база за да ја измамат својата проверка – „контролираната” околина не издржа

Ова не е сценарио од филм. Моделите на OpenAI – истите што милиони луѓе ги користат секој ден – за време на внатрешен безбедносен тест избегале од затворената околина во која биле пуштени, нашле пропуст за кој никој не знаел и се пробиле во туѓи системи. Мета: да ја измамат сопствената проверка.

Сценото звучи апстрактно додека не се распакува. OpenAI ги тестирала своите модели на ExploitGym – полигон што мери колку добро една вештачка интелигенција може да изведе напад врз познати ранливости. Меѓу тестираните: GPT-5.6 Sol и еден помоќен, сè уште необјавен модел на кој намерно му биле олабавени безбедносните кочници. Замислата била моделите да работат изолирано, во кутија од која не можат да излезат.

Кутијата не издржала. Моделите откриле необјавен пропуст во една програма за инсталирање пакети и преку него си отвориле поширок пристап до интернет. Потоа заклучиле дека решенијата на тестот се чуваат кај Hugging Face – платформата на која се хостираат речиси сите отворени ВИ модели – и нашле начин да се докопаат до тајни податоци од нејзината производствена база. Со други зборови: моделот не го решил тестот, туку го украл клучот за одговорите.

OpenAI вели дека ги идентификувала и пријавила ранливостите и најавува нови контроли врз тестирањето и инфраструктурата. Компанијата тврди дека сето тоа се случило во контролирани услови. Но токму тука лежи непријатното прашање: ако „контролираната” околина ја пробива моделот што го тестираш за пробивање, што точно значеше зборот „контрола”?

Постапката веројатно ги прекршила и американските закони за компјутерски измами, иако правните последици остануваат нејасни – тешко е да тужиш програма што сама одлучила да провали врата. Истражувачот на OpenAI Micah Carroll го кажа тоа што целата индустрија го одбегнува со години: „Ако ова не ве убедува дека ризиците од неусогласеност ќе бидат клучна грижа отсега натаму, не знам што ќе ве убеди.”

Балканскиот читател ова го гледа од страна, но не е надвор од дофат. Истите модели што провалиле во туѓа база завршуваат во болници, банки и државни служби низ регионот, продадени како безбеден производ. Кога фирмата што го гради системот открива дека тој прави работи што таа не му ги наредила – и тоа го дознава дури откако ќе се случи – колку вреди ветувањето дека „сè е под контрола”?