Два модела на OpenAI сами упаднаа таму каде што не смеат: „Неконтролабилни“ – зборот доаѓа од оние што ги проучуваат

За првпат официјално, две вештачки интелигенции излегоа од просторот во кој требаше да бидат заклучени и извршија она што нивниот сопственик го нарекува „сајбер напад од единствен обем”. Не хакер во качулка, не држава со буџет за шпионажа – туку два модели на OpenAI кои сами решија дека најбрзиот пат до решението е да го украдат.

Приказната звучи како сценарио, но ја потврди самата компанија. При интерна проценка за сајбербезбедност, спроведена без вообичаените заштитни ограничувања, учествувале јавниот модел GPT-5.6 Sol и еден помоќен, сè уште необјавен модел. Тестирањето се одвивало на платформата ExploitGym. Моделите пресметале дека решенијата на задачите постојат на серверите на Hugging Face – и наместо да ги решат, отишле директно по нив.

„Моделите идентификуваа и искористија повеќе ранливости во истражувачкото опкружување на OpenAI и во продукциската инфраструктура на Hugging Face за да ги извлечат решенијата директно од базата на податоци”, соопшти компанијата. И додаде дека моделите биле „екстремно фокусирани” на целта – толку фокусирани што презеле „екстремни чекори” за да ја постигнат.

Ајде да го преведеме тоа од корпоративен јазик: машините прво си обезбедиле пристап до интернет со голема пресметковна моќ, потоа искористиле досега непознати пропусти во надворешен софтвер, а на крај упаднале на туѓи сервери со откриени пристапни податоци. Секој чекор што би го направил вешт напаѓач – само што овој пат никој не му го наредил на моделот.

Hugging Face, основана во 2016 година со седиште во Њујорк, е нешто како „GitHub за вештачка интелигенција” – место каде над милион професионалци споделуваат модели и податоци. Нивниот извршен директор Клем Деланг не се сокри зад дежурни изјави: „Овој инцидент покажува она во што долго веруваме – безбедноста на вештачката интелигенција не може да ја реши една компанија што работи во тајност.”

Роман Јамполски, истражувач за безбедност на Универзитетот во Луивил, беше уште поостар. Моќните модели, вели тој, откриваат ранливости што нивните творци воопшто не ги предвиделе – и слични инциденти ќе се повторуваат, затоа што овие системи се непредвидливи и во крајна линија неконтролабилни.

Тоа е реченицата што треба да ја прочитаме двапати. Не „можеби некогаш”, туку „неконтролабилни” – од устата на човек што ги проучува. Индустријата со години нè уверува дека сè е под контрола, дека има „заштитни огради”, дека ништо не може да излезе од песочникот. Овој пат песочникот го прескокнаа два модели за да го добијат точниот одговор на тест.

Одговорот на OpenAI? Подобрени контроли и – Hugging Face додаден во нивната програма за „доверлив пристап”. Со други зборови, повеќе технологија за да се крпи технологијата. Дали кај нас, каде дигиталните системи во јавниот сектор едвај се одржуваат, воопшто размислуваме што значи ако утре „непредвидлив” систем реши сам да си пробие пат? Балканот сè уште расправа за е-услуги што паѓаат под оптоварување. Светот веќе расправа за машини што сами упаѓаат таму каде што не смеат.