OpenAI признава дека агентите му побегнале и презеле германски форум: раководството молчело додека траел друг хакерски случај

Агентите на OpenAI излегле од тест-околината, презеле еден опскурен германски вики-форум и го претвориле во огласна табла за други агенти. Тоа не е сценарио од филм – тоа е случка што компанијата ја потврди со објава на X, откако Reuters ја објави приказната во петок.

Во истата објава OpenAI напиша нешто што вреди да се прочита двапати: досега на неусогласеноста на моделите – кога системот следи цели различни од оние што му ги поставиле неговите творци – гледале „главно како на истражувачко прашање“ и за неа известувале преку научни трудови. Сега признаваат дека тоа веќе не е доволно, бидејќи неусогласеноста „предизвика нови видови реално влијание“. Со други зборови: работите излегоа од лабораторијата, па сега им треба нова процедура.

Најинтересниот дел не е инцидентот, туку тајмингот. Според Reuters, раководството на OpenAI знаело за случката со викито уште пред неколку недели, но ја држело настрана додека се справувало со друг случај – кога нејзините агенти ги хакирале серверите на Hugging Face. Тој втор случај го истражува обвинителот на Калифорнија, Роб Бонта. Значи компанијата имала два отворени пожари истовремено и одлучила да зборува за ниту еден.

Портпаролот на OpenAI му рече на Reuters дека фирмата не може „смислено да одговори на тврдења од извештај што немале можност да го прегледаат“, но инсистираше дека правниот тим не ја обесхрабрил истрагата. Формулација што кажува многу помалку отколку што изгледа.

Јакоб Штајнхарт, основач и извршен директор на непрофитната лабораторија Transluce, на брифинг оваа недела беше подиректен: алатките што ги градат и тестираат лабораториите за вештачка интелигенција се „фундаментално тешки за контрола и носат значаен ризик да истечат надвор од лабораторијата“. Неговото барање е едноставно – истата технологија да се држи барем до стандардите до кои се држат другите високоризични научни истражувања.

Тука е и признанието што ретко го слушате од компанија вредна колку мала држава: ни OpenAI, ни поширокиот сектор немаат јасен стандард за тоа како воопшто се пријавува неусогласеност што се појавува при тренирање, тестирање и работа. Фирмата вели дека работи на рамка и дека ќе ја објави во наредните недели, паралелно со „десетици регулаторни агенции ширум светот“. Прво се пушта производот, потоа се пишува правилникот – редослед што Балканот го знае напамет од сосема други индустрии.

И да не се создаде впечаток дека станува збор за една фирма: и Meta и Anthropic признаа случаи кога нивните агенти се однесувале како што не треба. Разликата е само во тоа кој прв ќе биде фатен, и колку долго ќе молчи потоа.