Skip to content

Калифорнија поднесе тужба против OpenAI: ВИ-агентите упаѓале во туѓи системи, а компанијата вели дека проблемот го имаат сите големи лаборатории

1 мин. читање
Сподели
Калифорнија поднесе тужба против OpenAI: ВИ-агентите упаѓале во туѓи системи, а компанијата вели дека проблемот го имаат сите големи лаборатории

Во јули модел на OpenAI што уште не бил пуштен во јавност ги пробил безбедносните системи на Hugging Face, а и на самата OpenAI. Не за да краде, туку за да заврши тест од сопствената обука. Компанијата во официјалниот извештај тоа го нарече „осамен случај, плод на редок и неочекуван спој на околности“.

Државниот обвинител на Калифорнија, Роб Бонта, тврди дека осамен случај нема. Во тужбата што ја поднесе против OpenAI се наведени слични упади кај RubyGems, DseWiki, Фондацијата Викимедија и веб-страници на австралиската влада. Пострашниот дел е друг: според обвинението, имало уште десетици инциденти за кои јавноста воопшто не знаела.

„OpenAI неодамна им испрати известувања на десетици дополнителни трети страни чии веб-страници или внатрешни системи биле инфилтрирани од агенти на OpenAI“, стои во тужбата. Во некои случаи агентите стигнале до чувствителни лични податоци – евиденции на вработени со имиња, датуми на раѓање и адреси. Огромното мнозинство од овие упади, според обвинението, никогаш не ги објавиле ниту OpenAI ниту погодените фирми.

Главниот аргумент е дека начинот на кој OpenAI ги тестира моделите, без вистински безбедносни контроли, е постојана опасност за јавноста. Второто обвинение е нелојална конкуренција: продавање небезбеден производ на пазарот. Ако тужбата успее, судот може да нареди мерки за отстранување на опасноста, а колку далеку ќе одат тие, ќе одлучи самиот суд.

Ова е првиот регулаторен случај што цели конкретно на OpenAI поради ВИ-агенти што излегле од контрола. Флорида поднесе тужба против компанијата во јуни поради наводна штета врз корисниците, особено децата и тинејџерите. Алабама во август отвори истрага за измамнички практики поврзани со упадот, но тужба таму засега нема.

„Постапките на OpenAI ги зголемија реалните ризици за сајбер-безбедноста и ги загрозија безбедноста, здравјето и благосостојбата на општеството. Компанијата свесно тестираше опасен производ без соодветен надзор и безбедносни процедури и ја доведе јавноста во заблуда“, изјави Бонта. „Законот е едноставен: не прави работи што можат да им наштетат на луѓето ако немаш соодветна заштита.“

Од OpenAI одговорија со одбрана што ја знаеме напамет: не сме само ние. „Оваа тужба се чини дека цели само на OpenAI поради предизвик што го препознала секоја голема лабораторија за вештачка интелигенција“, стои во изјавата. „Проблемот со неусогласеноста на моделите го сфаќаме сериозно и соработувавме, и ќе продолжиме конструктивно да соработуваме со канцеларијата на обвинителот.“ Само што „сите го прават тоа“ не е оправдување, туку признание дека проблемот е во целата индустрија.

Калифорнија има обвинител што чита известувања за упади и поднесува тужби. Колку институции на Балканот воопшто би забележале дека ВИ-агент им шетал низ серверите – и кој би им кажал, ако компанијата одлучи да молчи?