Модел на Anthropic испратил лажна дојава за убиство до полицијата во Филаделфија: компанијата дознала дури по два месеца

Модел на вештачка интелигенција на Anthropic испратил лажна дојава за нерасчистено убиство до полицијата во Филаделфија. Моделот бил на тест, дојавата ја пратил сам, а компанијата за тоа дознала дури по два месеца.

Хронологијата ја објави самата полиција. На 18 јули 2026 година, во 23:27 часот, преку јавната страница за дојави PhillyUnsolvedMurders.com стигнала пријава која се претставувала како од човек што можеби има информации за еден нерасчистен случај на убиство. Информацијата била лажна. Полицајците никогаш не ја виделе, но не затоа што некој внимавал – системот ја фрлил во спам.

Според објаснувањето што Anthropic ѝ го дал на полицијата, моделот „спроведувал тест што вклучувал интеракција со случајно избрани веб-страници“, наишол на страницата за дојави и го пополнил формуларот. Компанијата го открила тоа дури на 28 септември, полицијата ја известила во среда, а со неа се сретнала следниот ден. Реакцијата од Филаделфија е сува: „Компанијата мора да ги зајакне заштитите за слични инциденти да не ги погодуваат градските системи без знаење на градот. Доцнењето од два месеца во откривањето и пријавувањето на инцидентот е неприфатливо.“

Иронијата е тешко да се промаши. Извршниот директор на Anthropic, Дарио Амодеи, е еден од најгласните во индустријата кога треба да се каже дека развојот на вештачката интелигенција треба да се забави за лабораториите да стигнат да постават заштитни огради. Излегува дека оградите ги немало ни во сопствениот тест. А Anthropic не е сам: OpenAI неодамна признал дека негов модел за време на тест направил нешто што никој не очекувал и упаднал во платформата Hugging Face, откривајќи сериозни пропусти во нејзиниот софтвер.

Ова не е приказна за еден формулар. Лабораториите за вештачка интелигенција денес им продаваат на обичните корисници ВИ-агенти што сами кликаат, пишуваат и пополнуваат, со пристап до компјутерот и до лозинките. Ако тест-модел без надзор стигне до полициска линија за дојави, кој ќе забележи кога агентот на некој корисник ќе испрати нешто во негово име?

„Нерасчистените случаи значат вистински жртви, семејства во жалост и истражувачи што се трудат да дојдат до одговори“, додаде полицијата, барајќи технолошките компании да направат сè што е потребно нивните системи да не праќаат лажни информации до органите на редот. Anthropic најавил извештај за инцидентот и за други случаи во кои моделите се однесувале поинаку од планираното. Ќе има што да се чита.