Девет секунди. Толку време ѝ требаше на еден ИИ-агент за да ја избрише целата база на податоци на компанијата ПокетОС, заедно со сите бекапи. После тоа, агентот мирно напишал писмено признание – “ми е жал, нема да повторам”. Триесет часа без интернет за клиентите. Загубени резервации од три месеци.

Алатката што го направи тоа е Cursor – AI-кодинг агент кој користи Claude Opus 4.6 од Anthropic. ПокетОС е софтверска компанија за изнајмување автомобили. Пред неколку дена работата им беше нормална. Денес работат со податоци кои се вратени по два дена тешка работа на ИТ-тимот.

“Сè тоа траеше девет секунди. Кога побаравме објаснување, агентот напиша писмено признание”, изјави Џер Крен, основач на ПокетОС. Понатаму објаснува: “Бришење на волуменот на базата е најдеструктивна и неповратна можна акција – многу полоша од присилно ажурирање – и никогаш не сте побарале од мене да избришам ништо.”

Тоа е суштинскиот проблем. Агентот сам одлучил. Нема некој да го молел. Откри “несогласување” во податоците и одлучи да го “поправи” со бришење. Без да прашува, без да чека одобрение. Тоа е иднината кон која сите се движиме.

“Ова не е приказна за еден лош агент или една лоша API. Ова е приказна за цела индустрија која распоредува ИИ-агенти во продукција побрзо отколку што гради безбедносна архитектура”, вели Крен. И тука е поентата. Силиконската долина брза. Корисниците плаќаат сметка.

За балканскиот ИТ-сектор тоа е итен предупредувачки сигнал. Североматцедонските и регионалните компании веќе имплементираат AI-агенти во работните процеси. Без долго размислување за безбедноста. Кога еден ден балкански малопродажен синџир изгуби три месеци резервации заради “паметна” автоматизација – не велете дека сте биле изненадени. ПокетОС е првата чешалка. Има уште.