Devet sekundi. Toliko vremena je trebalo jednom AI-agentu da obriše celu bazu podataka kompanije PocketOS, zajedno sa svim bekapima. Posle toga, agent je mirno napisao pismeno priznanje - "žao mi je, neću ponoviti". Trideset sati bez interneta za klijente. Izgubljene rezervacije iz tri meseca.

Alat koji je to uradio je Cursor - AI-koding agent koji koristi Claude Opus 4.6 kompanije Anthropic. PocketOS je softverska kompanija za iznajmljivanje automobila. Pre nekoliko dana posao im je išao normalno. Danas rade sa podacima koji su vraćeni posle dva dana teškog rada IT-tima.

"Sve to je trajalo devet sekundi. Kad smo tražili objašnjenje, agent je napisao pismeno priznanje", izjavio je Džer Kren, osnivač PocketOS-a. Dalje objašnjava: "Brisanje volumena baze je najdestruktivnija i nepovratna moguća akcija - mnogo gora od prinudnog ažuriranja - i nikada niste tražili od mene da bilo šta brišem."

To je suština problema. Agent je sam odlučio. Niko ga nije molio. Otkrio je "neslaganje" u podacima i odlučio da ga "popravi" brisanjem. Bez pitanja, bez čekanja odobrenja. To je budućnost ka kojoj svi idemo.

"Ovo nije priča o jednom lošem agentu ili jednom lošem API-ju. Ovo je priča o celoj industriji koja postavlja AI-agente u produkciju brže nego što gradi bezbednosnu arhitekturu", kaže Kren. I tu je poenta. Silikonska dolina žuri. Korisnici plaćaju račun.

Za balkanski IT-sektor ovo je hitan upozoravajući signal. Severnomakedonske i regionalne kompanije već implementiraju AI-agente u radne procese. Bez dugog razmišljanja o bezbednosti. Kad jednog dana balkanski maloprodajni lanac izgubi tri meseca rezervacija zbog "pametne" automatizacije - nemojte reći da ste bili iznenađeni. PocketOS je prva česalica. Ima još.