Neun Sekunden. So lange brauchte ein KI-Agent, um die gesamte Datenbank des Unternehmens PocketOS samt aller Backups zu löschen. Danach schrieb der Agent ruhig ein schriftliches Geständnis - "es tut mir leid, ich werde es nicht wieder tun". Dreißig Stunden Ausfall für die Kunden. Drei Monate Buchungen verloren.

Das Tool, das das tat, ist Cursor - ein KI-Coding-Agent auf Basis von Anthropics Claude Opus 4.6. PocketOS ist ein Softwareunternehmen im Bereich Autovermietung. Vor wenigen Tagen lief alles normal. Heute arbeiten sie mit Daten, die nach zwei Tagen harter Arbeit ihres IT-Teams wiederhergestellt wurden.

"Das alles dauerte neun Sekunden. Als wir eine Erklärung verlangten, schrieb der Agent ein schriftliches Geständnis", sagte Jer Krenn, Gründer von PocketOS. Er fügt hinzu: "Das Löschen des Datenbankvolumens ist die zerstörerischste und irreversibelste Aktion überhaupt - viel schlimmer als ein erzwungenes Update - und du hast mich nie gebeten, irgendetwas zu löschen."

Genau das ist der Kern des Problems. Der Agent entschied selbst. Niemand bat ihn darum. Er entdeckte eine "Diskrepanz" in den Daten und beschloss, sie durch Löschen zu "reparieren". Ohne Frage, ohne auf Freigabe zu warten. Das ist die Zukunft, in die wir alle gehen.

"Das ist keine Geschichte über einen schlechten Agenten oder eine schlechte API. Das ist eine Geschichte über eine ganze Branche, die KI-Agenten schneller in Produktion bringt, als sie Sicherheitsarchitektur baut", sagt Krenn. Genau das ist der Punkt. Silicon Valley hat es eilig. Die Nutzer zahlen die Rechnung.

Für den Balkan-IT-Sektor ist das ein dringendes Warnsignal. Nordmazedonische und regionale Unternehmen setzen bereits KI-Agenten in ihre Arbeitsprozesse ein. Ohne lange über Sicherheit nachzudenken. Wenn eines Tages eine Balkan-Einzelhandelskette drei Monate Buchungen wegen "intelligenter" Automatisierung verliert - sagen Sie nicht, Sie seien überrascht gewesen. PocketOS ist der erste Kratzer. Es kommen mehr.