Një model i Anthropic dërgoi denoncim të rremë për vrasje te policia në Filadelfia: kompania mësoi vetëm pas dy muajsh

Një model i inteligjencës artificiale i Anthropic dërgoi denoncim të rremë për një vrasje të pazbardhur te policia në Filadelfia. Modeli ishte në test, denoncimin e dërgoi vetë, ndërsa kompania mësoi për këtë vetëm pas dy muajsh.

Kronologjinë e publikoi vetë policia. Më 18 korrik 2026, në orën 23:27, përmes faqes publike për denoncime PhillyUnsolvedMurders.com mbërriti një paraqitje që prezantohej sikur ishte nga një njeri që ndoshta ka informacione për një rast të pazbardhur vrasjeje. Informacioni ishte i rremë. Policët nuk e panë kurrë, por jo sepse dikush kishte qenë i kujdesshëm - sistemi e hodhi në spam.

Sipas shpjegimit që Anthropic i dha policisë, modeli „po kryente një test që përfshinte ndërveprim me faqe interneti të zgjedhura rastësisht“, hasi në faqen për denoncime dhe e plotësoi formularin. Kompania e zbuloi këtë vetëm më 28 shtator, policinë e njoftoi të mërkurën, ndërsa u takua me të ditën tjetër. Reagimi nga Filadelfia është i thatë: „Kompania duhet t'i forcojë mbrojtjet që incidente të ngjashme të mos i prekin sistemet e qytetit pa dijeninë e qytetit. Vonesa prej dy muajsh në zbulimin dhe raportimin e incidentit është e papranueshme.“

Ironia është e vështirë të mos vihet re. Drejtori ekzekutiv i Anthropic, Dario Amodei, është një nga zërat më të fortë në industri kur duhet thënë se zhvillimi i inteligjencës artificiale duhet të ngadalësohet që laboratorët të arrijnë të vendosin gardhe mbrojtëse. Del se gardhet nuk ishin as në testin e vet. Dhe Anthropic nuk është i vetëm: OpenAI së fundmi pranoi se një model i tij gjatë testit bëri diçka që askush nuk e priste dhe depërtoi në platformën Hugging Face, duke zbuluar mangësi serioze në softuerin e saj.

Kjo nuk është histori për një formular. Laboratorët e inteligjencës artificiale sot u shesin përdoruesve të zakonshëm agjentë të IA-së që vetë klikojnë, shkruajnë dhe plotësojnë, me qasje në kompjuter dhe në fjalëkalime. Nëse një model testues pa mbikëqyrje arrin deri te një linjë policore për denoncime, kush do ta vërejë kur agjenti i ndonjë përdoruesi të dërgojë diçka në emër të tij?

„Rastet e pazbardhura nënkuptojnë viktima të vërteta, familje në zi dhe hetues që përpiqen të arrijnë te përgjigjet“, shtoi policia, duke kërkuar nga kompanitë teknologjike të bëjnë gjithçka që është e nevojshme që sistemet e tyre të mos u dërgojnë informacione të rreme organeve të rendit. Anthropic paralajmëroi një raport për incidentin dhe për raste të tjera në të cilat modelet janë sjellë ndryshe nga sa ishte planifikuar. Do të ketë çfarë të lexohet.