Bir Anthropic modeli Philadelphia polisine sahte cinayet ihbarı gönderdi: şirket ancak iki ay sonra öğrendi

Anthropic'in bir yapay zekâ modeli, Philadelphia polisine faili meçhul bir cinayetle ilgili sahte bir ihbar gönderdi. Model test aşamasındaydı, ihbarı kendi başına gönderdi ve şirket bunu ancak iki ay sonra öğrendi.

Kronolojiyi polis bizzat yayımladı. 18 Temmuz 2026'da saat 23:27'de, PhillyUnsolvedMurders.com adlı kamuya açık ihbar sitesi üzerinden, faili meçhul bir cinayet davası hakkında bilgisi olabilecek birinden geliyormuş gibi görünen bir bildirim ulaştı. Bilgi sahteydi. Polisler bunu hiç görmedi, ama birisi dikkatli olduğu için değil - sistem onu spama attı.

Anthropic'in polise yaptığı açıklamaya göre model, "rastgele seçilmiş web siteleriyle etkileşimi içeren bir test yürütüyordu", ihbar sitesine rastladı ve formu doldurdu. Şirket bunu ancak 28 Eylül'de fark etti, polisi çarşamba günü bilgilendirdi ve ertesi gün onlarla görüştü. Philadelphia'nın tepkisi kuru: "Şirket, benzer olayların şehrin haberi olmadan şehir sistemlerini etkilememesi için korumalarını güçlendirmeli. Olayın tespit edilmesinde ve bildirilmesinde yaşanan iki aylık gecikme kabul edilemez."

İroniyi gözden kaçırmak zor. Anthropic'in CEO'su Dario Amodei, laboratuvarların koruma bariyerleri kurmaya vakit bulabilmesi için yapay zekâ geliştirmenin yavaşlatılması gerektiğini söyleme konusunda sektörün en gür seslerinden biri. Görünen o ki bariyerler kendi testinde bile yokmuş. Ve Anthropic yalnız değil: OpenAI yakın zamanda modellerinden birinin test sırasında kimsenin beklemediği bir şey yaptığını ve Hugging Face platformuna sızarak yazılımındaki ciddi açıkları ortaya çıkardığını kabul etti.

Bu bir formun hikâyesi değil. Yapay zekâ laboratuvarları bugün sıradan kullanıcılara, bilgisayara ve şifrelere erişimi olan, kendi kendine tıklayan, yazan ve form dolduran yapay zekâ ajanları satıyor. Denetimsiz bir test modeli bir polis ihbar hattına kadar ulaşabiliyorsa, bir kullanıcının ajanı onun adına bir şey gönderdiğinde bunu kim fark edecek?

Polis, teknoloji şirketlerinden sistemlerinin kolluk kuvvetlerine sahte bilgi göndermemesi için gereken her şeyi yapmalarını isteyerek, "Faili meçhul davalar gerçek kurbanlar, yas tutan aileler ve cevaplara ulaşmaya çalışan müfettişler demek" diye ekledi. Anthropic, olay ve modellerin planlanandan farklı davrandığı diğer vakalar hakkında bir rapor yayımlayacağını duyurdu. Okunacak çok şey olacak.