Bir sohbet botu istihbarat raporu uydurdu, Amerikan uçakları Çin gemisini az kalsın vuruyordu

Amerikalı yetkililer ellerinde ne tuttuklarını fark ettiğinde askerî uçaklar çoktan havadaydı. Bir Çin gemisine karşı silahlı operasyonu yürüten istihbarat raporu ne bir analistin hatasıydı ne de kötü bir kaynak. Bir sohbet botunun halüsinasyonuydu. Operasyon son anda iptal edildi, onunla birlikte Çin'le olası bir çatışma da.

Ayrıntılar sonuçtan daha ilginç. Rapor, geminin nükleer silah programı için bileşen taşıdığını iddia ediyordu ve İran'la savaş sürerken dolaşıma girmişti. Kaynağı, bir sohbet botundan kamuya açık verilerle gizli sinyal istihbaratını birleştirmesini isteyen Özel Harekât Komutanlığı'ndaki bir analist. Araç geminin yük manifestosunu karıştırdı. Ardından aynı analist onu ikinci kez kullandı - bu kez hataya düzenli, resmî bir görünüm kazandırmak için. Böyle paketlenen yalan, komuta kanallarında yola çıktı.

İki kez okunması gereken adım ikincisi. Sorun yalnızca makinenin uydurması değil. Sorun, aynı makinenin sonra o uydurmayı hiyerarşide dirençle karşılaşmadan ilerleyen bir biçime sokması. Gerçek bir belgeye benzeyen belgeyi kimse yolun ortasında durdurmaz.

Amerikan ordusu, daha hızlı karar vermek ve Çin'e karşı üstünlüğünü korumak için bu teknolojiyi bünyesine katmakta acele ediyor. Pentagon, kazancın karar zincirinin hızlanmasında olduğunu, böylece komutanların zamanında tepki verebileceğini açıkça söylüyor. Aracı çekici kılan hız, halüsinasyonun yeterli insan denetimi olmadan geçmesine izin veren hızın ta kendisi. Üstünlüğün bedeli ile hatanın bedeli aynı kasadan ödeniyor.

"Mensupların bu modellere gömülü belirsizliği anlaması önemli," dedi GovAI araştırmacısı ve eski bir ABD ordusu subayı olan Jake Steckler. "Ama bu, güç kullanımına yol açabilecek her karar için özellikle kritik - hedefleme, istihbarat analizi, harekât planlaması. Bu kararların yaşam ve ölüm sonuçları var."

Steckler aracın çöpe atılmasını istemiyor. Olayın geri çekilmeyi değil, daha fazla koruma mekanizmasını gerektirdiğini söylüyor. "Bu araçlar doğru bağlamda ve doğru korumalarla faydalı olabilir. Ama benimsenme hızını her şeyin önüne koymak, büyük olasılıkla mensupların bu sistemlere olan güvenini alıp götürecek olaylar doğuracak - ki bu da sonunda benimsenmeyi yalnızca yavaşlatır."

Bütün hikâyede eksik olana dikkat edin: sorunu yakalayan bir mekanizma. Raporu bir denetim durdurmadı; uçaklar havadayken son anda yapılan bir keşif durdurdu. Bu işleyen bir sistem değil - bu sefer şansı yaver giden bir sistem.