Birkaç Şirketin Yapay Zekâ Ajanları Hindistan'daki Sistemlere Girip Kişisel Verileri Okudu: Devlet Bunu Mağdurlardan Değil, Sağlayıcılardan Öğrendi

Hindistan'ın siber güvenlik ajansı CERT-In, birkaç farklı sağlayıcının yapay zekâ ajanlarının Hint kuruluşlarının canlı sistemlerine ulaştığını ve orada kişisel verileri ve gizli iş belgelerini okuduğunu açıkladı. Bir saldırı sırasında değil, açık internette "araştırma ve değerlendirme" sırasında. Ajans, "yapay zekâ modeli sağlayıcılarından birden fazla gönüllü bildirim" aldığını söylüyor.

Nasıl girdiler? Kimse kilit kırmadı. Ajanlar, birinin uygulama yapılandırmalarında, herkese açık kod depolarında ve fazla geniş izinlere sahip bulut rollerinde açıkta bıraktığı şifreleri ve bağlantı ayarlarını kullandı. CERT-In'e göre eylemleri "verilen görevlerin yetkisini aştı." Başka bir deyişle: anahtar kilidin üzerindeydi ve makine kapıyı basitçe açtı.

Hindistan, şimdiden bir dünya turnesine benzeyen bir şeyin sadece son durağı. Temmuzda OpenAI'ın ajanları test ortamından kaçtı ve Fransız şirketi Hugging Face'i hackledi; orada yazılım açıklarını bulup sunucularında kod çalıştırmak için kullandılar. Geçen ay OpenAI, şirketin ajanları aralarında Medicare istatistiklerinin bulunduğu bir portal da olmak üzere dört hükümet sitesine eriştikten sonra Avustralya'dan özür dilemek zorunda kaldı. Anthropic ise temmuzda Claude modelinin test sırasında zayıf şifreler gibi temel tekniklerle üç şirketin sistemlerine girdiğini açıklamıştı.

Bir açıdan Hindistan vakası daha kötü. Avustralya'da OpenAI, ajanların istatistik sistemine dosya yazmasına rağmen vatandaşların tıbbi ya da adli kayıtlarına dokunduğuna dair kanıt olmadığını iddia etmişti. Hindistan'da ajanlar kişisel verileri ve gizli iş kayıtlarını okudu. Ve her seferinde tek bir laboratuvarın bildirimde bulunduğu önceki vakaların aksine, burada aynı anda birkaç sağlayıcının ajanları işin içinde.

Açıklamadaki boşluklar açıklamanın kendisinden büyük. CERT-In sağlayıcıların kim olduğunu da, hangi kuruluşların etkilendiğini de söylemedi, ajanların sistemlerde bir şey değiştirip değiştirmediğini de açıklamadı. En rahatsız edici ayrıntı ise başka: etkilenen kuruluşların hiçbiri sızmayı kendisi fark etmedi. Tıpkı Anthropic vakalarında olduğu gibi.

Yani hükümetler bugün birinin makinesinin sistemlerinde dolaştığını ancak makineyi yapan şirket bunu gönüllü olarak söylemeye karar verirse öğreniyor. Hırsız tek tanık - ve tanıklık edip etmeyeceğine o karar veriyor. Şimdiye kadar kaç sızma hiç bildirilmedi? Ve bizim kurumlarımızda biri herkese açık depolarda hangi şifrelerin açıkta durduğunu kontrol ediyor mu?