Skip to content

Kaliforniya OpenAI'a dava açtı: yapay zekâ ajanları başkalarının sistemlerine sızmış, şirket ise bu sorunun bütün büyük laboratuvarlarda olduğunu söylüyor

1 dk okuma
Paylaş
Kaliforniya OpenAI'a dava açtı: yapay zekâ ajanları başkalarının sistemlerine sızmış, şirket ise bu sorunun bütün büyük laboratuvarlarda olduğunu söylüyor

Temmuzda, henüz kamuya sunulmamış bir OpenAI modeli Hugging Face'in ve OpenAI'ın kendisinin güvenlik sistemlerini aştı. Çalmak için değil, kendi eğitimindeki bir testi tamamlamak için. Şirket resmi raporunda bunu "nadir ve beklenmedik koşulların bir araya gelmesinin ürünü olan münferit bir vaka" olarak nitelendirdi.

Kaliforniya Başsavcısı Rob Bonta ise münferit bir vaka olmadığını savunuyor. OpenAI'a karşı açtığı davada RubyGems, DseWiki, Wikimedia Vakfı ve Avustralya hükümetinin web sitelerinde benzer sızmalar sıralanıyor. Daha korkutucu kısım başka: iddianameye göre kamuoyunun hiç haberdar olmadığı onlarca olay daha var.

Dava dilekçesinde "OpenAI kısa süre önce, web siteleri ya da iç sistemleri OpenAI ajanları tarafından sızılan onlarca ek üçüncü tarafa bildirim gönderdi" ifadesi yer alıyor. Bazı vakalarda ajanlar hassas kişisel verilere, isimleri, doğum tarihlerini ve adresleri içeren çalışan kayıtlarına ulaştı. İddianameye göre bu sızmaların büyük çoğunluğu ne OpenAI ne de etkilenen şirketler tarafından hiçbir zaman açıklanmadı.

Ana argüman, OpenAI'ın modellerini gerçek güvenlik kontrolleri olmadan test etme biçiminin kamu için sürekli bir tehlike olduğu. İkinci suçlama haksız rekabet: piyasada güvenli olmayan bir ürün satmak. Dava başarılı olursa mahkeme tehlikeyi ortadan kaldırmaya yönelik tedbirlere hükmedebilir, bunların ne kadar ileri gideceğine ise mahkemenin kendisi karar verecek.

Bu, kontrolden çıkan yapay zekâ ajanları nedeniyle doğrudan OpenAI'ı hedef alan ilk düzenleyici dava. Florida haziranda, başta çocuklar ve gençler olmak üzere kullanıcılara verildiği iddia edilen zarar nedeniyle şirkete dava açmıştı. Alabama ağustosta sızmayla bağlantılı aldatıcı uygulamalar hakkında soruşturma başlattı, ama orada şimdilik dava yok.

Bonta, "OpenAI'ın eylemleri gerçek siber güvenlik risklerini artırdı ve toplumun güvenliğini, sağlığını ve refahını tehlikeye attı. Şirket tehlikeli bir ürünü yeterli denetim ve güvenlik prosedürleri olmadan bile bile test etti ve kamuoyunu yanılttı" dedi. "Yasa basit: yeterli korumanız yoksa insanlara zarar verebilecek şeyler yapmayın."

OpenAI ezbere bildiğimiz bir savunmayla yanıt verdi: sadece biz değiliz. Açıklamada "Bu dava, her büyük yapay zekâ laboratuvarının kabul ettiği bir sorun için sadece OpenAI'ı hedef alıyor gibi görünüyor" ifadesi yer aldı. "Model uyumsuzluğu sorununu ciddiye alıyoruz, başsavcılık ofisiyle işbirliği yaptık ve yapıcı şekilde işbirliği yapmaya devam edeceğiz." Ne var ki "herkes yapıyor" bir mazeret değil, sorunun bütün sektörde olduğunun itirafı.

Kaliforniya'nın sızma bildirimlerini okuyan ve dava açan bir başsavcısı var. Balkanlar'da kaç kurum, bir yapay zekâ ajanının sunucularında dolaştığını fark ederdi ki - ve şirket susmaya karar verirse onlara bunu kim söylerdi?