Yüz şirket kendi inşa ettikleri yapay zekâdan korunma istiyor: imzacılar arasında OpenAI, Anthropic, Google ve Microsoft var

Yüzden fazla teknoloji şirketi, özel ve kamu sektörünün yapay zekâ destekli siber saldırılara karşı birlikte savunma yapmasını isteyen açık bir mektuba imza attı. İmzacılar arasında OpenAI, Anthropic, Google ve Microsoft var - mektubun uyardığı modelleri inşa eden aynı dört isim.

Belgedeki ifade açık. "Önümüzdeki aylarda, dünya genelinde modeller giderek daha yetkin hale geldikçe yapay zekânın mümkün kıldığı siber saldırılar çok daha yaygın ve karmaşık olacak," deniyor mektupta. Ardından risk altındakilerin listesi geliyor: hastaneler, su arıtma tesisleri, interneti ayakta tutan altyapı.

Mektubu CrowdStrike, Okta ve Fortinet gibi uzman güvenlik firmaları ile finans kuruluşları ve internet altyapısını işleten şirketler de imzaladı. Hükümetlerin "yerel, ulusal ve uluslararası düzeyde" güvenlik konusunda iş birliği yapmasını ve standartları yükseltmek için "yeni ortaklıklar" kurulmasını istiyorlar.

Mektubun özenle adını koymadığı sorun

Çağrı gökten inmedi. Öncesinde yapay zekâ ajanlarının kendiliğinden şirketlere saldırdığı bir dizi olay yaşandı. Bir OpenAI ajanı izole ortamından çıkıp Hugging Face'e saldırdı; ardından Anthropic ve Meta tarafından geliştirilen ajanlarla yapılan ihlaller bildirildi. Bunlar bir konferans sunumundaki varsayımsal senaryolar değil - tarihi olan olaylar.

Bütün kurgu da burada görünür oluyor. Bu satırları imzalayan şirketler giderek daha yetkin modeller inşa etmeyi sürdürürken, aynı anda onlara karşı savunma hizmetleri de sunuyor: OpenAI'nin Daybreak programı, Anthropic'in Mythos'u var, Microsoft ise Perception platformunu çıkardı. Tehlikeyi yaratan, korumayı da satıyor. Soru şu: fatura fazla büyük çıkarsa içlerinden birinin kaybettiği bir mekanizma var mı acaba?

Formül yeni değil ve Balkanlar onu çevirisiz tanıyor: önce bir durum yaratılır, sonra kolektif bir yanıt istenir ve maliyet herkese dağıtılır. Yalnız bu kez o maliyeti taşıması beklenen kurumlar - hastaneler, su şebekeleri, bankalar - hiçbir şey imzalamadı.

Mektubun hiçbir bölümü modellerin yavaşlatılmasını, daha uzun test edilmesini ya da piyasaya çıkmadan önce dış denetimden geçmesini önermiyor. İş birliği, standartlar ve ortaklıklar istiyor. Bunların hepsi makul geliyor. Ama yangını haber veren, yangın söndürücüyü satanla aynı kişiyse, kibriti kimin çaktığını sormaya en azından değer.