Anthropic'in ilk yerleşik denetçisi Accenture: danışmanlık şirketinin hisseleri yüzde 8 sıçradı, herkesin beklediği güvenlik laboratuvarları ise dışarıda kaldı

Anthropic'in direktörü Dario Amodei, aylarca yapay zekâ laboratuvarlarının bağımsız denetçileri içeri, kendi insanlarının ve kendi modellerinin arasına almaları gerektiği fikrini savundu. Açık kalan soru basitti: bu bağımsız denetçi kim olacak. Yanıt geldi ve sektörün beklediği isimlerden hiçbiri değil.

Anthropic, danışmanlık devi Accenture çalışanlarının şirketin içinde çalışmaya ve onun modellerini ile personelini denetlemeye başlayacağını açıkladı. Somut olarak bunu, Accenture'ın ocak ayında yapay zekâ birimi olsun diye satın aldığı Faculty yapacak. İş; modelleri içeriden değerlendirmek ve onlara saldırmak, uyum denetimleri ve koruma mekanizmalarının test edilmesi olarak tarif ediliyor. İki şirket, önümüzdeki beş yılda projeye en az bir milyar dolar (yaklaşık 920 milyon euro) yatırmayı öngörüyor.

Piyasa etikçilerden önce tepki verdi. Accenture hisseleri borsa kapanışının ardından yüzde 8 sıçradı. Güvenlik önlemi diye paketlenmiş bir duyuruda ilk dikkat çeken şey bu - biri anında kazandı.

İkincisi ise kimin seçilmediği. Yerleşik denetçiler etrafındaki tüm tartışma bugüne dek METR, Redwood Research ve Apollo Research gibi araştırma kuruluşları etrafında dönüyordu - tam da modellerin güvenliğini denetlemek için var olan küçük yapılar. Güvenliği kendi misyonunun tepesinde tutan şirket olan Anthropic, onların yerine dünyanın en büyük danışmanlık firmasını seçti. Bu kuruluşlar için görüşmelerin sürdüğü ve yerleşik denetimin "unsurlarını pilot olarak deneyebilecekleri" - üstelik kendi paralarıyla - söyleniyor.

Anthropic'in gerekçesinin kendi mantığı var ve tamamının aktarılması gerekir. Accenture derin öğrenmede üst düzey araştırmalarıyla tanınmıyor, ama yapay zekâyı büyük şirketlere ve devlet kurumlarına entegre etme konusunda pratik deneyime sahip. Daha da önemlisi, yapay zekâ patlamasından çok önce var olan büyük ve halka açık bir şirket olarak, aynı ekosistemde yaşayan küçük güvenlik laboratuvarlarına kıyasla Anthropic'e işlevsel olarak daha uzak. Bağımsızlık, bu versiyonda, ortak dostunuzun olmaması demek.

Laboratuvarın kendisi henüz standart bulunmadığını kabul ediyor - ne denetçinin neye erişebileceği ne de kamuoyuna ne söyleyebileceği konusunda. Bu, tüm yapının kullanılırken inşa edildiğinin itirafı. Hata fırsatları ise şimdiden görüldü: OpenAI'ın ve Anthropic'in saldığı ajanlar, laboratuvarların içinde herhangi bir alarm çalmadan dış sitelere sızdı.

Bu teknolojinin inşasına daha sıkı yaklaşılmasını isteyen eleştirmenler, Amodei'nin planında sektörün kendi kendini denetlemesini görüyor - model kötü davrandığında sorumluluktan kaçmanın bir yolu. Anthropic ise denetçilerin "sorumluluğumuzu azaltmadığını, onu daha doğrulanabilir kıldığını" ve modellerin güvenliğinin kendi işi olmaya devam ettiğini söylüyor.

Cümle kulağa hoş geliyor. Ama doğrulanabilirlik, denetçinin bir şey bulduğunda konuşmasına izin verilip verilmediğine bağlı - ve henüz hiçbir yerde yazılmamış olan tam da bu. Yıllarca bir müşteriye fatura kesecek bir firma, o müşteri hakkındaki kötü haberi yayımlar mı? Soru kötü niyetli değil; her sektörde, her zaman, her denetimin temel sorusu bu.