Anthropic'in CEO'su yapay zekâ gelişiminin yavaşlatılmasını istiyor - ve rakiplerin anlaşabilmesi için antitröst kurallarından muafiyet

Anthropic'in CEO'su Dario Amodei yeni bir metinde, yapay zekâ satan birinin ağzından kendi işini sabote etmek gibi duran bir şey yazdı: "Modellerin yeteneklerini geliştirme hızımızı yavaşlatmalıyız." Aynı kişi, ilerlemenin yine de hızlı görüneceğini ve kazanılan zamanın akıllıca kullanılması gerektiğini ekledi. Kendine sorduğu soru ise şu: kimin bu kadar acelesi var?

Vesile felsefi değil. Amodei yazmasına yol açan iki şeyi sıraladı - OpenAI ve HuggingFace'teki güvenlik ihlali ve modellerin kendi kendilerini geliştirmeye başlaması. Bundan önce, Anthropic'ten Jacob Coxon adlı bir araştırmacı istifa etmiş ve kolay unutulmayacak bir cümleyle ayrılmıştı: sektörün tepesindeki insanlar, teknolojinin bu on yıl bitmeden hepimizi öldürebileceğine içtenlikle inanıyor. İşi kuran birinin oradan ayrılıp bunu yüksek sesle söylemesi, başlı başına bir veridir.

Üç öneri, biri devletten izin istiyor

Birincisi iç denetim: METR gibi kuruluşlardan bağımsız değerlendiricilerin şirketlerin içinde oturması ve vaat edilen güvenlik davranışının gerçekten uygulanıp uygulanmadığını, iç risk değerlendirmelerine aynı erişimle denetlemesi. Anthropic bunu kendiliğinden yapacağını söylüyor ve hükümetlerin herkesi aynısına zorlamasını istiyor. OpenAI'dan Sam Altman, önerinin iyi bir fikir olduğunu ve kendilerinin de dahil olduğunu yanıtladı - "Dario'ya katılıyorum, cephedeki hızı düzenlemeliyiz," diye yazdı. Elon Musk daha kısaydı: "Dario haklı."

İkinci öneri daha zor. Demokratik devletlerdeki önde gelen şirketler ortak güvenlik standartları ve gelişim hızının sınırlandırılması konusunda anlaşacak. Ancak bir pazardaki en büyük oyuncuların ne kadar hızlı çalışabilecekleri konusunda anlaşmasının hukukta başka bir adı da var ve Amodei bunu biliyor - bu yüzden, katılmadan arabuluculuk yapan bir hükümetle birlikte, antitröst kurallarından dar bir muafiyet istiyor. Bunu iki kez okuyun. Rakipler aynı masaya oturabilmek için yasal koruma istiyor.

Üçüncüsü küresel; otoriter hükümetlerle görüşmeleri de kapsıyor. Amodei orada beklentilerin düşük olduğunu kabul ediyor, ama en azından açıkça tehlikeli uygulamalar için - örneğin biyolojik silahlar - bir tür ortak dil bulunabileceğini düşünüyor. Çin rekabeti için daha eski bir çözüm öneriyor: çiplere sınırlı erişim ve modellerin kopyalanmasına karşı mücadele; ona göre bu, Amerika'ya üç ila beş yıllık bir avantaj sağlardı.

Frenlemeden kim kazanıyor

Gazeteci Brian Merchant ve sektörden başkaları, tüm meselenin üzerinde asılı duran soruyu hemen sordu - bu güvenlik mi, yoksa düzenleyicinin ele geçirilmesi mi? Zaten tepede olan iki şirket, ne kadar hızlı koşulabileceğine dair kurallar istediğinde, o kurallar nadiren onları engeller. Arkalarında kalan ve kendi binasında bağımsız değerlendirici tutacak parası olmayanı engeller. Diğerleri ise dünyanın sonu anlatılarının rahat olduğunu, çünkü bugün, modeller olduğu hâliyle, halihazırda var olan zararlardan dikkati uzaklaştırdığını söylüyor.

Amodei, faydalara duyduğu arzunun sönmediğini, ama bunların ancak teknoloji doğru biçimde inşa edilirse geleceğini söyleyerek bitiriyor. Karşı çıkılması zor bir cümle - ve tam da bu yüzden, onu kimin söylediğine ve önerilen kuralların ağırlığının kimin lehine düştüğüne dikkat etmeye değer.