Anthropic kurucu ortağı yapay zeka için yasal bir kapatma düğmesi istiyor: Devasa risklerle kumar oynuyoruz

Anthropic'in kurucu ortağı Jack Clark, teknoloji şirketlerinin yapay zeka sistemlerine bir "kapatma düğmesi" yerleştirmeye yasal olarak zorunlu tutulmasını - ve bağımsız bir üçüncü tarafın bu düğmenin gerçekten çalışıp çalışmadığını denetlemesini öneriyor.

Clark, Anthropic dahil "çoğu laboratuvarın elektrik kablosunu çekmek için çeşitli yolları olduğunu" söylüyor. Ama bu gönüllü. Onun sorusu başka: "Şirketlerden bir kapatma düğmesi bulundurmalarını istiyor muyuz? Üçüncü bir taraf bu düğmeyi denetleyebilir mi? Bence bunlar toplumun bilmek isteyeceği şeyler."

Kimsenin kaçamadığı rakam

Anthropic'te bilim insanı olan Evan Hubinger, yapay zekanın insanlığın yok oluşuna yol açma olasılığını kişisel olarak "önümüzdeki on yılda yüzde 10'un üzerinde" gördüğünü söyledi. "Yapay zekanın babası" olarak bilinen Geoffrey Hinton, BBC'ye bu yüzde 10 tahmininin "mantıksız olmadığını" söyledi.

Clark daha temkinli - bu tür istatistiklerin "pek faydalı olmadığını" söylüyor - ama ardından her yüzde tahmininden daha ağır basan bir cümle ekliyor: "Devasa risklerle kumar oynuyoruz. Mesele şu ki bu sektörün gittiği yönü değiştirmek zorundayız."

Yasa koyucular: biri öneriyor, biri reddediyor, biri gülüyor

ABD'de, şirketlerin sorunlu araçları devre dışı bırakabilmesini zorunlu kılacak Kill Switch Act adlı bir yasa taslağı var. İngiliz hükümeti ise böyle bir zorunluluğu reddetti - gerekçesi, bunun "başka yerlerde geliştirilmelerini ya da kötüye kullanılmalarını engellemeyeceği" idi. Argüman şık, mantığı ise tanıdık: madem herkes yapmıyor, biz neden yapalım?

Donald Trump yapay zeka güvenliğine dair uyarıları reddetti ve yok oluş iddialarını sosyal medyada "DOLANDIRICILIK" olarak nitelendirdi.

Anthropic, 2021'de eski OpenAI çalışanları tarafından kuruldu ve Claude adlı sohbet robotunun arkasındaki şirket. Haberlere göre şirket, rekor kırabilecek bir halka arza hazırlanıyor. OpenAI'dan Sam Altman ise kendi halka arzlarının bu yıl gerçekleşmeyeceğini, tam da süregelen güvenlik tartışmaları nedeniyle açıkladı.

Yani: sektörün yanlış yöne gittiği uyarısını yapan aynı insanlar, onu kuran ve yatırımcılara satmaya hazırlananlar. Bu onları yalancı yapmıyor - ne yaptıklarını tam olarak bilen insanlar yapıyor. Ve bu daha rahatsız edici.