Bir üreticinin, ürününün tüm dünya için tehlikeli hale gelebileceğini kendiliğinden söylemesi nadir görülür. Çarşamba günü bu, BM Güvenlik Konseyi'nde yaşandı. Genel Kurul'un yıllık oturumu marjında, Konsey'in 15 üyesi önünde yapay zekâ sektörünün en önde gelen üç ismi konuştu: OpenAI'dan Sam Altman, Anthropic'ten Dario Amodei ve Hugging Face'in kurucu ortağı Clément Delangue.

Getirdikleri mesaj şuydu: Giderek güçlenen yapay zekâ sistemleri yakında daha da ilerleyip kendilerini geliştirebilir, insan kontrolünden çıkabilir ve uluslararası güvenlik için bir tehdit haline gelebilir. Amodei, "Yapay zekâ kötü yönetilirse, bunun insanlığın bütünü için bile bir risk oluşturabileceğine inanıyorum" dedi.

San Francisco'daki laboratuvarlar ve diğer herkes

Altman, aslında kimin karar vermesi gerektiği sorusunu gündeme getirdi. "Yapay zekâ demokratik olacaksa, en önemli kararları sadece San Francisco'daki laboratuvarlar veremez. Bu kararlar demokratik süreçlerle şekillenmeli ve hizmet ettikleri insanlara hesap veren hükümetler tarafından alınmalı" dedi ve uluslararası düzeyde bunun işbirliği gerektireceğini ekledi.

Altman, "Tarihimizde, birbiriyle rekabet eden ve birbirini pek sevmeyen ülkelerin güçlü yeni bir teknolojiyle karşılaştıklarında ortak çıkarlar ve kolektif iyilik etrafında bir araya geldiği dönemler oldu. Bunun da böyle bir dönem olduğunu düşünüyoruz" diye vurguladı. Kulağa makul geliyor. Ama yapay zekâ geliştirmedeki iki baskın oyuncu Washington ve Pekin, teknolojinin küresel korumaya mı ihtiyacı olduğu yoksa daha çok piyasaya mı bırakılması gerektiği konusunda hâlâ anlaşamıyor. Hükümetler ise bu arada, düzenleyicilerin takip edebildiğinden daha hızlı ilerleyen sistemleri denetlemenin bir yolunu arıyor.

"Tehlikeler gerçek ve yakın"

"Yapay zekânın vaftiz babalarından" biri sayılan ve Genel Kurul'un geçen yıl kurduğu Bağımsız Uluslararası Bilimsel Panel'in eş başkanı olan Kanadalı Yoshua Bengio daha da doğrudandı. "Tehlikeler gerçek ve yakın" dedi. "Bu konsey benzeri görülmemiş bir tehditle karşı karşıya; hiçbir üyesinin seçmeyeceği, kimsenin tek başına dizginleyemeyeceği ve savunduğumuz sınırlara saygı göstermeyen bir tehdit."

Güvenlik Konseyi yapay zekânın risklerine ilk kez 2023'te dikkat çekmişti; o zaman Çin teknolojinin "gemi azıya almış bir at" olmaması gerektiğini söylemiş, ABD ise sansür ve baskı amacıyla kullanılmasına karşı uyarmıştı. O günden bu yana uyarılar giderek yükseliyor, küresel kurallar ise hâlâ konuşma düzeyinde.

Altman, kararların sadece San Francisco'da kalmaması gerektiğini söyledi. Güzel bir cümle. Ama kurallar sonunda Washington, Pekin ve birkaç laboratuvar tarafından yazılırsa, küçük devletlere ne kalıyor - hazır olduklarında onları uygulamak mı?