Yapay zekânın "vaftiz babası": yapay zekânın "Çernobil"i bu yıl ya da gelecek yıl gelebilir

Yapay zekânın temellerini atan adam onu hiç yaratmamış olmanın belki daha iyi olacağını söylediğinde, bu teknoloji düşmanları için yazılmış sıradan bir köşe yazısı değildir. Yapay zekânın "vaftiz babalarından" biri ve Nobel Fizik Ödülü sahibi Geoffrey Hinton, insanlığın daha bu yıl ya da gelecek yıl yapay zekâdan kaynaklanan ciddi bir kriz yaşayabileceği uyarısında bulundu.

Hinton bilim kurgu robotlarını kastetmiyor. Çok daha somut bir şeyden söz ediyor: büyük elektrik kesintileri ya da günlerce çalışmayan bir bankacılık sistemi. Bir İngiliz medya kuruluşuna verdiği röportajda, yapay sinir ağları üzerine çalışmaları bugünkü sistemlerin temelini atan 78 yaşındaki bilim insanı, önümüzdeki on yıl kadar sürenin insanlığın riskleri dizginleyip dizginleyemeyeceğini göstereceğini söyledi.

Radyasyonsuz Çernobil

Hinton, otonom yapay zekâ sistemleriyle yaşanan son güvenlik olaylarını 1979'da ABD'deki Three Mile Island nükleer santralindeki kazaya benzetiyor. Bir uyarı, ama felaket değil. Felaket, ona göre, henüz gelmedi - yapay zekânın bir tür "Çernobil"i. Nükleer bir kaza değil, elektrik arzını kesebilecek ya da finans sistemini geçici olarak felç edebilecek bir siber saldırı.

İşin kinik yanı şu: ona göre tam da böyle bir kriz, dünya liderlerini nihayet düzenlemeyi ciddiye almaya zorlayabilir. Yani birinin harekete geçmesi için önce ışıkların sönmesi gerekiyor. Zarar çoktan verildikten sonra uyanan kurumları şimdiye kadar kaç kez gördük?

Riskleri bilen ama yine de acele eden

Hinton en büyük teknoloji şirketlerinin patronlarını da esirgemiyor. OpenAI'ın patronu Sam Altman'a derin bir güvensizlik duyduğunu dile getirdi; onu, Mark Zuckerberg'i ve Elon Musk'ı riskleri bilmekle ama kâra ve rakiplerle yarışa öncelik vermekle suçladı. Bu onun motivasyonları hakkındaki değerlendirmesi, kanıtlanmış bir gerçek değil - ama bu sistemleri içeriden tanıyan bir adamdan geliyor.

Önerisi basit: en gelişmiş sistemler, her ilacı onaylamadan önce güvenlik kanıtı isteyen ABD Gıda ve İlaç Dairesi örneğinde olduğu gibi, kamuya ulaşmadan önce zorunlu olarak test edilmeli. Üreticiler bağımsız bir düzenleyiciye faydanın zarardan büyük olduğunu kanıtlamak zorunda kalır. Bu, onu Amerikan şirketleri Çin'le rekabet edebilsin diye daha az kural isteyen Donald Trump'ın yaklaşımının doğrudan karşısına koyuyor.

Hinton tehlikeler hakkında daha özgürce konuşabilmek için 2023'te Google'dan ayrıldı. Umudunu kaybetmiş değil - insanların gelişimi hâlâ yönlendirebileceğine ve en kötü sonuçları önleyebileceğine inanıyor, ama bunun için hükümetlerin, bilim insanlarının ve sektörün çok daha büyük çaba göstermesi gerekecek. Tek soru, birinin onu ilk "Çernobil"den önce mi yoksa sonra mı dinleyeceği.