Dünya, yapay zekanın yakında düşüneceğine, akıl yürüteceğine ve işlerimizi elimizden alacağına inanarak milyarlar harcarken, Princeton'lı bir profesör büyük bir dolandırıcılığa kandığımızı söylüyor. Sosyolog Zeynep Tüfekçi, bugünkü YZ'nin "hiç de zeki olmadığını" savunuyor - o, kendi deyimiyle, bir "inandırıcılık makinesi", düşünme makinesi değil.

Nokta teknik ama basit. Büyük dil modelleri bir şeyin doğru olup olmadığını denetlemez - eğitildikleri verilere dayanarak, bir öncekinin ardından büyük olasılıkla hangi kelimenin geleceğini istatistiksel olarak tahmin eder. "Bu sistematik bir hata değil. Tam da tasarlandığı gibi çalışan bir teknoloji," diyor Tüfekçi. Başka bir deyişle, YZ "halüsinasyon gördüğünde" bozulmuyor - tam da yapılmak üzere inşa edildiği şeyi yapıyor.

Örnekler teorik değil. Meta'nın Instagram'daki sohbet botu, basit bir tatlı dille ikna yoluyla 20.000'den fazla profilin kontrolünü teslim etmeye kandırıldı. Air Canada ve McDonald's, pahalı hatalar yaptıktan sonra sohbet botlarını kapatmak zorunda kaldı - sahte para iadesi vaatleri, absürtlüğe kadar şişirilmiş siparişler. İnandırıcı gelen bir makine, ne yaptığını bilen bir makine anlamına gelmez.

En ilginç kısım, iş kaybı paniğine dair yatıştırıcı sözleri. Tüfekçi, kıyametin abartıldığını söylüyor - ciddi tehdit altında olan yalnızca programlama gibi "katı kuralları ve doğrulanabilir sonuçları" olan meslekler. Cerrahi, öğretmenlik, müşteri hizmetleri - bunların hepsi YZ'nin taklit edemeyeceği insan zekası gerektiriyor. İroni kusursuz: kendi teknolojisi tarafından ilk yerinden edilenler, tam da onu inşa edenler.

Balkan okuru için hikaye çifte ders taşıyor. Birincisi, Vadi'den gelen büyük vaatlere kuşku yine işe yarıyor - her "devrim" önce pazarlama, ancak ondan sonra gerçek. Ve ikincisi, dünya akıllı makinelerden korkarken, asıl sorun insanların akıllı gibi görünen aptal makinelere güvenmeye başlaması. Ve bu, ne yazık ki, her teknolojiden çok daha eski bir insan zayıflığı.