Zuckerberg yapay zekâ konusunda bizi yatıştırmak için 6.500 kelime yazdı: her ikinci örnekte neden endişelendiğimizi açıklıyor

Mark Zuckerberg, „kişisel süperzekânın" her insanın hayatını nasıl değiştireceğine dair 6.500 kelimelik bir deneme yayımladı. Metnin bir versiyonu iki hafta önce Wall Street Journal'da çıkmıştı; aynı fikirleri yatırımcılarla yaptığı çeyreklik görüşmelerde de tekrarlıyor. Bu, şimdiye kadarki en ayrıntılı yeniden paketleme - ve asıl sorun tam da ayrıntılar.

Metin, korkulara yanıt olarak kurgulanmış. Bunun yerine, her birkaç paragrafta bizzat korkuların neden var olduğunu hatırlatıyor. Korkacak bir şey olmadığına sizi ikna etmek isteyen biri, işlerin ters gidebileceği örnekleri durmadan sıralıyorsa, siz yatışmazsınız - tersi olur.

Denemenin bir bölümü, herkesin daha güçlü araçlar edineceği ve gücün kendiliğinden dengeleneceği fikrinin etrafında dönüyor. „Karşıt çıkarları olan insanlar ve kurumlar doğal olarak birbirini denetler ve dengeler", diye yazıyor Zuckerberg. Balkanlar bu cümleyi ezbere bilir - serbest piyasanın işleri kendiliğinden çözeceğini anlatan aynı mantık. Karşıt çıkarlar bazen dengelenir. Bazen biri basitçe kazanır.

En zayıf nokta eğitim örneği. Zuckerberg herkese, her alanda doktoralı ve sınırsız sabırlı kişisel bir öğretmen vaat ediyor. O ürün zaten var - ChatGPT, Claude ve Gemini. Ancak bu araçların sınıftaki başlıca kullanımı öğrenmek değil, öğrenmekten kaçınmak: ödevi makine yazıyor ve öğretmenin hangi ödevi öğrencinin yazdığını denetleyecek güvenilir bir yolu yok. Bu, geleceğe dair varsayımsal bir risk değil. Bu dönem yaşanan şey.

Sorun teknolojide değil, güvende

Bu ruh hâlinin ardındaki rakamlar Meta için rahatsız edici. Yakın tarihli bir araştırmaya göre Amerikalıların yüzde 64'ü sosyal medyanın demokrasiye zarar verdiğini düşünüyor; benzer bir oran daha sıkı düzenleme istiyor - üstelik iki partinin seçmenlerinde eşit ölçüde. Denemenin çıktığı hafta sonu, bir mahkeme şirkete çocuklara verilen zarar nedeniyle 567 milyon dolar (yaklaşık 490 milyon euro) ceza verdi.

Asıl hikâye burada. Yapay zekâya dair kaygı gökten inmedi - sosyal medyayla yaşananların doğrudan mirası. Kamuoyu, yeni bir ürünün toplumu iyileştireceğine dair teknoloji sektörüne bir kez zaten inandı. Bu sonuçları atlayıp yine yalnızca iyilik vaat eden bir deneme güveni geri getirmez; güvenin nasıl yitirildiğini gösterir.

Kendi işine dair bölümler bile tuhaf biçimde soyutlaşıyor. Zuckerberg, herkesin araçlara ücretsiz ya da erişilebilir biçimde ulaşacağını, milyarlarca insan için ücretsiz sürümler olacağını söylüyor. İlkesel olarak doğru - ücretsiz model, herkesin hesaplama gücünü peşin ödemesinden daha geniş erişim açar. Ama hiçbir tüketici ürününün kullanıcıya sunucuların anlık piyasa fiyatını yansıtmamasının bir sebebi var: talebe göre sıçrayan bir faturalandırma, araca iş için ihtiyaç duyduğunuzda felaket bir deneyimdir.

Rakiplerle karşılaştırma Meta'nın lehine değil. Sam Altman ve Dario Amodei, kendi kusurları ne olursa olsun, en azından Zuckerberg'in burada yapmayı reddettiğini yapıyor - teknolojinin tehlikeler taşıdığını kabul ediyor, hangi önlemleri aldıklarını açıklıyor ve kendilerine güvenilebileceğine ikna etmeye çalışıyorlar. Bu hiçbir şeyin garantisi değil. Ama koruma mekanizmaları çöktüğünde - er ya da geç çöker - biriktirilmiş güveni olmayan bir sektörün yaslanacağı hiçbir şey olmaz.

Bu bölgedeki okur için soru daha basit. Aracı inşa eden kişi risklerden söz etmeye gerek görmüyorsa, o riskler bize de ulaştığında onlardan kim söz edecek?