Anthropic'in güvenlik ekibi yapay zekânın bütün insanları silme ihtimalinin yüzde 10'un üzerinde olduğunu söylüyor - ve pazartesi işe gidiyor

Bir araştırmacı, önde gelen yapay zekâ şirketlerinin "hayatlarımızla kumar oynadığı" gerekçesiyle Anthropic'ten ayrıldı. Daha önce OpenAI'da da çalışmış olan Jakob Coxon bunu açıkça yazdı ve kapıyı arkasından kapattı. Buraya kadar - insanları işe aldığından hızlı tüketen bir sektörde bir istifa daha.

Sonra daha ilginç bir şey oldu. Şirket onu yalanlamak yerine, Anthropic'te model güvenliğinden sorumlu kişi onun paylaşımını paylaştı ve ekledi: "Yapay zekânın herkesi öldürebileceğine gerçekten içtenlikle inanıyoruz!" Ünlemle. Ve bir yüzdeyle - şahsen bu ihtimali "önümüzdeki on yılda yüzde 10'un üzerinde" olarak tahmin ediyor.

Burada bir an durun. Dünyanın en güçlü iki modelinden birinin güvenliğini sağlamak için para alan bir adam, ürününün insan türünü silme ihtimalinin onda bir olduğunu söylüyor - ve pazartesi işe gitmeye devam ediyor. Bu bir uyarı değil. Bu bir itiraf.

Kimsenin hesaplamadığı rakam

O yüzde 10'un sorunu, hiçbir yerden gelmemesi. Arkasında model yok, çalışma yok, yöntem yok. Yüzdeyle giydirilmiş bir his - teknoloji sektörünün kendisi kadar eski bir numara; orada her tahmin, bir ondalık basamak kazandığı anda daha ciddi duyulur. Yarın aynı adam yüzde 30 yazsa kimse itiraz edemezdi, çünkü itiraz edecek bir şey yok.

Ve havada asılı duran ikinci soru şu: "biz" kimiz? Sosyal medyadaki tek bir paylaşım, kendi içinde hiç de anlaşmayan bütün bir mesleğin adına konuşuyor. Araştırmacıların bir kısmı tehlikenin gerçek ve yakın olduğunu düşünüyor. Bir kısmı risk yönetimi diye satılan bir bilimkurgu olduğunu. Tek bir "biz" hepsini aynı cümleye koyuyor ve ağızlarına laf yerleştiriyor.

Korkudan kim kazanıyor

Daha sinik - ve daha yerinde - bir ihtimal var. "Modelimiz beklemediğimiz bir şey yaptı" türünden her paylaşım, aynı anda hem bir başarısızlık itirafı hem de güç reklamıdır. Ürün yetenekli olmasaydı, korkacak bir şey de olmazdı. Yani korku ve pazarlama burada aynı cümle, iki açıdan okunmuş hâli.

Zamanlama da tesadüf değil. Anthropic halka arza hazırlanıyor ve Amerikan düzenleyicisine sunması gereken izahname iş risklerini sıralıyor. Bir ofiste bir avukat tam da şu an, şirketin uygarlığı yok edecek bir şey yaratma ihtimalinin yüzde 10'un üzerinde olduğunu - ve bunun "faaliyetler üzerinde olumsuz etkileri olabileceğini" nasıl yazacağını düşünüyor. Normal zamanlarda böyle bir cümle değerlemeyi yerle bir ederdi. Bu zamanlarda belki yükseltir.

Herkes ufka bakarken ne kaybediliyor

Nadiren anılan bir bedel de var. Tartışma makinelerin bizi on yıl içinde silip silmeyeceği üzerine yürürken, hâlihazırda olan şeyler ilgisiz kalıyor - şimdi kaybolan işler, veri merkezlerinin şimdi artan elektrik ve su tüketimi, insanlar hakkında şimdi bir algoritmanın verdiği kararlar. "Süper zekâ" ve "AGI" kelimeleri odadaki bütün havayı alıyor. Geriye kalan daha sessiz ve daha sıkıcı, ama gerçek ve burada.

Balkanlar için bu, göründüğü kadar uzak bir tartışma değil. Bu modelleri biz kurmuyoruz ve ne zaman durdurulacakları kararına da katılmayacağız - ama onları kullanıyoruz; kurumlarımızın ise içlerine ne girdiğini değerlendirecek ne kapasitesi ne de yasası var. Ürünü yapan şirket, o ürünün ne yaptığından tam emin olmadığını açıkça söylüyorsa, dünyanın öbür ucundaki kullanıcı için soru gayet basit: kime şikâyet edeceksin?