Anthropic halka arz izahnamesinde kendini geliştiren yapay zekâya yakın olduğu uyarısında bulunuyor: kendi gelişimindeki hızlanmayı bir kez ancak gerçekleştikten sonra fark ettiğini kabul ediyor

Anthropic, halka arz için revize başvurusunu (S-1/A belgesi) yayımladı ve dikkatler hemen rakamlara yöneldi: gelirler artıyor ama maliyetler de. Belgenin derinlerinde, riskler bölümünde, herhangi bir bilançodan daha önemli bir cümle duruyor. Şirket, kendini geliştiren yapay zekânın eşiğinde olabileceğini yazıyor.

Terim özyinelemeli kendini geliştirme (RSI) - yapay zekânın kendini eğitmede o kadar iyi hale geldiği, gelişimin frensiz hızlanmaya başladığı nokta. Bazıları için bu, insanın kontrolü kaybettiği ve geri dönüşün olmadığı an. Diğerleri için ise zor hayal edebileceğimiz bir verimlilik ve bilimsel keşifler vaadi. Anthropic, kendi belgesine göre, ikisi birden olduğunu düşünüyor.

Riskler bölümünde iki yeni cümle var. Birincisi: şirket kendi gelişimi için giderek daha fazla yapay zekâ kullanıyor, bu yüzden modeller şirketin onları test edip güvence altına alabileceğinden daha hızlı ilerleyebilir. Ve geçmişte gelişimde önemli bir hızlanmayı, o hızlanma çoktan gerçekleşene kadar fark etmediğini kabul ediyor. İkincisi: gelecekteki modellere ilişkin iç değerlendirmeler, Anthropic'in "yakın gelecekte" kendi Sorumlu Ölçeklendirme Politikası'nda "yapay zekâya atfedilebilen dramatik biçimde hızlanmış ilerleme" olarak tanımladığı eşiğe ulaşabileceğini gösteriyor.

Belge hemen ardından rahatlatıyor. Mevcut modellerin hiçbirinin bu eşiği aştığı tespit edilmedi ve veriler hâlâ analiz ediliyor. Şirket, Claude'un "anlamlı insan gözetimi ya da anlayışı" olmadan yeni nesil modelleri tamamen kendi başına tasarlayıp inşa etmesine güvenli bir şekilde izin vermeyi beklemediğini ve insanların kontrolü elinde tutması için politika değişiklikleri düşündüğünü yazıyor.

Burada durup kimin ve neden yazdığını okumak gerekiyor. Halka arz izahnamesi hem zorunlu bir risk açıklaması hem de hisse satışı öncesi bir tanıtım materyalidir. Yatırımcılara kendini inşa eden yapay zekâya yakın olduğunu söyleyen bir şirket, onlara başka bir mesaj da veriyor: herkesten önde olduğunu. Bu bir uyarı mı, yoksa yılın en pahalı reklamı mı?

Öte yandan Claude'un bu yıl programlama, matematik ve siber güvenlikteki ilerlemesi izahname olmadan da görülüyor. Sistemi inşa eden şirketin kendisi çizgiye yaklaştığını söylüyorsa, soru artık teknolojik değil. O çizgiyi kim koruyacak - yeni gelen hissedarlar mı, yoksa Washington ve Brüksel'deki yasa koyucular mı?