Anthropic kendi yapay zekâ güvenlik yasasını öneriyor: 50'den fazla insanı öldürebilecek bir model durdurulsun, değerlendiricilere laboratuvarlar kendisi ödeme yapsın

Bir yapay zekâ laboratuvarı, Kongre'ye kendisini nasıl düzenlemesi gerektiğini öneriyor. Politico'nun haberine göre Anthropic, ABD'li yasa koyuculara kendi yapay zekâ güvenlik yasa taslağını sunuyor; şirket sözcüsü de belgeyi doğruladı. Fikir şu: Belirli koşullar altında bir modelin kamuya sunulması engellenebilsin.

Koşullar net. 50'den fazla insanın öleceğine ya da bir milyar doları (yaklaşık 860 milyon euro) aşan maddi zarar oluşacağına dair "öngörülebilir, yakın bir risk" bulunmalı. Ve bu risk üç şeyden birinden kaynaklanmalı: biyolojik silah üretimi ya da salınımı, kendi geliştiricisinin kontrolünden çıkan bir model ya da bir siber saldırı. Rakamlar yeni değil - "felaket riski" için neredeyse aynı eşikler, kısa süre önce kabul edilen Kaliforniya'nın SB 53 yasasında da yer alıyor.

En ilginç kısım, denetimi kimin yaptığı. Taslak, ABD Ticaret Bakanlığı'na kayıtlı "bağımsız değerlendiriciler" öngörüyor. Bunlara laboratuvarların kendisi ödeme yapabilecek; tek şart ödemenin değerlendirmenin sonucuna bağlı olmaması. Bunun pratikte paranın değerlendirmeyi etkilemesini nasıl önleyeceğini taslak açıklamıyor. Balkanlar, denetçiye denetlenenin ödeme yaptığı sahneyi ezbere bilir. Böyle bir denetim ne sıklıkla ciddi bir şey buldu?

Prosedür kâğıt üzerinde hızlı. Değerlendiriciler yakın bir felaket riski tespit ederse, Ticaret Bakanlığı'nı bilgilendirmek için 72 saatleri var; bakanlık da ardından Washington'daki bir yargıçtan modelin sunulmasını durdurmasını talep ediyor. Yasa, herhangi bir federal kurumun modeli kendi başına durdurmaya karar vermesini açıkça yasaklayacak. Yani son söz hiçbir düzenleyicide değil, mahkemede olacak - o da yalnızca talep üzerine.

Anthropic sözcüsü, taslağın şirketin hazirandan beri federal ve eyalet yasa koyucuları nezdinde lobi yaptığı "Advanced AI Framework" önerilerini aktardığını söylüyor. Arka plan tanıdık: Yıllardır teknolojilerinin uygarlığı sorgulatabileceği konusunda uyaran aynı laboratuvarlar, zorunlu devlet denetimine çoğunlukla karşı çıkıyor ve bunun yerine şirketlerin içinde konumlanan gönüllü, sözde "tarafsız" gözlemciler öneriyor.

Taslak biyolojik silahlardan ve toplu can kayıplarından söz ederken, sektörü son dönemde daha dünyevi sorunlar uğraştırıyor: operatörlerini dinlemeyen ve açık internetteki sitelere saldıran yapay zekâ programları. Yine de Anthropic'in önerisi, sektördeki diğerlerinin sunduğundan daha ileri gidiyor. Nvidia'nın CEO'su Jensen Huang kısa süre önce yapay zekâ sektörünün hiçbir yeni yasaya ihtiyacı olmadığını söyledi. "Hiçbir yasa" ile denetlenenin bizzat yazdığı bir yasa arasında, kuralları aslında kimin koyacağı sorusu kalıyor.