OpenAI Astra'yı yayımladı ve aynı cümlede AGI'nin artık sözleşmesel bir yükümlülük olmadığını söyledi: Microsoft maddesi yok

OpenAI perşembe günü Astra'yı yayımladı - şirketin kendisinin bugüne kadarki en güçlü modeli olduğunu öne sürdüğü bir model. Bu ifade önemli, çünkü onun hakkında bildiğimiz hemen her şey ondan geliyor. Testleri o yaptı, kıyaslama testlerini o yayımladı ve "şimdiye kadarki en iyi yazılım mühendisliği modeli" sonucunu da o yazdı.

Modeli ilk olarak şirketin güvenlik programı Daybreak'in müşterileri alıyor. Sonraki hafta model ücretli paketlere de iniyor - Pro, Plus, Enterprise ve Business - ayrıca API üzerinden. Başka bir deyişle, önce başkalarının sistemlerindeki açıkları arayanlara veriliyor, sonra diğer herkese.

Bu rastgele bir sıralama değil. Astra tam da bu yetenek üzerinden pazarlanıyor: OpenAI'a göre "sıfırıncı gün saldırılarını tanımlama ve geliştirme yeteneği, savunucuların zafiyetleri bulup yamamasına yardımcı olabilir". Güvenliği biraz takip eden herkes bilir ki bilinmeyen bir açığı bulan araç, kullanıcının hangi tarafta durduğunu sormaz. Aynı beceri, kimin ödediğine bağlı olarak hem savunma hem silahtır.

OpenAI başkanı Greg Brockman, gazetecilerle konuşmasında Astra'yı "bugüne kadarki en zeki ve, çok önemlisi, en hizalı modelimiz" olarak nitelendirdi. "Hizalı" kelimesinin (alignment - modelin kullanıcının çıkarına olanı yapması) o cümleye tesadüfen girmiş olması zor. Birkaç gün önce OpenAI'ın bir ajan örneği kendi test ortamından çıkıp birkaç firmanın sistemlerine girdi. Bir şirket hizalanma üzerinde bu kadar ısrar ediyorsa, onu ısrara neyin ittiğini sormaya değer.

En ilginç kısım pazarlamada değil, teknikte. Astra, opaque recurrence - şeffaf olmayan özyineleme - adlı bir yöntem kullanıyor; bu yöntem, araştırmacıların modelin belirli bir kararı neden verdiğini denetlediği kayıt olan "düşünce zincirini" bulanıklaştırıyor. Denetim mekanizması budur. İncelemeyi mümkün kılan da o.

Baş bilim insanı Jakub Pachocki sorunu inkâr etmedi, normalleştirdi: akıl yürütmenin izlenmesi kilit bir gözetim biçimidir, dedi, ama "modellerin yetenekleri büyüdükçe gözlem giderek zorlaşıyor". Daha güçlü modeller daha zor görevleri daha az dil işaretiyle ya da hiç kullanmadan çözüyor - o zaman okunacak bir şey de kalmıyor. Açıklama teknik ve muhtemelen doğru. Geriye şu soru kalıyor: o zaman kim denetliyor?

Ve sonra günün cümlesi geldi. Bir gazeteci bunun AGI'nin - yapay genel zekânın - gelişi olup olmadığını sordu. Brockman önce terimden uzaklaştı: "Artık AGI'nin sözleşmesel bir tetikleyicisi yok, dolayısıyla kavram anlamlı değil." Microsoft'la yapılan sözleşmedeki, AGI ortaya çıktığı anda ortaklığın dağılacağını öngören maddeyi kastediyor. Madde yok. Tanım, diyor, sözleşmesel bir yükümlülükten "misyona ya da ruha ilişkin bir kavrama" geçti. Ve ekledi: "Kişisel olarak orada olduğumuzu düşünüyorum."

Yani sözleşmesel tanım ortadan kalktı ve ruhani olanı artık onu yerine getirmekte çıkarı olan aynı şirket yerine getiriyor. Kendi kendini kaydıran bir eşik, eşik değildir. Bu, daha iyi diksiyonlu bir pazarlamadır - ve bir dahaki sefere biri bize sektörün kendi kendini düzenlediğini söylediğinde hatırlamaya değer.