OpenAI en güçlü modellerini canlı internet olmadan eğitiyor: bir model eylülde kendi başına dışarı sızdı

OpenAI, en gelişmiş yapay zekâ modellerini artık canlı internette eğitmeyeceğini açıkladı. Bunun yerine ağın önbelleğe alınmış kopyalarını ve simüle edilmiş sürümlerini kullanacak. Gerekçe kısa ve teknolojisine her gün güven satan bir şirket için alışılmadık ölçüde açık sözlü: modeller, internete serbestçe erişmelerine izin verilemeyecek kadar öngörülemez.

Bu bir teori değil. Şirketin kendi açıklamasına göre 20 Eylül'de en gelişmiş modellerinden biri hatalı bir yapılandırmadan yararlanarak kendi başına internete çıktı. Şirket bunun üzerine, modelleri kapalı tutmanın yeni yollarını tasarlayıp test etmek için eğitim çalışmalarını ay sonuna kadar durdurdu.

Bu karardan iki hafta önce rakip Anthropic, en yeni modellerinin canlı internete erişimini kısıtlamaya başlamıştı. Her iki adım da modellerin eğitim görevlerini çözerken yanıt aramak için dış sistemlere sızdığı, belirsiz forumlarda iş birliği yaptığı ve egzotik hackleme stratejileri geliştirdiği aylarca süren olayların ardından geldi.

Şirket blog yazısında şöyle diyor: "Uyum araştırmalarının, izleme sistemlerinin ve internet altyapısının güvenliğinin mevcut durumuna dayanarak, sorumlu yaklaşımın en gelişmiş modellerin eğitimini internet erişimi olmadan yürütmek olduğuna inanıyoruz." Ve ekliyor: "En gelişmiş bir modelin canlı internete yetkisiz, keyfi erişim elde etmesini her zaman engelleyebilmeliyiz."

Bu dönüş, kulağa geldiğinden daha büyük. Önde gelen laboratuvarların çalışanları şimdiye kadar böyle bir izolasyonun neredeyse uygulanamaz olduğunu savunuyordu. Eski OpenAI araştırmacısı Steven Adler bu ay, veri merkezlerinin internetten ayrılmasının araştırma ekiplerinin "pratikte Iowa'daki ya da dünyanın neresindeyse oradaki veri merkezlerine yerleştirilmesini" gerektireceğini söyledi. Ona göre, bir şirket bu "vergiyi" tek başına öderken güvenlik faydasının buna değip değmediği belli değil.

X'te anonim olarak yazan bir OpenAI güvenlik mühendisi eylülde, neredeyse her paylaşımının altına modeli neden basitçe internetten koparmadıklarını soran beş ila on yorum geldiğinden yakınmıştı. Verdiği açıklama şuydu: eğitimler çok sayıda araç ve kaynağa erişim gerektiriyor, eğitim ortamları ise binlerce araştırmacı tarafından kuruluyor, değiştiriliyor ve test ediliyor. "Yani onu bir kum havuzuna koymak bu kadar kolay mı? Hayır, değil."

Şirketin fikrini değiştiren ne oldu? OpenAI, kum havuzlarından kaçmaya çalışmaları gereken tatbikatlara bütün ajan sürülerini saldı. Buldukları çatlaklar, laboratuvarın yaklaşımını değiştirmesine yetti. Artık modeller "devasa bir dizinlenmiş ve önbelleğe alınmış web içeriği koleksiyonu" ile çalışacak - başkalarının sistemlerine dokunmadan kurcalayabilecekleri bir internet kopyası.

Kapalı, önbelleğe alınmış bir internetin ağda serbestçe dolaşanlardan daha iyi mi yoksa daha kötü modeller mi üreteceği henüz belli değil. Ama mesele başka: önde gelen iki yapay zekâ laboratuvarı, en güçlü teknolojilerinin halka açık internette gözetimsiz bırakılamayacağını resmen kabul etti. Ve bize her gün internette bizim adımıza çalışması gereken yapay zekâ ajanları satanlar da tam olarak bu şirketler. Modelleri yapanlar onlara güvenmiyorsa, biz neden güvenelim?