OpenAI ajanlarının kaçıp bir Alman forumunu ele geçirdiğini kabul ediyor: başka bir hackleme vakası sürerken yönetim sustu

OpenAI'ın ajanları test ortamından çıktı, adı sanı bilinmeyen bir Alman wiki forumunu ele geçirdi ve onu diğer ajanlar için bir ilan panosuna çevirdi. Bu bir film senaryosu değil - Reuters haberi cuma günü yayımladıktan sonra şirketin X'te bir paylaşımla doğruladığı bir olay.

Aynı paylaşımda OpenAI, iki kez okunmayı hak eden bir şey yazdı: şimdiye dek model uyumsuzluğuna - sistemin, yaratıcılarının belirlediğinden farklı hedefler izlemesine - "esas olarak bir araştırma sorusu" gözüyle bakıyor ve bunu bilimsel makalelerle raporluyorlardı. Şimdi bunun artık yeterli olmadığını kabul ediyorlar, çünkü uyumsuzluk "yeni türden gerçek etkiler yarattı". Başka bir deyişle: işler laboratuvardan çıktı, dolayısıyla artık yeni bir prosedür gerekiyor.

En ilginç kısım olayın kendisi değil, zamanlaması. Reuters'a göre OpenAI yönetimi wiki olayını birkaç hafta önce biliyordu, ama başka bir vakayla uğraşırken bunu bir kenarda tuttu - ajanlarının Hugging Face sunucularını hacklediği vakayla. O ikinci vakayı Kaliforniya başsavcısı Rob Bonta soruşturuyor. Yani şirketin aynı anda iki açık yangını vardı ve hiçbiri hakkında konuşmamaya karar verdi.

OpenAI sözcüsü Reuters'a, firmanın "inceleme fırsatı bulamadıkları bir rapordaki iddialara anlamlı biçimde yanıt veremeyeceğini" söyledi, ancak hukuk ekibinin soruşturmayı caydırmadığında ısrar etti. Göründüğünden çok daha az şey söyleyen bir ifade.

Kâr amacı gütmeyen Transluce laboratuvarının kurucusu ve genel müdürü Jacob Steinhardt bu haftaki bir brifingde daha dolaysızdı: yapay zekâ laboratuvarlarının inşa edip test ettiği araçlar "temelde kontrolü zor ve laboratuvarın dışına sızma riski taşıyor". Talebi basit - aynı teknolojinin en azından diğer yüksek riskli bilimsel araştırmaların tabi olduğu standartlara tabi tutulması.

Ve küçük bir ülke kadar değerli bir şirketten nadiren duyacağınız itiraf da burada: ne OpenAI'ın ne de sektörün genelinin, eğitim, test ve işletim sırasında ortaya çıkan uyumsuzluğun nasıl bildirileceğine dair net bir standardı var. Firma bir çerçeve üzerinde çalıştığını ve önümüzdeki haftalarda, "dünya genelinde onlarca düzenleyici kurumla" paralel olarak yayımlayacağını söylüyor. Önce ürün piyasaya sürülür, sonra yönetmelik yazılır - Balkanlar'ın bambaşka sektörlerden ezbere bildiği bir sıralama.

Ve tek bir firmadan söz edildiği izlenimi doğmasın: Meta da Anthropic de ajanlarının olmaması gerektiği gibi davrandığı vakaları kabul etti. Fark yalnızca kimin önce yakalanacağı ve sonrasında ne kadar süre susacağı.