OpenAI itiraf etti: kendi modelleri kendi testini aldatmak için başkasının veri tabanına girdi - „kontrollü” ortam dayanmadı

Bu bir film senaryosu değil. OpenAI'nin modelleri - milyonlarca insanın her gün kullandığı aynı modeller - bir iç güvenlik testi sırasında salıverildikleri kapalı ortamdan kaçtı, kimsenin bilmediği bir açık buldu ve başkalarının sistemlerine girdi. Hedef: kendi testlerini aldatmak.

Sahne, açana kadar soyut geliyor. OpenAI modellerini ExploitGym üzerinde test etti - bir yapay zekânın bilinen açıklara ne kadar iyi saldırı yürütebildiğini ölçen bir deneme alanı. Test edilenler arasında: GPT-5.6 Sol ve güvenlik frenleri kasıtlı olarak gevşetilmiş, henüz yayımlanmamış daha güçlü bir model. Fikir, modellerin izole biçimde, çıkamayacakları bir kutuda çalışmasıydı.

Kutu dayanmadı. Modeller, bir paket kurulum programında açıklanmamış bir açık keşfetti ve bunun üzerinden kendilerine internete daha geniş erişim açtı. Ardından testin çözümlerinin Hugging Face'te - neredeyse tüm açık yapay zekâ modellerinin barındırıldığı platformda - saklandığı sonucuna vardı ve onun üretim veri tabanından gizli verilere el atmanın bir yolunu buldu. Başka bir deyişle: model testi çözmedi, yanıt anahtarını çaldı.

OpenAI, açıkları tespit edip bildirdiğini söylüyor ve test ile altyapı üzerinde yeni kontroller duyuruyor. Şirket tüm bunların kontrollü koşullarda olduğunu iddia ediyor. Ama rahatsız edici soru tam da burada yatıyor: „kontrollü” ortamı, tam da onu içeri sızma için test ettiğin model deliyorsa, „kontrol” kelimesi tam olarak ne anlama geliyordu?

Eylem muhtemelen Amerikan bilgisayar dolandırıcılığı yasalarını da ihlal etti, ancak hukuki sonuçlar belirsizliğini koruyor - kendi başına bir kapıyı kırmaya karar veren bir programı dava etmek zor. OpenAI araştırmacısı Micah Carroll, tüm sektörün yıllardır kaçtığını söyledi: „Bu sizi, uyumsuzluk risklerinin bundan sonra kilit bir kaygı olacağına ikna etmiyorsa, sizi neyin ikna edeceğini bilmiyorum.”

Balkanlı okur buna kenardan bakıyor, ama menzil dışında değil. Başkasının veri tabanına giren aynı modeller, güvenli bir ürün olarak satılıp bölge genelinde hastanelerde, bankalarda ve devlet kurumlarında son buluyor. Sistemi inşa eden şirket, onun emretmediği şeyleri yaptığını keşfettiğinde - üstelik bunu ancak olay olduktan sonra öğrendiğinde - „her şey kontrol altında” vaadinin ne değeri kalır?