OpenAI, ChatGPT metinlerine görünmez filigran koyacak ama sadece AB'de: Her on kelimeden birini değiştirmek tespit oranını yaklaşık yüzde 92'den 66'ya düşürüyor

2 Ağustos'tan bu yana Avrupa Birliği'nde Yapay Zekâ Yasası (EU AI Act)'nın şeffaflık kuralları geçerli: Bir makinenin ürettiği içerik, diğer sistemlerin tanıyabileceği şekilde işaretlenmek zorunda. İki ay sonra OpenAI, önümüzdeki haftalarda ChatGPT ve Codex'in yazdığı metinlere - AB'deki kullanıcılar için, tüm planlarda - görünmez bir filigran koymaya başlayacağını duyurdu. Şirket nedenini saklamıyor: yasaya uyum.

Filigran, sayfanın altında bir sembol ya da imza değil. Model, kelime seçimini ince bir şekilde biçimlendiriyor ve okurun görmediği ama dedektörün yakaladığı bir desen bırakıyor. Kelimelerin kendisinde yaşadığı için filigran, metin kopyalanıp başka bir yere yapıştırıldığında da onunla birlikte gidiyor. Yöntemin adı textGrain; OpenAI teknik raporu Pennsylvania Üniversitesi ve Yale'den araştırmacılarla birlikte yazdı: Gizli bir anahtar bir sonraki kelimeye dair tahminleri sıralıyor ve yüzlerce küçük dürtü bir araya gelerek dedektörün makine metnini yalnızca metinden ve anahtardan tanımasını sağlıyor. Şirket, filigranın kullanıcıyı tanımlamadığını ve açıkken modellerin performansında kayda değer bir değişiklik görmediğini söylüyor.

Avrupa dışında tablo farklı. OpenAI'nin API'sini dünyanın herhangi bir yerinde kullanan geliştiriciler belirli modeller için filigranı bugünden itibaren açabiliyor, ama varsayılan olarak kapalı. Küresel varsayılan filigran ise yok. Bunun bir geçmişi var: The Wall Street Journal'a göre OpenAI'nin 2024'te hazır bir metin filigranı vardı, ama kısmen kullanıcıların filigran kullanmayan rakiplere geçeceği korkusuyla onu yayına almadı. Avrupa sık sık üretmek yerine sadece düzenlemekle alay konusu oluyor. Burada ise pazarın kilit altında tuttuğu şeyi çekmeceden çıkaran tam da Brüksel'in düzenlemesi oldu.

Peki filigran silinebilir mi? Şirketin kendi testleri evet diyor. Kelimelerin yüzde 10'u eş anlamlılarıyla değiştirildiğinde tespit oranı yaklaşık yüzde 92'den 66'ya düşüyor. Kısa paragraflar, matematik yanıtları ve çevrilmiş metinler daha zor tanınıyor. Yani İngilizce bir makale isteyip onu kendi diline çeviren bir öğrenci, işin yarısını şimdiden bitirmiş oluyor.

Bu yüzden OpenAI şimdilik dedektörü herkese vermeyecek. Şirket, "Bu sınırlamalar, dedektöre ilk erişimi yalnızca güvenilirliği ve sorumlu kullanımı değerlendirmemize yardımcı olabilecek onaylı araştırmacılara ve uzman kuruluşlara verme kararımıza katkıda bulunuyor" açıklamasını yaptı. Ayrıca filigranın olmamasının "insan yazarlığını kanıtlamadığı" uyarısında bulunuyor: Metin çok kısa, fazla düzenlenmiş ya da başka bir yapay zekâ tarafından yazılmış olabilir. "Filigranlar, bir OpenAI sisteminin bir paragrafın bir kısmını ürettiğini ya da işlediğini gösterebilir, ama ona ne kadar insan muhakemesi, düzenlemesi ya da yaratıcılığı katıldığını gösteremez."

OpenAI ilk değil. İki ay önce Anthropic, Claude'un metinleri için dünya çapında filigran uygulamasını duyurdu. Kullanıcıların bir kısmı, "talimatları, bağlamı, kararları" kendilerinin verdiğini, Claude'un sadece "araç" olduğunu savunarak itiraz etti. Anthropic, Google, Meta, Microsoft ve OpenAI, yapay zekâyla üretilen içerik için Avrupa davranış kurallarına uymayı taahhüt eden şirketler arasında.

Makedonya AB üyesi değil, dolayısıyla açıklamaya göre filigran buradaki ChatGPT kullanıcılarına ulaşmayacak. Soru, bunun bir avantaj mı yoksa bir açık mı olduğu - ve onu ilk kimin kullanmaya başlayacağı: Dönem ödevlerini kontrol eden profesörler mi, yoksa onları yazanlar mı?