New York merkezli girişim Pangram, basit bir varsayım üzerine 9 milyon dolar topladı: makineler ne kadar çok metin yazarsa, insanlar makinenin yazmadığını bilmek için o kadar çok ödeyecek. Turu Menlo Ventures yönetiyor; Haystack, ScOp, Script Capital ve Cadenza da katılıyor.

Parayla birlikte şirket, yapay metin tespiti için yeni bir model - Pangram 4 - ve üretilmiş görselleri tespit eden ilk modelini yayımladı. Yapay zekâ desteğiyle yazılmış metni, karışık insan-makine metinleri dahil, yüzde 99'un üzerinde doğrulukla tanıdıklarını; ayrıca tek işi makine üslubunu gizlemek olan sözde „insanlaştırıcı” programları yakalayabildiklerini iddia ediyorlar.

Kurucular Max Spero ve Bradley Emi, ikisi de Stanford'dan, şirketi yaklaşık iki yıl önce kurdu - ChatGPT'nin ardından internetin botlarla ve arama motorları için otomatik üretilmiş içerikle dolduğu dönemde. Spero, motivasyonları arasında estetikten daha somut bir şeyi de sayıyor: dil modelleriyle beslenen dezenformasyon kampanyaları.

„Baktığın şeyin yapay zekâ tarafından üretilip üretilmediğini bilmenin inanılmaz değerli olduğunu düşünüyorum. Özellikle okuduğun metin için, çünkü bu insanların ona yaklaşımını değiştiriyor”, diyor Spero. „Bu, halüsinasyonlara dikkat etmem ve şüpheyle girmem gereken bir şey mi, yoksa gerçek bir gazeteci tarafından iyi araştırıldığına güvendiğim bir şey mi?”

Nasıl çalışıyor ve nerede gevşiyor

Sistem, on milyonlarca bilinen insan belgesiyle eğitilmiş büyük bir model. Her biri için bir „sentetik ayna” oluşturmuşlar - aynı konu, aynı uzunluk, aynı ton, ama bir dil modeli tarafından yazılmış. Model sonra makinenin sürekli aynı şekilde yaptığı şeyi öğreniyor. Spero'ya göre gizli filigranlara ya da kopyalamadan gelen üstverilere dayanmıyorlar.

Testler, sistemin tamamen üretilmiş makaleleri kolayca yakaladığını ve metin daha insani görünsün diye rötuşlandığında nadiren yanıldığını gösterdi. Ama iki yönde de hata yaptığını da gösterdi - insan tarafından yazılmış cümleler makine ürünü olarak işaretlendi, bir testte ise üretilmiş bir görselin fotoğrafı insan içeriği ilan edildi. Spero'nun kendisi, 10.000 insan belgesinden birinin yanlış etiket aldığını belirtiyor. Küçük bir rakam gibi duruyor; ta ki etiketin sınavı geçmekle kalmak arasındaki fark olabileceğini hatırlayana kadar.

İşte teknolojinin kurumlarla çarpıştığı yer burası. arXiv arşivi bu yıl, yazarın modelin çıktısını hiç gözden geçirmediğine dair izler taşıyan çalışmaların - uydurma kaynaklar ya da „Herhangi bir değişiklik yapmamı ister misiniz?” türünden unutulmuş bir cümle - bir yıllık gönderim yasağı getirebileceği bir kural koydu. Kanadalı bir siyasetçi milletvekillerinin önünde bir istemi yüksek sesle okudu. Avukatlar var olmayan atıflarla mahkeme salonuna girdi ve cezalarla çıktı.

Pangram yalnız değil - Winston AI, Originality.ai, Copyleaks ve GPTZero aynı pazarın peşinde. Erişim ayda 20 dolar; X, LinkedIn, Substack, Reddit ve Medium'daki paylaşımları canlı olarak işaretleyen bir Chrome eklentisiyle birlikte. Substack teknolojiyi, okurlara hangi yazarların makine desteğiyle yazdığını göstermek için çoktan entegre etti.

„Gördüğüm gelecek şu: yapay zekâ içeriği yayılmayı sürdürüyor. Yeni insanlar doğduğundan daha hızlı yeni grafik işlemcileri alıyoruz”, diyor Spero. Etkileyici bir cümle ve tam da bu yüzden öbür taraftan bakmaya değer: tespitten geçinen bir şirketin, tehdidin büyük görünmesinde çıkarı vardır. Spero haklıysa sorunu çözüyorlar. Yanılıyorsa yine de güvence için ayda 20 dolar tahsil ediyorlar.