Herkes sohbet botlarına hayatını anlatmak için yarışırken, gizlilik adına en gür seslerden biri bir sınır çiziyor. Signal'in başkanı Meredith Whittaker, bir röportajda ChatGPT ve Claude gibi araçlar için net bir mesaj veriyor: „Bunlar arkadaşlarınız değil. Bunlar bilinçli varlıklar değil. Bunlar duyguları olan muhataplar değil."

Mesaj sert geliyor, ama ardında felsefi bir tartışma değil, somut bir kaygı var. Whittaker, asıl sorunun botun „seni anlayıp anlamadığı" değil, cihazlarına ne kadar derin eriştiği olduğu konusunda uyarıyor. Microsoft Copilot gibi bir yapay zekâ asistanının günlük işlerini halletmesi gerektiğinde, her şeye erişim ister - kredi kartları, tarayıcı, mesajlaşma uygulamaları, takvim. „Tarif ettiğiniz şey, birden çok uygulama ve hizmet boyunca çok derin erişimi olan bir sistem," diyor. „Bu bir tür arka kapı anlamına gelir."

Arka kapı - hem casusların hem de hackerların kullandığı terim. Yalnız bu kez onu kullanıcının kendisi açıyor, gülümseyerek, kişisel bir asistan edindiğine inanarak. Whittaker bu araçları kendisinin de kullandığını, ama asgari düzeyde - belge biçimlendirmek için, düşünmek ya da yazmak için değil - kullandığını itiraf ediyor. „Düşünme ve yazma işimi çok ciddiye alıyorum," diyor, onlara neden soru sormadığını açıklayarak.

Mesele teknolojinin kötü olması değil, konforun kimsenin küçük puntolarda okumadığı bir bedelle gelmesi. Yapay zekâya devrettiğimiz her görev, gönüllü olarak yıktığımız bir gizlilik duvarı daha. Ve neyi teslim ettiğimizi fark ettiğimizde, geri alma düğmesi kalmıyor. Whittaker'ın havada bıraktığı soru basit: bot senin hakkında her şeyi biliyorsa, aslında kime hizmet ediyor?