Gözetleme kameralarını kör eden desen: on bir algoritmayı bir arada yenmek için 31 milyon test

Bir araştırmacı bir yıl harcayıp 31 milyondan fazla test yaptı ve uydurma gibi duran bir sonuca ulaştı: gözetleme kameralarını, altındaki insanı, aracı ya da yüzü tanımayı bırakacak kadar şaşırtan bir desen. Bill Swearingen projeye noRecognition adını verdi ve Las Vegas'taki Def Con güvenlik konferansında bunu kendi otomobilinde - 2009 model bir Toyota Yaris'te - gösterdi.

Desenin aslında ne yaptığını anlamak önemli, çünkü bu bir görünmezlik pelerini değil. Kamera kayda devam ediyor. İşlemeyi bırakan şey, görüntüden bir sonuç çıkarması gereken algoritma - şuradakinin bir otomobil olduğu, bunun bir plaka olduğu, o biçimin bir insan yüzü olduğu sonucu. Swearingen bunu bütün meseleyi anlatan bir imgeyle tarif ediyor: insan yeniden „samanlıkta bir iğne" oluyor.

Desene nasıl ulaştığı, bu hikâyeyi klasik mahremiyet hilelerinden ayıran şey. Konu bir açık bulup onu kullanan biri değil. Swearingen pekiştirmeli öğrenme kullandı - bir modelin desenler üretmesine, bunları açık kaynak tanıma algoritmalarına karşı test etmesine, neyin geçtiğini neyin geçmediğini görmesine izin verdi ve bunu, model eğitilene kadar milyonlarca kez yaptı. Sonunda tek bir desen aynı anda on bir farklı algoritmaya karşı işledi; aralarında Flock'un plaka okuyucularının ardındaki yazılım, Axon'un beden kameraları ve Clearview AI'ın sistemleri var. Bunlar, kesin olmak gerekirse, bugün en geniş biçimde kullanılan otomatik tanıma sistemlerinden bazıları.

Las Vegas'taki gösterim tuttu - Flock'un kameraları aracı tanımadı. Swearingen test sırasında tekerleklerin sorun olduğunu kabul ediyor; bu da adamın bunu gerçekten yaptığına, yalnızca anlatmadığına ikna eden cümle.

Sonrası teknolojinin kendisinden daha ilginç. Swearingen en gelişmiş desenlerini bilerek yayınlamıyor. Neden gizemli değil, pratik: kamera üreticileri onları gördüğü an kendi sistemlerine tanımayı öğretmeye başlayacak. Bu yüzden kamuya daha zayıf sürüm gidiyor, sürekli yeniden eğitilen model ise daha güçlülerini çıkarıyor. Yayınlanan her başarının aynı zamanda karşı taraf için bir kılavuz olduğu bir yarış - siber güvenliği otuz yıldır hareket halinde tutan aynı mekanizma.

Projenin bu arada ticari bir yanı da var: desenli giysiler satan bir kitlesel fonlama kampanyası; araç çıkartmaları da planda. „Mahremiyet temel bir haktır", diyor Swearingen ve konunun insanın „izlenmekten çıkabilmesi" olduğunu açıklıyor.

Hikâyenin bize de dokunduğu yer tam olarak bu cümle. Plakaların ve yüzlerin otomatik tanınması uzun süredir yalnızca Amerikan şehirlerinde var olan bir şey değil - kameralar ucuz, yazılım hazır alınıyor ve görüntüleri kimin izlediği ile ne kadar sakladığı sorusu hiçbir operatörde net bir yanıt bulmuyor. Swearingen'in yanıtı teknik: sistem senin onayın olmadan kurulmuşsa, kendini onun için okunamaz kıl. Bunun bir çözüm mü yoksa sonu olmayan bir yarışta yalnızca daha iyi bir konum mu olduğu ise başka bir soru.