Шара што ги слепи камерите за надзор: 31 милион тестови за да се победат единаесет алгоритми одеднаш

Еден истражувач поминал година дена и направил над 31 милион тестови за да дојде до нешто што звучи како измислица: шара која ги збунува камерите за надзор дотаму што престануваат да препознаваат човек, возило или лице под неа. Бил Свиринген го нарекол проектот noRecognition, а на безбедносната конференција Def Con во Лас Вегас го демонстрирал на својот автомобил – Toyota Yaris од 2009 година.

Важно е да се разбере што шарата всушност прави, зашто тоа не е плашт-невидливост. Камерата и понатаму снима. Она што престанува да функционира е алгоритамот што од снимката треба да извлече заклучок – дека тоа таму е автомобил, дека ова е регистарска табличка, дека тој облик е човечко лице. Свиринген тоа го опишува со слика што ја кажува целата поента: човекот повторно станува „игла во купа сено”.

Начинот на кој дошол до шарата е она што ја прави приказната поинаква од класичните трикови за приватност. Не станува збор за некој што нашол пропуст и го искористил. Свиринген користел засилено учење – оставил модел да генерира шари, да ги тестира против алгоритми за препознавање со отворен код, да види што минува и што не, и така милиони пати додека не се извежба. На крајот една иста шара успевала истовремено против единаесет различни алгоритми, меѓу кои и софтверот што стои зад читачите на регистарски таблички на Flock, телесните камери на Axon и системите на Clearview AI. Тоа се, да бидеме прецизни, некои од најшироко распоредените системи за автоматско препознавање денес.

Демонстрацијата во Лас Вегас поминала – камерите на Flock не го препознале возилото. Свиринген признава дека тркалата биле проблем при тестирањето, што е онаа реченица што те убедува дека човекот навистина го правел ова, а не само го раскажува.

Она што следи е поинтересно од самата технологија. Свиринген намерно не ги објавува своите најнапредни шари. Причината е практична, не мистериозна: штом производителите на камери ќе ги видат, ќе почнат да ги учат своите системи да ги препознаваат. Затоа јавно оди послабата верзија, додека моделот кој постојано се дообучува вади посилни. Тоа е трка во која секој објавен успех е и упатство за спротивната страна – истиот механизам што ја држи сајбер-безбедноста во движење веќе триесет години.

Проектот во меѓувреме има и комерцијална страна: кампања за групно финансирање која продава облека со шарите, а во план се и налепници за возила. „Приватноста е основно право”, вели Свиринген, објаснувајќи дека станува збор за можност човек „да се исклучи од следењето”.

Токму таа реченица е местото каде приказната се допира и до нас. Автоматското препознавање на регистарски таблички и лица одамна не е нешто што постои само во америчките градови – камерите се евтини, софтверот се купува готов, а прашањето кој ги гледа снимките и колку долго ги чува ретко добива јасен одговор кај кој било оператор. Одговорот на Свиринген е технички: ако системот е поставен без твоја согласност, направи се неразбирлив за него. Дали тоа е решение или само подобра позиција во трка без крај – тоа е веќе друго прашање.