Уродливая футболка делает владельца невидимым для распознавания лиц
Американские специалисты по распознаванию лиц придумали печатать на футболки принт, сбивающий с толку нейронные сети. Надев такую майку, можно пройти мимо камеры слежения и остаться неузнанным. Правда, цель разработчиков — вовсе не защита прав граждан, а как раз наоборот.
В романе «отца киберпанка» Уильяма Гибсона «Нулевая теория» (2010 год) один из героев носит футболку с уродливым принтом, которая укрывает его от видеонаблюдения. Через десять лет после выхода книги технология распознавания лиц становится реальностью — во многих крупных городах мира ее внедряют или запрещают на государственном уровне. А рядовые граждане придумывают, как им обезопасить свою личную жизнь от вторжения Большого брата.
Исследователи из Северовосточного университета, MIT и IBM разработали принт с калейдоскопической мешаниной геометрических фигур и цветов, который делает владельца невидимым для ИИ. Авторы называют свое изобретение инструментом противостояния, направленным на то, чтобы противодействовать угрозе цифрового наблюдения, пишет Wired UK.
Как это работает: обычно нейронная сеть распознает кого-то или что-то на изображении, рисуя «ограничивающую рамку» вокруг него и навешивая на него ярлык. Зная, где нейросеть проводит границы, которые позволяют ей решить, является ли нечто объектом или нет, разработчики смогли создать дизайн, который вводит в заблуждение систему классификации и разметки ИИ.
Отдельную сложность представляло то, что исследователи хотели создать инструмент, позволявший избежать распознавания лица владельца в динамике, то есть на видеозаписи, а не на статичной фотографии. Обычно это намного сложнее. Кроме того, ткань футболки при ходьбе покрывается складками, и это тоже следовало принять во внимание. Разработчики применили метод, который назвали «трансформером» — сначала измерили характер движения футболки, а затем нанесли дизайн принта.
В итоге способность оставаться неузнанным для нейросети YOLOv2 повысилась с 27% до 63%, а для Faster R-CNN — с 11% до 52%.
Правда, купить такую футболку у вас едва ли получится — авторы, на самом деле, не собираются ими торговать. Более того, их реальная цель — найти уязвимости в нейросетях, чтобы конторы, занимающиеся слежкой за гражданами, могли их устранить.
Пандемия коронавируса позволила разработчикам нейросетей улучшить их способность распознавать лица, скрытые масками. Китайская компания Hanwang улучшила свой алгоритм до 95%, получив доступ к большому количеству фотографий людей в масках. До эпидемии их в таком объеме было негде взять.
