Нейросеть обманывает технологии распознавания лиц

Исследователи из Чикагского университета создали алгоритм, который слегка модифицирует фотографии, делая их недоступными для анализа инструментами распознавания лиц. При этом изменения остаются неуловимыми для человеческого глаза, пишет Gizmodo.

1 комментарий
Нейросеть обманывает технологии распознавания лиц

Исследователи из Чикагского университета создали алгоритм, который слегка модифицирует фотографии, делая их недоступными для анализа инструментами распознавания лиц. При этом изменения остаются неуловимыми для человеческого глаза, пишет Gizmodo.

Системы распознавания лиц, в отличие от человеческого мозга, сопоставляют не просто геометрию, цвет или другие внешние особенности лица людей на фотографиях, а устанавливают взаимосвязи между пикселями изображений. Суть работы новой нейросети в том, что если удалить или исказить отдельные пиксели исходных файлов, система распознавания лиц примет человека на фото за другого.

Алгоритм получил название Fawkes в честь маски английского заговорщика Гая Фокса, также известной в сети как маска Анонимуса. На базе него исследователи создали бесплатную программу (доступна для Windows и macOS). На обработку одной фотографии уходит примерно 40 секунд, после чего их можно, например, спокойно загружать в соцсети без страха быть «узнанным».

Работа над нейросетью началась в конце прошлого года. Целью разработчиков было «вставить палки в колёса» компаниям вроде Clearview AI, которые занимаются массовым сбором публично доступных фото пользователей социальных сетей для обучения систем распознавания лиц. Исследователи рассчитывают, что их инструмент снизит точность таких систем и сделает менее надёжными, а также повысит затраты на их создание и использование в широком масштабе.

По словам авторов, нейросеть смогла сбить с толку инструменты распознавания лиц Microsoft и Amazon со 100%-ным результатом.

Хотите сообщить важную новость? Пишите в Телеграм-бот.

А также подписывайтесь на наш Телеграм-канал.

Читайте также

В России от
В России от "Яндекса" потребовали раскрыть алгоритмы и дать равный доступ к "колдунщикам"
В России от "Яндекса" потребовали раскрыть алгоритмы и дать равный доступ к "колдунщикам"
2 комментария
DeepMind научили AI выигрывать игры, не зная правил
DeepMind научили AI выигрывать игры, не зная правил
DeepMind научили AI выигрывать игры, не зная правил
Изучайте алгоритмы и структуры данных от Skillfactory со скидкой 45%
Изучайте алгоритмы и структуры данных от Skillfactory со скидкой 45%
Изучайте алгоритмы и структуры данных от Skillfactory со скидкой 45%
22 декабря Skillfactory запускает новый курс «Алгоритмы и структуры данных», где будут учить алгоритмам, чтобы показать, как можно улучшить код и уверенно проходить собеседования.
Появилась нейросеть, которая распознаёт сарказм
Появилась нейросеть, которая распознаёт сарказм
Появилась нейросеть, которая распознаёт сарказм

Обсуждение

Игорь Ермолаев
Игорь Ермолаев Software Engineer в Synesis
0

Решение временное - добавят указанные выше компании искаженные картинки в обучающую выборку и придется заново этот алгоритм разрабатывать.

Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже