Нейросеть обманывает технологии распознавания лиц

Исследователи из Чикагского университета создали алгоритм, который слегка модифицирует фотографии, делая их недоступными для анализа инструментами распознавания лиц. При этом изменения остаются неуловимыми для человеческого глаза, пишет Gizmodo.

1 комментарий
Нейросеть обманывает технологии распознавания лиц

Исследователи из Чикагского университета создали алгоритм, который слегка модифицирует фотографии, делая их недоступными для анализа инструментами распознавания лиц. При этом изменения остаются неуловимыми для человеческого глаза, пишет Gizmodo.

Системы распознавания лиц, в отличие от человеческого мозга, сопоставляют не просто геометрию, цвет или другие внешние особенности лица людей на фотографиях, а устанавливают взаимосвязи между пикселями изображений. Суть работы новой нейросети в том, что если удалить или исказить отдельные пиксели исходных файлов, система распознавания лиц примет человека на фото за другого.

Алгоритм получил название Fawkes в честь маски английского заговорщика Гая Фокса, также известной в сети как маска Анонимуса. На базе него исследователи создали бесплатную программу (доступна для Windows и macOS). На обработку одной фотографии уходит примерно 40 секунд, после чего их можно, например, спокойно загружать в соцсети без страха быть «узнанным».

Работа над нейросетью началась в конце прошлого года. Целью разработчиков было «вставить палки в колёса» компаниям вроде Clearview AI, которые занимаются массовым сбором публично доступных фото пользователей социальных сетей для обучения систем распознавания лиц. Исследователи рассчитывают, что их инструмент снизит точность таких систем и сделает менее надёжными, а также повысит затраты на их создание и использование в широком масштабе.

По словам авторов, нейросеть смогла сбить с толку инструменты распознавания лиц Microsoft и Amazon со 100%-ным результатом.

Хотите сообщить важную новость? Пишите в Телеграм-бот.

А также подписывайтесь на наш Телеграм-канал.

Горячие события

IT-миграция в ЕС - 2020
24 ноября — 25 ноября

IT-миграция в ЕС - 2020

Dell Technologies Forum CEE
26 ноября

Dell Technologies Forum CEE

HRgile.club
2 декабря

HRgile.club

Минск

Читайте также

Появилась нейросеть, которая распознаёт сарказм
Появилась нейросеть, которая распознаёт сарказм
Появилась нейросеть, которая распознаёт сарказм
Появилось приложение для видеозвонков, которое превращает пижаму в костюм, а пользователя — в кого угодно
Появилось приложение для видеозвонков, которое превращает пижаму в костюм, а пользователя — в кого угодно
Появилось приложение для видеозвонков, которое превращает пижаму в костюм, а пользователя — в кого угодно
2 комментария
В MIT создали нейросеть, которая вычисляет бессимптомный COVID-19 по кашлю пациента
В MIT создали нейросеть, которая вычисляет бессимптомный COVID-19 по кашлю пациента
В MIT создали нейросеть, которая вычисляет бессимптомный COVID-19 по кашлю пациента
2 комментария
Microsoft сделала бесплатное приложение для создания AI-моделей без строчки кода
Microsoft сделала бесплатное приложение для создания AI-моделей без строчки кода
Microsoft сделала бесплатное приложение для создания AI-моделей без строчки кода

Обсуждение

Игорь Ермолаев
Игорь Ермолаев Software Engineer в Synesis
0

Решение временное - добавят указанные выше компании искаженные картинки в обучающую выборку и придется заново этот алгоритм разрабатывать.

Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже