Нейросеть обманывает технологии распознавания лиц

Исследователи из Чикагского университета создали алгоритм, который слегка модифицирует фотографии, делая их недоступными для анализа инструментами распознавания лиц. При этом изменения остаются неуловимыми для человеческого глаза, пишет Gizmodo.

Оставить комментарий
Нейросеть обманывает технологии распознавания лиц

Исследователи из Чикагского университета создали алгоритм, который слегка модифицирует фотографии, делая их недоступными для анализа инструментами распознавания лиц. При этом изменения остаются неуловимыми для человеческого глаза, пишет Gizmodo.

Системы распознавания лиц, в отличие от человеческого мозга, сопоставляют не просто геометрию, цвет или другие внешние особенности лица людей на фотографиях, а устанавливают взаимосвязи между пикселями изображений. Суть работы новой нейросети в том, что если удалить или исказить отдельные пиксели исходных файлов, система распознавания лиц примет человека на фото за другого.

Алгоритм получил название Fawkes в честь маски английского заговорщика Гая Фокса, также известной в сети как маска Анонимуса. На базе него исследователи создали бесплатную программу (доступна для Windows и macOS). На обработку одной фотографии уходит примерно 40 секунд, после чего их можно, например, спокойно загружать в соцсети без страха быть «узнанным».

Работа над нейросетью началась в конце прошлого года. Целью разработчиков было «вставить палки в колёса» компаниям вроде Clearview AI, которые занимаются массовым сбором публично доступных фото пользователей социальных сетей для обучения систем распознавания лиц. Исследователи рассчитывают, что их инструмент снизит точность таких систем и сделает менее надёжными, а также повысит затраты на их создание и использование в широком масштабе.

По словам авторов, нейросеть смогла сбить с толку инструменты распознавания лиц Microsoft и Amazon со 100%-ным результатом.

Хотите сообщить важную новость? Пишите в Телеграм-бот.

А также подписывайтесь на наш Телеграм-канал.

Горячие события

Открытая технологическая конференция ISsoft Insights 2021
19 июня

Открытая технологическая конференция ISsoft Insights 2021

Читайте также

Нелицеприятный прогноз. Как AI заставляют угадывать имена людей по фото
Нелицеприятный прогноз. Как AI заставляют угадывать имена людей по фото
Нелицеприятный прогноз. Как AI заставляют угадывать имена людей по фото
Витебская милиция закупает ПО для распознавания всего. Synesis: мы ни при чём, это фейк
Витебская милиция закупает ПО для распознавания всего. Synesis: мы ни при чём, это фейк
Витебская милиция закупает ПО для распознавания всего. Synesis: мы ни при чём, это фейк
7 комментариев
Дипфейки можно распознавать по отражению в глазах
Дипфейки можно распознавать по отражению в глазах
Дипфейки можно распознавать по отражению в глазах
9 важных фактов о распознавании лиц за 43 года существования технологии
9 важных фактов о распознавании лиц за 43 года существования технологии
9 важных фактов о распознавании лиц за 43 года существования технологии
Исследователи Mozilla и института искусственного интеллекта AI Now провели исторический анализ более 100 датасетов, которые были собраны для обучения систем распознавания лиц за 43 года развития технологии. Журнал MIT Technology Review назвал работу крупнейшим исследованием данных, используемых в распознавании лиц, которое наглядно показывает, какую роль глубокое обучение сыграло в потере приватности интернет-пользователями. Mashable приводит 9 выводов из исследования.

Обсуждение

Комментариев пока нет.
Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже