Facebook научила AI обманывать системы распознавания лиц

Оставить комментарий
Facebook научила AI обманывать системы распознавания лиц

Facebook уже отключила автоматическое распознавание лиц на пользовательских фото, а теперь её исследователи нашли способ полностью обезоружить предназначенные для этого системы. Новая ML-разработка способна в режиме онлайн изменять лица людей, в том числе на видео, пишет Engadget.

Система включает «состязательный автокодировщик» и нейросеть, которая обучена искажать лица людей — в незначительной степени, достаточной, чтобы помешать AI распознать человека, но так, чтобы его по-прежнему мог узнать обычный зритель.

Систему Facebook не требуется каждый раз переобучать для «маскировки» различных людей или видео, так как она вносит лишь небольшое сбивающее изменение. Причём это первая система, которая поддерживает потоковое видео: ранее аналогичные алгоритмы уже представляли другие исследователи (например, израильский стартап D-ID), но они работают только со статичными изображениями.

Facebook заявила, что не собирается внедрять разработку в свои продукты. Хотя, отмечает Engadget, она имеет ряд очевидных практических применений. Например, с помощью неё можно автоматически сводить на нет стороннее ПО для распознавания лиц, использующееся для отслеживания людей или синтеза фейковых изображений. Также подобная AI-система может мешать сбору информации о пользователях, которые присутствуют на загружаемых в интернет видео, против их воли.


Работа в ИТ в Беларуси​.​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​

1. Заполните анонимную форму — 5 минут.
2. Укажите зарплатные (и другие) ожидания.
3. Выберите желаемую индустрию или область деятельности.
4. Получайте релевантные предложения​​.​

Хотите сообщить важную новость?

Пишите в наш Телеграм

Читайте также

Facebook выложила модель, которая делает прямой перевод между 100 языками
Facebook выложила модель, которая делает прямой перевод между 100 языками
Facebook выложила модель, которая делает прямой перевод между 100 языками
Япония тоже замахнулась на бигтех
Япония тоже замахнулась на бигтех
Япония тоже замахнулась на бигтех
Получен сверхпроводник «комнатной температуры», Вселенную можно скачать. Техдайджест
Получен сверхпроводник «комнатной температуры», Вселенную можно скачать. Техдайджест
Получен сверхпроводник «комнатной температуры», Вселенную можно скачать. Техдайджест
Каждую неделю собираем новости технологий и ссылки на яркие статьи.
Беспилотники Tesla можно обмануть «фантомными» изображениями на рекламных щитах
Беспилотники Tesla можно обмануть «фантомными» изображениями на рекламных щитах
Беспилотники Tesla можно обмануть «фантомными» изображениями на рекламных щитах

Обсуждение

Комментариев пока нет.
Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже