Facebook научила AI обманывать системы распознавания лиц

Оставить комментарий
Facebook научила AI обманывать системы распознавания лиц

Facebook уже отключила автоматическое распознавание лиц на пользовательских фото, а теперь её исследователи нашли способ полностью обезоружить предназначенные для этого системы. Новая ML-разработка способна в режиме онлайн изменять лица людей, в том числе на видео, пишет Engadget.

Система включает «состязательный автокодировщик» и нейросеть, которая обучена искажать лица людей — в незначительной степени, достаточной, чтобы помешать AI распознать человека, но так, чтобы его по-прежнему мог узнать обычный зритель.

Систему Facebook не требуется каждый раз переобучать для «маскировки» различных людей или видео, так как она вносит лишь небольшое сбивающее изменение. Причём это первая система, которая поддерживает потоковое видео: ранее аналогичные алгоритмы уже представляли другие исследователи (например, израильский стартап D-ID), но они работают только со статичными изображениями.

Facebook заявила, что не собирается внедрять разработку в свои продукты. Хотя, отмечает Engadget, она имеет ряд очевидных практических применений. Например, с помощью неё можно автоматически сводить на нет стороннее ПО для распознавания лиц, использующееся для отслеживания людей или синтеза фейковых изображений. Также подобная AI-система может мешать сбору информации о пользователях, которые присутствуют на загружаемых в интернет видео, против их воли.


Работа в ИТ в Беларуси​.​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​

1. Заполните анонимную форму — 5 минут.
2. Укажите зарплатные (и другие) ожидания.
3. Выберите желаемую индустрию или область деятельности.
4. Получайте релевантные предложения​​.​

Хотите сообщить важную новость? Пишите в Телеграм-бот.

А также подписывайтесь на наш Телеграм-канал.

Читайте также

Facebook посоветовала сотрудникам не носить фирменную одежду после блокировки Трампа — ради безопасности
Facebook посоветовала сотрудникам не носить фирменную одежду после блокировки Трампа — ради безопасности
Facebook посоветовала сотрудникам не носить фирменную одежду после блокировки Трампа — ради безопасности
1 комментарий
Глава Twitter назвал блокировку Трампа правильной, но опасной
Глава Twitter назвал блокировку Трампа правильной, но опасной
Глава Twitter назвал блокировку Трампа правильной, но опасной
Facebook и Twitter подешевели на $51 миллиард после блокировки Трампа
Facebook и Twitter подешевели на $51 миллиард после блокировки Трампа
Facebook и Twitter подешевели на $51 миллиард после блокировки Трампа
Flo урегулировали претензии США по поводу приватности пользовательниц
Flo урегулировали претензии США по поводу приватности пользовательниц
Flo урегулировали претензии США по поводу приватности пользовательниц
2 комментария

Обсуждение

Комментариев пока нет.
Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже