Microsoft запускает детектор дипфейков перед выборами в США

Оставить комментарий

Microsoft презентует инструмент для обнаружения дипфейков на видео и фотографиях. Программа Video Authenticator определяет вероятность того, что медиафайл подвергся манипуляциям. Компания считает, что разработка не только комплексно поможет бороться с дезинформацией, но и защитит кандидатов на президентских выборах 2020 года. 

Как работает детектор дипфейков

В некотором смысле программа работает схоже с методам выявления дипфейков на фото. Проверить на подлинность статичный кадр — относительно просто, но движение объектов на видео создает дополнительную сложность. Video Authenticator разбивает видео на кадры и проверяет каждый из них.

Программа обнаруживает границу наложения дипфейка, которую не сможет различить человеческий глаз: незначительные изменения цвета и небольшие кластеры пикселей (артефактов). После анализа видео или фото, программное обеспечение выдает оценку подлинности в процентах. 

Чтобы обучить Video Authenticator и улучшить алгоритмы по распознаванию дипфейков, компания использовала FaceForensics++. Это набор обработанных мультимедийных данных от Google. Для его сбора компания сняла видео с участием 28 актеров, а затем с использованием AI было сгенерировано 3 тысячи фальшивых видео. 

Затем Microsoft протестировала Video Authenticator на датасете DeepFake Detection Challenge, который искусственный интеллект Facebook создал в рамках конкурса. Тогда Facebook наняла актеров, чтобы они снялись в сотне тысяч видеоклипов. Лица в клипах потом были заменены с применением различных методов, от Deep Learning до простых цифровых манипуляций.

Дипфейки и выборы в США 

Хоть дипфейки не всегда создаются для причинения вреда, они могут зажить собственной жизнью по мере распространения в интернете и обмануть ничего не подозревающих зрителей. Выявление визуальной дезинформации по-прежнему является проблемой. Тем не менее компании продолжают работать над ПО для обнаружения дипфейков.

«Тот факт, что дипфейки создаются AI, который может обучаться вечно, усложняет их выявление. В краткосрочной перспективе, например, на предстоящих выборах в США, передовые технологии могут стать полезным инструментом, который поможет пользователям выявлять дипфейки», — замечают Microfost в посте-анонсе Video Authenticator.

Forbes пишет, что Трам обеспокоен проблемой дезинформацией в ходе предстоящих президентских выборов. Считается, что «рекламные» кампании, направленные на то, чтобы обманом заставить избирателей голосовать в неподходящем месте или не в то время, могу лишить избирательных прав большое количество американцев.

Стоит заметить, что Трамп и сам частенько распространяет фейки с соперником, кандидатом в президенты Джо Байденом. В одну из таких выходок президент ретвитнул видео с телеинтервью, во время которого Байден будто бы засыпает. Видео оказалось смонтированной фальшивкой.

В любом случае создать правдоподобный дипфейк предвыборных выступлений кандидатов или видеозвонков на данный момент почти невозможно. Исследования показали, что сбои в работе дипфейков часто случаются, когда субъект на видео запечатлены в профиль, быстро перемещается или разворачивается на 45 градусов и более.

Хотите сообщить важную новость?

Пишите в наш Телеграм

Читайте также

«Не представляю, как можно из Беларуси сделать Северную Корею». Максим Богрецов про страну будущего
«Не представляю, как можно из Беларуси сделать Северную Корею». Максим Богрецов про страну будущего
«Не представляю, как можно из Беларуси сделать Северную Корею». Максим Богрецов про страну будущего
Старший вице-президент EPAM Максим Богрецов в компании с 1997 года. Последние 20 лет он живёт в Штатах, однако имеет только один паспорт — белорусский. В середине августа он взял бессрочный отпуск и прилетел в Минск, несколькими днями позже присоединился к Координационному совету. Мотивы своих поступков Богрецов объяснил в посте на Facebook. dev.by расспросил его о деталях и том, каким видится будущее. Когда интервью было уже готово, мы узнали, что 3 сентября к 10.00 Богрецова вызывают в СК.
81 комментарий
«Нельзя грязными методами установить мир и законность». ИТ-юрист прошел Окрестина
«Нельзя грязными методами установить мир и законность». ИТ-юрист прошел Окрестина
«Нельзя грязными методами установить мир и законность». ИТ-юрист прошел Окрестина
ИТ-юрист Амир Аль-Хайдар рассказал свою историю. 
5 комментариев
Сайт «Нашай нівы» заблокировали. Иностранных журналистов лишают аккредитации
Сайт «Нашай нівы» заблокировали. Иностранных журналистов лишают аккредитации
Сайт «Нашай нівы» заблокировали. Иностранных журналистов лишают аккредитации
Электронное голосование: технологии на выборах в разных странах
Электронное голосование: технологии на выборах в разных странах
Электронное голосование: технологии на выборах в разных странах
Современные избирательные технологии разнообразны: от привычных бумажных бюллетеней до онлайн-выборов. В начале 2000-х люди не задумывались о том, как голосовать, но с тех пор ситуация кардинально изменилась. Когда избиратели начнут голосовать в интернете, не выходя из дома?

Обсуждение

Комментариев пока нет.
Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже