«ВКонтакте» использует искусственный интеллект для борьбы с хейтерами

«ВКонтакте» начала работу над искусственным интеллектом, который будет распознавать сообщения с враждебными высказываниями. Технология позволит ускорить время обработки жалоб и снизит нетерпимость в соцсети.

Оставить комментарий
«ВКонтакте» использует искусственный интеллект для борьбы с хейтерами

«ВКонтакте» начала работу над искусственным интеллектом, который будет распознавать сообщения с враждебными высказываниями. Технология позволит ускорить время обработки жалоб и снизит нетерпимость в соцсети.

Сервис будет искать материалы с враждебными высказываниями, а также публикации, которые провоцируют пользователей на агрессию. Нейросеть учится определять категории оскорблений и угроз, в том числе высказывания ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности и наличия заболеваний.

За первую половину 2020 года соцсеть удалила 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.

Также соцсеть добавила новую категорию жалоб «Враждебные высказывания». Пользователь может ее выбрать, если нажмет кнопку «Пожаловаться» в оскорбительной публикации. Таким образом нейросеть соберет датасет для новых решений. Модераторы «ВКонтакте» также проводят внутренний мониторинг сообщений с помощью механизмов автоматического поиска и технологии цифровых отпечатков.

Хотите сообщить важную новость?

Пишите в наш Телеграм

Читайте также

В Англии спущен на воду автономный корабль под управлением AI
В Англии спущен на воду автономный корабль под управлением AI
В Англии спущен на воду автономный корабль под управлением AI
3 комментария
Китай составил «черный список» технологий на экспорт
Китай составил «черный список» технологий на экспорт
Китай составил «черный список» технологий на экспорт
Школьник нашёл способ обойти AI-алгоритм и получать 10 из 10 на тестах
Школьник нашёл способ обойти AI-алгоритм и получать 10 из 10 на тестах
Школьник нашёл способ обойти AI-алгоритм и получать 10 из 10 на тестах
AI нашёл 50 новых планет в датасете NASA
AI нашёл 50 новых планет в датасете NASA
AI нашёл 50 новых планет в датасете NASA

Обсуждение

Комментариев пока нет.
Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже