«ВКонтакте» использует искусственный интеллект для борьбы с хейтерами

«ВКонтакте» начала работу над искусственным интеллектом, который будет распознавать сообщения с враждебными высказываниями. Технология позволит ускорить время обработки жалоб и снизит нетерпимость в соцсети.

Оставить комментарий
«ВКонтакте» использует искусственный интеллект для борьбы с хейтерами

«ВКонтакте» начала работу над искусственным интеллектом, который будет распознавать сообщения с враждебными высказываниями. Технология позволит ускорить время обработки жалоб и снизит нетерпимость в соцсети.

Сервис будет искать материалы с враждебными высказываниями, а также публикации, которые провоцируют пользователей на агрессию. Нейросеть учится определять категории оскорблений и угроз, в том числе высказывания ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности и наличия заболеваний.

За первую половину 2020 года соцсеть удалила 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.

Также соцсеть добавила новую категорию жалоб «Враждебные высказывания». Пользователь может ее выбрать, если нажмет кнопку «Пожаловаться» в оскорбительной публикации. Таким образом нейросеть соберет датасет для новых решений. Модераторы «ВКонтакте» также проводят внутренний мониторинг сообщений с помощью механизмов автоматического поиска и технологии цифровых отпечатков.

Хотите сообщить важную новость? Пишите в Телеграм-бот.

А также подписывайтесь на наш Телеграм-канал.

Читайте также

10 прорывных технологий по версии MIT Technology Review
10 прорывных технологий по версии MIT Technology Review
10 прорывных технологий по версии MIT Technology Review
Журнал Массачусетского технологического института MIT Technology Review опубликовал свежую версию ежегодного списка самых важных технологий. Какие-то из них, например мРНК-вакцины, уже меняют нашу жизнь, другие полностью раскроют себя в ближайшие годы. Именно эти технологии, по мнению редакции, определят, каким будет наше будущее.
9 важных фактов о распознавании лиц за 43 года существования технологии
9 важных фактов о распознавании лиц за 43 года существования технологии
9 важных фактов о распознавании лиц за 43 года существования технологии
Исследователи Mozilla и института искусственного интеллекта AI Now провели исторический анализ более 100 датасетов, которые были собраны для обучения систем распознавания лиц за 43 года развития технологии. Журнал MIT Technology Review назвал работу крупнейшим исследованием данных, используемых в распознавании лиц, которое наглядно показывает, какую роль глубокое обучение сыграло в потере приватности интернет-пользователями. Mashable приводит 9 выводов из исследования.
Facebook научила алгоритм распознавать рандомные фото из Instagram без помощи человека
Facebook научила алгоритм распознавать рандомные фото из Instagram без помощи человека
Facebook научила алгоритм распознавать рандомные фото из Instagram без помощи человека
Новый AI-сервис реалистично оживляет лица на старых фотографиях
Новый AI-сервис реалистично оживляет лица на старых фотографиях
Новый AI-сервис реалистично оживляет лица на старых фотографиях

Обсуждение

Комментариев пока нет.
Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже