MISC · 30 июня 2017, 10:13 · Отдел информации dev.by
Instagram подключил машинное обучение к борьбе с «троллями» и «хейтерами»

Не секрет, что использование соцсетей тесно сопряжено с риском столкнуться с оскорбительными комментариями и языком ненависти. Компании-разработчики постоянно ищут новые способы борьбы с хейтерами и троллями, теперь и Instagram обратился к следующему логическому шагу: искусственный интеллект, система под названием под названием DeepText, пишет The Next Web.

В прошлом году Instagram представил фильтр ключевых слов, позволяющий автоматически удалять определённые оскорбительные слова из ленты. Инструмент удалял слова, которые пользователи часто отмечали как неприемлемые, а также позволял задавать пользовательские ключевые слова.

Однако борьба с языком ненависти может быть изнурительной главным образом потому, что тролли весьма изобретательны в формулировках.

Новый Al-фильтр пытается обойти эти ограничения: он учится понимать контекст оскорбительной речи и вычислять троллей, даже если они не употребляют заданные ключевые слова. Например, система способна понять, что слово «белый» не может быть оскорбительным как цвет или название, но также может применяться в расистских контекстах. 

Instagram также использует DeepText для идентификации спама. 

В настоящее время фильтр работает только с английским языком.

Конечно, определение языка ненависти всегда будет вызывать вопросы не только у искусственного интеллекта (люди далеко не всегда хорошо разбираются в его идентификации). Не говоря о том, что есть оскорбительные слова, которые являются омонимами или имеют разные значения в разных контекстах. Однако предполагается, что с течением времени такие системы должны стать более умными. 

Читайте также: Кто не прав в интернете: машинное обучение помогает New York Times в борьбе с «троллями»

Источник: dev.by
Нашли в тексте ошибку — выделите её и нажмите Ctrl+Enter.
Вакансии
Новые комментарии


Авторизуйтесь, чтобы оставлять комментарии

Использование материалов, размещенных на сайте, разрешается при условии прямой гиперссылки на dev.by. Ссылка должна быть размещена в подзаголовке или в первом абзаце публикации.
datahata — хостинг в Беларуси