Тестировали работу алгоритмов TikTok - бот ‎‎‎‎‎«‎подсел»‎ на депрессивное видео

The Wall Street Journal провёл эксперимент, чтобы продемонстрировать принципы работы алгоритма рекомендаций TikTok. Результат — алгоритмы работают так, как ранее описывал процесс и принципы сам видеосервис. Любопытно, что один из созданных журналистами ботов попал в ловушку депрессивного контента, а другой — в бесконечную видеокарусель из роликов о теории заговора.  

Оставить комментарий
Тестировали работу алгоритмов TikTok - бот ‎‎‎‎‎«‎подсел»‎ на депрессивное видео

The Wall Street Journal провёл эксперимент, чтобы продемонстрировать принципы работы алгоритма рекомендаций TikTok. Результат — алгоритмы работают так, как ранее описывал процесс и принципы сам видеосервис. Любопытно, что один из созданных журналистами ботов попал в ловушку депрессивного контента, а другой — в бесконечную видеокарусель из роликов о теории заговора.  

Журналисты создали учётные записи-боты, снабдив их определёнными интересами. 

Боты «смотрели» подряд все видео в TikTok, которые соответствовали их интересам. Итоги теста команда WSJ изучила со специалистом по алгоритмам, ранее работавшим на YouTube, Гийомом Часло.

Как выяснилось, результаты эксперимента совпали с объяснениями TikTok о том, как работают её рекомендации. В расчёт берётся тип видео, с которыми вы взаимодействуете, и то, как вы с ними взаимодействуете. Также анализируется содержание самих роликов и настройки учётной записи, такие как язык и местоположение.

Если какое-то странное видео застаёт пользователя врасплох, и при этом он продолжает смотреть его, алгоритм решает, что ролик ему понравился. Именно так пользователи получают в ленту совершенно неподходящие и неинтересные для них рекомендации.

Несмотря на то, что у людей более разнообразные интересы, чем у ботов, эксперимент показал, как быстро пользователь может столкнуться с потенциально опасным контентом. По данным WSJ, TikTok идентифицировал интересы некоторых ботов всего за 40 минут. 

В итоге один из ботов попал в замкнутый круг депрессивных роликов, другой — в ловушку из видео о предвыборных заговорах.

Хотите сообщить важную новость? Пишите в Телеграм-бот.

А также подписывайтесь на наш Телеграм-канал.

Читайте также

 «Неприемлемо»: Facebook извиняется за алгоритм, который перепутал афроамериканцев с приматами
«Неприемлемо»: Facebook извиняется за алгоритм, который перепутал афроамериканцев с приматами
«Неприемлемо»: Facebook извиняется за алгоритм, который перепутал афроамериканцев с приматами
3 комментария
Владелец TikTok приобрел третьего по величине производителя VR-шлемов в мире
Владелец TikTok приобрел третьего по величине производителя VR-шлемов в мире
Владелец TikTok приобрел третьего по величине производителя VR-шлемов в мире
Количество загрузок Telegram превысило 1 млрд
Количество загрузок Telegram превысило 1 млрд
Количество загрузок Telegram превысило 1 млрд
Instagram сделает поиск похожим на TikTok
Instagram сделает поиск похожим на TikTok
Instagram сделает поиск похожим на TikTok

Обсуждение

Комментариев пока нет.
Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже