Как работают алгоритмы Facebook, Youtube, Twitter, Instagram. И как их усмирить

У человечества масса причин опасаться созданных своими же руками алгоритмов искусственного интеллекта. Автор статьи для Mashable Крис Тейлор рассказывает, как алгоритмы соцсетей определяют, какой и чей контент (не) предстанет перед глазами пользователей. Публикуем перевод статьи.

1 комментарий
Как работают алгоритмы Facebook, Youtube, Twitter, Instagram. И как их усмирить

У человечества масса причин опасаться созданных своими же руками алгоритмов искусственного интеллекта. Автор статьи для Mashable Крис Тейлор рассказывает, как алгоритмы соцсетей определяют, какой и чей контент (не) предстанет перед глазами пользователей. Публикуем перевод статьи.

Влияние алгоритмов в последнее время колоссально. К примеру, в Китае на государственном уровне реализуется «система социального кредита», построенная на обработке больших данных. В зависимости от социального рейтинга гражданам ограничивается доступ к тем или иным должностям, общественным благам, займам и прочему.

А в Великобритании в этом августе разразился скандал вокруг алгоритма оценки знаний школьных выпускников — его внедрили вместо обычных экзаменов, отменённых из-за коронавируса. Учителей попросили предположить, какие отметки получат ученики, и скормили их алгоритму вместе с результатами школ за прошлые годы. В результате 40% всех учительских оценок были понижены: AI оказался предвзят в пользу детей из более престижных заведений. От алгоритма решили отказаться.

В некоторых штатах США применяют алгоритмы для расчёта вероятности, с которой человек совершит повторные преступления, и в помощь судьям при вынесении приговора. Причём задействованные в уголовном судопроизводстве алгоритмы принадлежат коммерческим компаниям. Их обвиняют в расизме: организация ProPublica выяснила, что алгоритм COMPAS, используемый во Флориде и Висконсине, в два раза чаще называет особо опасными темнокожих подсудимых, чем белых, и при этом ошибается в 40% случаев.

Изъяны этих алгоритмов всего лишь указывают на человеческие свойства их создателей. Математика как таковая не имеет никакого отношения к расизму или авторитаризму, а алгоритм — не более чем последовательность команд, каких полно в тех же кулинарных книгах. Качество алгоритма, как и любого блюда, зависит от ингредиентов. Но те, на чьём столе оно окажется, нечасто задумываются о том, что происходит на кухне.

Как и пользователи Google, которые редко переходят на вторую страницу поисковой выдачи, составленной алгоритмом, или критически задумываются над результатами. Алгоритмы окружают нас повсюду, пишет в одной из своих книг математик Ханна Фрай: нам удобно позволять им принимать решения за нас, переложить ответственность, не задумываться.

С другой стороны, люди сразу бы ощутили отсутствие алгоритмов, исчезни они полностью из повседневной жизни. Они управляют светофорами на дороге — не будь их, города остановятся в одной большой пробке. Алгоритм прокладывает наиболее удобный в час пик маршрут в Google Maps и отфильтровывает спам, который иначе завалит папку входящих.

Их влияние на нашу жизнь в интернете и на то, какой контент мы потребляем в сети, невозможно переоценить. Чем больше учёные занимаются этим вопросом, тем больше убеждаются, что популярные поисковые системы, алгоритмы в видеосервисах и соцсетях, по сути, управляют нашим разумом. Исследователи установили, что алгоритмы способны менять наше настроение (это подтвердила и сама Facebook) и даже итоги президентских выборов, как это произошло в США в 2016 году.

Ниже приведены алгоритмы четырёх популярных сервисов — и как минимизировать их вмешательство в нашу жизнь.

Facebook

Ни у одного алгоритма в мире нет такого охвата, как у соцсети Марка Цукерберга. Ежедневно на Facebook заходит около 2 млрд человек. Почти для всех этих людей порядок постов в ленте — такой, который удержит их в соцсети как можно дольше, — его устанавливает специальный алгоритм ранжирования. Он подбрасывает вам гораздо больше постов друзей, с которыми вы общались раньше, независимо от того, насколько близкие у вас отношения сейчас. Или поднимает выше контент, который провоцирует горячие словесные баталии. И «Цукерберг» об этом знает.

Алгоритм Facebook играет на тяге человеческого мозга к конфликтам, отмечалось во внутреннем исследовании компании 2018 года, о котором писал Wall Street Journal.

Без контроля эти алгоритмы будут продвигать холиварные темы, чтобы зацепить внимание пользователей и продлить время, которое они проводят в соцсети, предупреждают авторы документа.

Цукерберг якобы опасался, что если исправить алгоритм так, чтобы он выводил выше более мирные посты, то это непропорциональным образом отразится на консерваторах, и исследование положили на полку. Последние четыре года дела у консервативной партии с Facebook идут просто замечательно, где они правят бал с 2016 года, когда заставили соцсеть отказаться от модераторов, курировавших новости. Если посмотреть на список публикаций Facebook за 2020 год, которые набирают больше всего репостов, то изо дня в день в нём преобладают имена консерваторов.

Но даже у них есть повод для беспокойства. Исследователи установили, что просмотр популярных постов друзей вызывает зависть и депрессию. Установлена сильная связь между зависимостью от Facebook и депрессивным расстройством. Люди, которые массированно что-то постят, заглушают менее активных пользователей, говорится в документе 2018 года. Один из менеджеров Facebook, который хотел снизить влияние первых на алгоритм, внезапно ушёл из компании.

Как исправить

К счастью, Facebook позволяет временно отключать алгоритм сортировки публикаций в ленте и просматривать все посты от всех друзей и отслеживаемых пользователей в хронологическом порядке (самые свежие посты будут наверху). Для этого на сайте Facebook.com нужно нажать на три точки рядом с меню «Лента новостей» и выбрать «Новейшее». В приложении просто перейдите в настройки бургер-меню, нажмите «Ещё» и «Сначала новые».

В вашей ленте появятся посты давно забытых людей, а взаимодействуя с ними, вы обучите алгоритм строить ленту так, как нужнее вам, к тому моменту, когда он снова активируется. Просматривать ленту в хронологическом порядке, может, и не совсем удобно, но так вы хоть немного избавитесь от диктатуры алгоритма. Если сидите в Facebook ежедневно, попробуйте делать так хотя бы раз в неделю.

YouTube

Алгоритм автовоспроизведения YouTube вредит демократии не меньше, если не больше, чем любовь Facebook к провокационным постам. Около 70% просматриваемых нами видеороликов рекомендованы движком сервиса, который оптимизирован так, чтобы любым способом заставить людей просмотреть как можно больше контента и рекламы. К слову, средняя длительность пользовательской сессии на YouTube — уже больше часа.

А значит, YouTube будет отдавать приоритет острому контенту, потому что хотите вы этого или нет, вы продолжите смотреть его. И когда закончится один «неоднозначный» ролик, алгоритм подбросит ролики, которые дальше включали другие пользователи, тоже смотревшие его. Это объясняет, почему после безобидного новостного репортажа можно очнуться за просмотром видео на тему конспирологических теорий.

Экс-гуглер Гийом Часлот обнаружил следы влияния предвзятого алгоритма YouTube на исход американских выборов 2016 года, перевес в которых составил всего 77 тысяч голосов в трёх штатах. Более 80% рекомендованных видео носили протрамповский характер независимо от того, был ли изначальный запрос «Трамп» или «Клинтон», писал он об алгоритме. Большинство этих рекомендаций приходились на видео спорного содержания и фейковые новости, пишет Числот.

Он также заметил, что 90% рекомендованных видео в выдаче по запросу «является ли Земля плоской» положительно отвечают на этот вопрос.

Эта проблема существует не только в США. Один из самых показательных кейсов о политическом влиянии YouTube — Бразилия: правого кандидата Жаира Болсонару избрали президентом после того, как он стал звездой видеохостинга. «Поисковая и рекомендательная система YouTube систематически уводила пользователей на крайние правые и конспирологические бразильские каналы», — предположили по итогу расследования в 2019 году журналисты New York Times. Вклад алгоритма в победу Болсонару признают даже его сторонники.

Как исправить

Выключайте автовопроизведение — нужно просто перетянуть влево тумблер рядом с надписью «Следующее» на панели с видеороликами справа. Так вы хотя бы перестанете на автопилоте смотреть всё подряд, что предлагает YouTube. Полностью отключить рекомендации нельзя, но можно хоть немного защитить менее «прошаренных» родственников от алгоритма, который манипулирует их взглядами ради просмотров.

Кстати, если вы дрессировали алгоритм лайками и дизлайками на протяжении нескольких лет и он хорошо знает ваши интересы, то его рекомендации будут вполне адекватными. У новых пользователей YouTube картина совсем другая.

Instagram

Instagram, в отличие от материнской компании, полностью отказался от хронологического отображения постов в 2016 году. Из-за этого сервис стали подозревать в использовании «теневого бана», или блокировки контента юзера без его ведома. Instagram отображает все фото и сторис — вопрос в том, сколько до них придётся скролить, но некоторые имена появляются на верху ленты настолько часто, что можно почувствовать себя Instagram-сталкером.

Как исправить

В февральском обновлении Instagram появилась функция, которая позволяет посмотреть, с какими подписками вы взаимодействуете чаще или меньше всего. Для этого нужно нажать на значок профиля в правом нижнем углу интерфейса, перейти в раздел «Подписки», где отобразятся категории «Меньше всего взаимодействий» и «Чаще всего показываются в ленте». Выберите первый пункт и просматривайте посты, обделённые вашим вниманием.

Также в Instagram есть сортировка постов в ленте по дате подписки на аккаунты. Помимо этого, соцсеть тестирует опцию «Последние публикации» для показа контента в порядке опубликования, но широкой публике она пока недоступна.

4. Twitter

В этом плане Twitter ничем не отличается от своих конкурентов и тоже экспериментирует с подачей контента не в традиционном для себя хронологическом порядке. К примеру, платформа Джека Дорси выкатила опцию отслеживания не только людей, но и твитов по различным темам. Хотя в 2018 году соцсеть вернула хронологическую ленту.

Как исправить

Настройки ленты в Twitter находятся рядом с надписью «Главная» по центру в верху страницы. Нажмите на «звёздочки» справа от неё, после чего — «Показывать вместо этого последние твиты». Из всех соцсетей отключить «умную» ленту проще всего именно в Twitter.

Листать до чего-то интересного, возможно, придётся дольше, а наполнение ленты будет зависеть, например, от времени суток, в которое вы сидите в Twitter. Но для тех, кто не хочет отдавать в руки алгоритма подбор постов в ленте, режим «Последние твиты» — то что надо.

«Я работала диктатором на полставки», — экс-сотрудница критикует Facebook
«Я работала диктатором на полставки», — экс-сотрудница критикует Facebook
По теме
«Я работала диктатором на полставки», — экс-сотрудница критикует Facebook
68% скидка на VPN, который подходит для Smart TV и роутеров
68% скидка на VPN, который подходит для Smart TV и роутеров
По теме
68% скидка на VPN, который подходит для Smart TV и роутеров

Хотите сообщить важную новость?

Пишите в наш Телеграм

Горячие события

MobileOptimized 2020 Online Edition Conference
6 ноября — 7 ноября

MobileOptimized 2020 Online Edition Conference

Читайте также

«У каждого есть план, пока не получит по морде». Как Трамп воюет с Байденом соцсетями
«У каждого есть план, пока не получит по морде». Как Трамп воюет с Байденом соцсетями
«У каждого есть план, пока не получит по морде». Как Трамп воюет с Байденом соцсетями
Накануне президентских выборов в США (3.10.20) между Белым домом и соцсетями разгорелся новый конфликт: теперь речь идет о блокировке ссылок на статью, в которой фигурирует сын соперника президента в предвыборной гонке — Джо Байдена. Twitter и Facebook не успевают за реакцией Трампа и вынуждены менять правила игры на ходу. Насколько далеко зайдет Трамп в погоне за голосами подписчиков?
1 комментарий
Facebook запускает стриминговый игровой сервис
Facebook запускает стриминговый игровой сервис
Facebook запускает стриминговый игровой сервис
Бигтех просит ЕС ввести законы, которые упростят модерацию контента
Бигтех просит ЕС ввести законы, которые упростят модерацию контента
Бигтех просит ЕС ввести законы, которые упростят модерацию контента
Список мессенджеров, которые воруют файлы, расходуют трафик, разряжают батарею
Список мессенджеров, которые воруют файлы, расходуют трафик, разряжают батарею
Список мессенджеров, которые воруют файлы, расходуют трафик, разряжают батарею
2 комментария

Обсуждение

0

Если алгоритм чаще называет рецидивистами чёрных, то алгоритм неправильный?

Если чёрные хуже плавают, чем белые, означает ли это, что плавание расистский вид спорта?

Если в этой статье кликнуть ссылку «разразился скандал», то можно почитать забавный текст: «The page you were looking for doesn't exist.
You may have mistyped the address or the page may have moved.
If you are the application owner check the logs for more information.»

Алгоритм явно не хочет показывать страницу, О том как его усмирить статья умалчивает.

Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже