Новостной AI-редактор Microsoft обвинили в расизме после статьи о расизме

Microsoft недавно заменила часть редакторов, выполнявших подбор новостных материалов для MSN.com, искусственным интеллектом. Как выяснилось, автоматическая система плохо различает людей с небелым цветом кожи, за что подверглась обвинениям в расизме, пишет TechRadar со ссылкой на The Guardian.

Оставить комментарий
Новостной AI-редактор Microsoft обвинили в расизме после статьи о расизме

Microsoft недавно заменила часть редакторов, выполнявших подбор новостных материалов для MSN.com, искусственным интеллектом. Как выяснилось, автоматическая система плохо различает людей с небелым цветом кожи, за что подверглась обвинениям в расизме, пишет TechRadar со ссылкой на The Guardian.

AI перепутал двух несветлокожих участниц британской поп-группы Little Mix. В оригинальной статье издания The Independent рассказывалось о том, что над одной из них, Джейд Фёрволл, из-за цвета кожи в детстве сильно издевались сверстники. Но в перепечатанном материале вместо её фотографии оказалось фото другой солистки коллектива Ли-Энн Пиннок.

Фёрволл указала на ошибку в своём Instagram, отметив, что Microsoft следует поработать над алгоритмом. Компания заменила неправильное фото, как только узнала о проблеме.

Стоит отметить, насколько большими «правами» Microsoft наделила AI-систему: искусственному интеллекту разрешено публиковать статьи без предварительной проверки живыми сотрудниками — и без шанса предотвратить подобные конфузы.

До выхода статьи Guardian оставшихся редакторов предупредили, что AI может опубликовать на MSN готовящийся негативный материал издания — они должны были ждать и быть готовыми удалить его, — а также что система может автоматически поставить статью снова. Так и случилось: редакторы оперативно сняли статью Guardian о Little Mix, однако публикации о недоразумении вновь появились на MSN.

IBM отказалась от разработки технологии распознавания лиц
IBM отказалась от разработки технологии распознавания лиц
По теме
IBM отказалась от разработки технологии распознавания лиц

Хотите сообщить важную новость? Пишите в Телеграм-бот.

А также подписывайтесь на наш Телеграм-канал.

Горячие события

HRgile.club 2021 Online
23 апреля

HRgile.club 2021 Online

Минск

Читайте также

Microsoft начала тестировать xCloud на PC и iOS
Microsoft начала тестировать xCloud на PC и iOS
Microsoft начала тестировать xCloud на PC и iOS
Twitter изучит предвзятость и влияние предрассудков на алгоритм соцсети
Twitter изучит предвзятость и влияние предрассудков на алгоритм соцсети
Twitter изучит предвзятость и влияние предрассудков на алгоритм соцсети
Как менялся топ самых инновационных компаний планеты
Как менялся топ самых инновационных компаний планеты
Как менялся топ самых инновационных компаний планеты
Epic Games хочет привлечь Xbox к суду против Apple
Epic Games хочет привлечь Xbox к суду против Apple
Epic Games хочет привлечь Xbox к суду против Apple

Обсуждение

Комментариев пока нет.
Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже