Новостной AI-редактор Microsoft обвинили в расизме после статьи о расизме

Microsoft недавно заменила часть редакторов, выполнявших подбор новостных материалов для MSN.com, искусственным интеллектом. Как выяснилось, автоматическая система плохо различает людей с небелым цветом кожи, за что подверглась обвинениям в расизме, пишет TechRadar со ссылкой на The Guardian.

2 комментария
Новостной AI-редактор Microsoft обвинили в расизме после статьи о расизме

Microsoft недавно заменила часть редакторов, выполнявших подбор новостных материалов для MSN.com, искусственным интеллектом. Как выяснилось, автоматическая система плохо различает людей с небелым цветом кожи, за что подверглась обвинениям в расизме, пишет TechRadar со ссылкой на The Guardian.

AI перепутал двух несветлокожих участниц британской поп-группы Little Mix. В оригинальной статье издания The Independent рассказывалось о том, что над одной из них, Джейд Фёрволл, из-за цвета кожи в детстве сильно издевались сверстники. Но в перепечатанном материале вместо её фотографии оказалось фото другой солистки коллектива Ли-Энн Пиннок.

Фёрволл указала на ошибку в своём Instagram, отметив, что Microsoft следует поработать над алгоритмом. Компания заменила неправильное фото, как только узнала о проблеме.

Стоит отметить, насколько большими «правами» Microsoft наделила AI-систему: искусственному интеллекту разрешено публиковать статьи без предварительной проверки живыми сотрудниками — и без шанса предотвратить подобные конфузы.

До выхода статьи Guardian оставшихся редакторов предупредили, что AI может опубликовать на MSN готовящийся негативный материал издания — они должны были ждать и быть готовыми удалить его, — а также что система может автоматически поставить статью снова. Так и случилось: редакторы оперативно сняли статью Guardian о Little Mix, однако публикации о недоразумении вновь появились на MSN.

IBM отказалась от разработки технологии распознавания лиц
IBM отказалась от разработки технологии распознавания лиц
По теме
IBM отказалась от разработки технологии распознавания лиц

Хотите сообщить важную новость? Пишите в Телеграм-бот.

А также подписывайтесь на наш Телеграм-канал.

Читайте также

На GitHub опубликован исходный код TikTok. Компания требует удалить
На GitHub опубликован исходный код TikTok. Компания требует удалить
На GitHub опубликован исходный код TikTok. Компания требует удалить
The Line. В Саудовской Аравии хотят построить AI-город за $200 млрд
The Line. В Саудовской Аравии хотят построить AI-город за $200 млрд
The Line. В Саудовской Аравии хотят построить AI-город за $200 млрд
2 комментария
В сеть утекла почти финальная сборка Windows 10X. Как выглядит клон Chrome OS
В сеть утекла почти финальная сборка Windows 10X. Как выглядит клон Chrome OS
В сеть утекла почти финальная сборка Windows 10X. Как выглядит клон Chrome OS
Microsoft, Salesforce и Oracle разрабатывают цифровой паспорт вакцинации от коронавируса
Microsoft, Salesforce и Oracle разрабатывают цифровой паспорт вакцинации от коронавируса
Microsoft, Salesforce и Oracle разрабатывают цифровой паспорт вакцинации от коронавируса

Обсуждение

1

ну прекрасно же!)

0

AI очень извинялся и посыпал голову пеплом

Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже