Amazon отказалась от инструмента для автоматизации найма: его уличили в сексизме

3 комментария
Amazon отказалась от инструмента для автоматизации найма: его уличили в сексизме

Amazon отказалась от разработки инструмента по автоматизации найма после трёх лет работы. Это произошло после того, алгоритмы уличили в сексизме, сообщает Reuters. Исправить проблему не смогли.

Работу над продуктом начали в 2014 году. Его задачей было автоматизировать отбор резюме, чтобы сэкономить время рекрутеров.

«Все хотели получить этот „святой грааль“. Они хотели систему, которая отбирала бы 5 из 100 резюме, и именно этим специалистам предлагали бы работу», — сообщил Reuters один из источников в Amazon.

Однако уже год спустя обнаружилось, что новый инструмент автоматически занижал шансы женщин на успех при трудоустройстве. Это произошло из-за того, что алгоритмы обучались на 10-летниах паттернах в принятии решений о найме. А эти решения в основном принимали мужчины, с учётом доминирования «сильного пола» в индустрии.

По этой причине автоматизированная система ставила меньшие баллы, если определяла, что кандидат — женщина. Например, выпускницы двух женских колледжей (их названия не раскрывают) имели меньше шансов, чем те, кто закончил «смешанные» учебные заведения.

Amazon пыталась исправить найденные ошибки, но в результате закрыла проект из-за того, что не смогла гарантировать принятие нейтральных решений искусственным интеллектом. «Руководство потеряло надежду», — заявили источники Reuters.

Неудавшийся эксперимент Amazon стал наглядным подтверждением ограничений, с которыми приходится сталкиваться разработчикам моделей машинного обучения.

«Гарантировать принятие алгоритмами независимых решений, которые можно понять и объяснить — до этого ещё далеко», — считает преподаватель Университета Карнеги-Меллон Нихар Шан.

Хотите сообщить важную новость?

Пишите в наш Телеграм

Горячие события

EMERGE 2020
1 июня — 3 июня

EMERGE 2020

Вебинар «Советы от рекрутеров: как найти квалифицированную работу в Европе»
4 июня

Вебинар «Советы от рекрутеров: как найти квалифицированную работу в Европе»

Читайте также

Как кризис обрушил найм в ИТ. Инфографика
Как кризис обрушил найм в ИТ. Инфографика

Как кризис обрушил найм в ИТ. Инфографика

Количество активных белорусских вакансий для ИТ-специалистов в апреле по сравнению с мартом обрушилось более чем на четверть. Если в марте работодатели выставили суммарно 7258 новых вакансий, то в апреле — всего 5324 (-27%).
21 комментарий
Microsoft и Intel работают над новым антивирусом, который конвертирует малварь в картинки
Microsoft и Intel работают над новым антивирусом, который конвертирует малварь в картинки

Microsoft и Intel работают над новым антивирусом, который конвертирует малварь в картинки

Microsoft создала AI-модель, которая опознаёт 97% критических багов
Microsoft создала AI-модель, которая опознаёт 97% критических багов

Microsoft создала AI-модель, которая опознаёт 97% критических багов

1 комментарий
Huawei открыла фреймворк для разработки AI-приложений MindSpore
Huawei открыла фреймворк для разработки AI-приложений MindSpore

Huawei открыла фреймворк для разработки AI-приложений MindSpore

Обсуждение

0

О чем и писали не так давно в одной не самой худшей газете, алгоритмы, используемые для найма, увольнения и продвижения, должны постоянно тестироваться на предвзятость и непреднамеренные последствия

2

Если отказаться от алгоритма обученного на решениях "которые, в основном принимали мужчины", то к кому же теперь вернется бремя принятия этих решений?

-1

Бред какой-то, почему нельзя просто:
a) выставить коэффициент на поправку?
b) отдельно оценивать мужчин и женщин?

Или просто менеджером проекта оказал*с*... ;)

Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже