AI Google перестанет использовать гендерные теги

Google Cloud Vision API для распознавания и маркирования объектов больше не будет применять к людям на изображениях теги «мужчина» и «женщина», пишет Business Insider.

7 комментариев
AI Google перестанет использовать гендерные теги

Google Cloud Vision API для распознавания и маркирования объектов больше не будет применять к людям на изображениях теги «мужчина» и «женщина», пишет Business Insider.

Инструмент умеет распознавать лица, геолокации, логотипы и массу другого контента и имеет широкий круг пользователей от ритейлеров до учёных. Теперь людей на фотографиях он будет обозначать нейтральным словом «person».

Google аргументирует свой шаг этическими соображениями. Во-первых, не всегда возможно определить гендер человека только по его внешности. Во-вторых, такое деление может привести к предвзятости и несправедливой дискриминации.

Некоторые называют такое решение Google «очень позитивным». Например, эксперты по проблеме предвзятости AI в Mozilla говорят, что при автоматической классификации людей, будь то по гендеру или ориентации, для начала нужно обозначить категории, по которым их будут разносить — уже на этом этапе заложено множество допущений. Разделение на мужчин и женщин предполагает, что гендер — бинарное понятие, а все те, кто не вписывается в такую систему, будут автоматически классифицированы неверно. Тем более, о гендере невозможно судить исключительно по внешности, и любая AI-система, которая это делает, неизбежно совершает ошибки, считают в Mozilla.

Разработчикам, которых коснётся изменение Cloud Vision API, Google предлагает обсудить его на своих форумах.

Хотите сообщить важную новость? Пишите в Телеграм-бот.

А также подписывайтесь на наш Телеграм-канал.

Горячие события

IT-миграция в ЕС - 2020
24 ноября — 25 ноября

IT-миграция в ЕС - 2020

Dell Technologies Forum CEE
26 ноября

Dell Technologies Forum CEE

HRgile.club
2 декабря

HRgile.club

Минск

Читайте также

Youtube представил
Youtube представил "беконечный клип" на популярную песню
Youtube представил "беконечный клип" на популярную песню
Сколько платят работникам по визе H-1B Google, Apple и ещё 13 айтишных компаний
Сколько платят работникам по визе H-1B Google, Apple и ещё 13 айтишных компаний
Сколько платят работникам по визе H-1B Google, Apple и ещё 13 айтишных компаний
ЕС взялся за американский Big Tech. Разбор
ЕС взялся за американский Big Tech. Разбор
ЕС взялся за американский Big Tech. Разбор
Европейская комиссия предлагает серьёзно пересмотреть цифровое регулирование. Закон о цифровых услугах (DSA) должен быть представлен в начале декабря — для Европы он станет первым в своем роде с 2000 года. Изменения в случае принятия могут драматично повлиять на Big Tech.  Разберёмся, что предлагает изменить новый закон, как это связано с пользовательским контентом и почему это «удар под дых» для медиагигантов.
2 комментария
Появилась нейросеть, которая распознаёт сарказм
Появилась нейросеть, которая распознаёт сарказм
Появилась нейросеть, которая распознаёт сарказм

Обсуждение

0

Google - клясічны прыклад падвойных стандартаў. Разбіраецца з тым, з чым зручна. Нацыянальныя праблемы для іх як бы не існуюць (мовы шмат якіх народаў проста ігоануюцца пашукавіком і ўсімі ягонымі сэрвісамі), а вось з гендэрам яны разабраліся (ага, спачатку створаць праблему, потым яе вырашаюць - геніі, ну-ну)

1

Во первых все не англоговорящие для них рассматриваются в порядке профита и платежеспособности. Это корпорация. А гендерная повестка популярна в их инфо поле. Не понимаю чему тут удивляться или возмущаться.

0

Предвзятость, дискриминация при распознавании - может хватит раздувать несуществующие проблемы?

Www Www
Www Www - в Будзьма!
2

Они вам перезвонят уточнить что им ещё хватит :)
Это может быть самореклама для не инженеров, для публики.

0

)) возможно, тема то хайповая и холиварная нынче)

0

эксперты по проблеме предвзятости AI

интересная специализация ) зачем такие люди разработчику браузера и почтового клиента?

Комментарий скрыт за нарушение правил комментирования.
П. 4.1.2. Пользовательского соглашения — https://dev.by/pages/agreement

Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже