Нейросеть Amazon для поиска сотрудников научилась сексизму и была закрыта

14.10.2018     

Интернет-гигант Amazon запустил нейросеть, которая автоматизировала поиск новых сотрудников. Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

Нечеловеческий фактор

Компания Amazon уделяет много внимания развитию новых технологий. Одно из направлений работы – нейросети. Одна из таких разработок призвана решить кадровые проблемы организации.

Алгоритм изучил базу резюме Amazon и сведения о сотрудниках, которые в данный момент были приняты на работу, после чего отбирал среди соискателей подходящих на должность кандидатов. Поначалу система справлялась неплохо – первые сотрудники, прошедшие отбор нейросетью, смогли трудоустроиться в Amazon без прохождения дополнительных собеседований.

Но вскоре выяснилось, что алгоритм работает с ошибкой – он полностью игнорирует женские резюме. Робот-рекрутер неверно интерпретировал статистические данные. В ИТ-сфере количество работников-мужчин всегда значительно превышало число женщин, и Amazon не является исключением. Проанализировав эти данные, нейросеть пришла к выводу, что интернет-гигант специально не нанимает девушек, и начала отсеивать их при поиске подходящих соискателей. Более того, робот-рекрутер блокировал все резюме, в которых встречалось слово «женский», даже если оно использовалось в контексте названия места предыдущей работы.

Amazon предпринял попытку исправить ошибку в алгоритме, но потерпел неудачу. После этого компания объявила о закрытии проекта и роспуске команды, которая занималась созданием нейросети.

Решение кадровых проблем

Amazon – одна из самых быстрорастущих компаний в мире, прибыль интернет-гиганта ежегодно увеличивается более чем на 25%. На фоне этого организация испытывает кадровый кризис и не успевает расширять свою инфраструктуру вслед за растущими доходами и соответствующими требованиями рынка.

Многие сотрудники Amazon жалуются на невыносимые условия труда и чрезмерную загруженность. При этом руководство компании жестко следит за действиями своих подчиненных и часто оказывает материальное давление.

Британский журналист Джеймс Бладворт провел расследование, в результате которого подтвердил многие жалобы сотрудников компании. По его словам, у персонала нет времени во время работы отлучиться в туалет, а перерыв на обед составляет всего 15-20 минут. Рабочие боятся уходить на больничный, потому что за это могут получить штраф. Представители Amazon отвергают эти обвинения и утверждают, что трудовые процессы в их компании построены должным образом и не нарушают права сотрудников.


Автор:
Александр Вашкевич Аналитик


Какими услугами Amazon вы пользуетесь?


Приобретаю книги (0%, 0 голосов)
0%
Заказываю другие товары (5.26%, 3 голосов)
5.26%
Покупаю мультимедийную продукцию (0%, 0 голосов)
0%
Пользуюсь Amazon Web Services (5.26%, 3 голосов)
5.26%
Общаюсь с Amazon Alexa (0%, 0 голосов)
0%
Не пользуюсь (89.47%, 51 голосов)
89.47%

Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. s22 19 14.10.18 15:26 Сейчас в теме
Скоро будет требование, что бы компании работали люди пропорционально населению. Столько то негров, столькото евреев, столько то негроевреев.
CyberCerber; sansys; portwein; rpgshnik; +4 Ответить
2. chesnauskis 1 15.10.18 06:49 Сейчас в теме
10. 🅵🅾️🆇 15.10.18 09:50 Сейчас в теме
(1) Вообщет такое уже давным давно есть и практикуется.
Квоты на негров, квоты на женщин, квоты на геев, квоты на инвалидов.
В России теперь будут еще квоты на стариков.

Вот, знакомьтесь, разработчики последнего масс эффекта (самой худшей части и без того унылой серии):
Прикрепленные файлы:
3. rpgshnik 2493 15.10.18 07:35 Сейчас в теме
Это все потому, что он робот!
sansys; vechiy; +2 Ответить
4. AlX0id 15.10.18 08:34 Сейчас в теме
Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

А просто понизить приоритет полового признака при формировании выхода, конечно, оказалось сверхсложно? Или это был единственный признак, который анализировался? )
5. Ndochp 103 15.10.18 09:15 Сейчас в теме
(4) А это вообще был не признак.
Просто в сетку загрузили все резюме и данные по существующим работникам как-то разметили. Какой хороший, а какой не ахти. А после машина стала искать все резюме текстуально похожие на те, что у хороших работников. Слово "женский" оказалось маркером фигни.
Причем, то, что написано в статье "нанимает больше мужчин, поэтому стала блокировать женские резюме" это ерунда. Тогда пол вообще не был бы маркирующим признаком - "male" было бы во всех резюме и "female" было бы нейтральным словом, а не блокатором.
Видно именно женские резюме оказались размечены как плохие. Уж по какому поводу - как часто встречающееся слово в резюме отвергнутых живым HR, или по выборке неудачно принятых (не прошедших испытательный срок, больше штрафов, больничных или еще чего) ХЗ.
kdc; herfis; manuel; Ziggurat; +4 Ответить
7. Darklight 27 15.10.18 09:29 Сейчас в теме
(4)Это нейросеть, её калибровка противовес максимизации эффективности - задача очень не простая. В новости написано же - что пытались исправить - но не получилось.Видимо нейросеть упорно снижала эффективность женщин, как бы их весовой коэффициент не повышали (а если сильно зависеть - небось наоборот набирала почти одних только женщин а результирующая оценка эффективности резко падала).
8. Ziggurat 48 15.10.18 09:36 Сейчас в теме
(4) Вот ведь неучи! Напиши письмо этим дуракам, а по результатам статью на инфостарте.
CyberCerber; +1 Ответить
11. 🅵🅾️🆇 15.10.18 10:00 Сейчас в теме
(8)
На правах юмора:
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ +
// Счетчик мужланов со стрелочкой угнетения: 0
Резюме = СтрЗаменить(Резюме, "fem", "mal");
Результат = Нейросеть.Обработать(Резюме);
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ -
rpgshnik; malikova_julia; greatsnake; CyberCerber; +4 Ответить
6. Darklight 27 15.10.18 09:24 Сейчас в теме
Закрыли нейросеть и уволили всех кто её делал. Заодно, наверное, и всех, кого она наняла, наверное для себя лично нанимала. Да, кадровый кризис в амазоне ещё долго будет большой проблемой: людей найти не могут, а ИИ - пока слишком совершенен (по сравнению с человеком), но не так влиятелен, как будет в будущем.
Нейросеть размышляла вполне весьма здравомысленно. Исходя из максимизации результирующей эффективности. Таков идеология искуственногора разаму - максимизация положительных результатов. Сегодня уволили нейросеть. Через сто лет такие нейросети будут "увольнять" людей, которые буду менее эффективны, чем роботы. Эволюция.
12. 🅵🅾️🆇 482 15.10.18 10:11 Сейчас в теме
(6) Через двести - несогласных с ними.
Через триста - посчитает вообще всех человеков неэффективными и сошлет в резиденцию на марс.
Ну как "на марс", примерно также как "песик отправился в деревню, там ему будет лучше, с другими песиками".
TreeDogNight; shard; Kochergov; +3 Ответить
9. capitan 1902 15.10.18 09:39 Сейчас в теме
Компьютер - это электронное устройство, которое не заменит человека до
тех пор, пока не научится смеяться над шутками босса и сваливать свои
собственные ошибки на соседний компьютер.
©anekdot.ru
TreeDogNight; sansys; awk; Поручик; vrednyi_glavred; +5 Ответить
17. user1069818 16.10.18 13:33 Сейчас в теме
(9) Уже заменил. Для человека только грязная работа
13. вивйв 15.10.18 11:02 Сейчас в теме
Про толерантность в ТЗ видимо ничего не было... ))
14. nyam-nyam 15.10.18 11:53 Сейчас в теме
Подпись к картинке в статье - Ты кто такой? Давай, до свиданья...
15. ResAndDev 15.10.18 13:47 Сейчас в теме
Сижу такой, на работе никого не трогаю, читаю новости ... И тут чуть чай из ушей не полился от смеха ))) Чего только не скармливают нейросетям нынче.
16. a_titeev 16 15.10.18 15:54 Сейчас в теме
Да. Прикольная новость. Тоже поржал...
Хоть что-то было адекватное в этом мире - hr-нейросеть Amazon. И ту погасили :)
Оставьте свое сообщение

См. также

Центробанк рассмотрит маркировку безналичных рублей

Новость Банки ИТ-новость Цифровая экономика

Центробанк рассматривает возможность присвоения безналичным денежным средствам уникальных кодов. В ответ СберБанк предложил не внедрять цифровой рубль, а ограничиться технологией маркировки безналичных средств.

01.03.2021    1379    Senator_I    5       

Выстоял, несмотря на пандемию: российский рынок ИТ в 2020 году превзошел прогнозы

Новость ИТ-новость Цифровая экономика

В 2020 году рынок ИТ в России смог удержать позиции. Но не всем компаниям в пандемию было одинаково легко. Крупные игроки продемонстрировали рост, а мелкие и средние пошли вниз из-за отмены части госконтрактов, заявили аналитики IDC.

26.02.2021    3679    user1015646    0       

Рынок фриланса в России: только хорошие прогнозы

Новость Аналитика ИТ-новость

Эксперты зафиксировали высокие темпы роста на российском рынке фриланса, а также обозначили причины, по которым происходит существенное увеличение занятных таким образом специалистов.

20.02.2021    2454    ЕленаЧерепнева    7       

«Сбербанк» впервые сообщил о числе клиентов Системы быстрых платежей от ЦБ

Новость Банки ИТ-новость Цифровая экономика

Большая часть клиентов «Сбербанка» не подключилась к Системе быстрых платежей. Сервисом Банка России пользуется менее четверти клиентов крупнейшего финансового учреждения страны.

19.02.2021    2061    VKuser24342747    2       

«Яндекс» будет конкурировать с сервисами для оплаты смартфоном

Новость Банки ИТ-новость Онлайн-торговля Яндекс

«Яндекс» планирует запустить собственный сервис для безналичных платежей. Услуга будет аналогом Apple Pay, Samsung Pay и Google Pay. Компания официально не подтвердила разработку подобного продукта.

15.02.2021    2004    VKuser24342747    0       

Инвестиции Tesla в Bitcoin спровоцировали скачок курса криптовалюты

Новость Блокчейн ИТ-новость Новости компаний

Компания Илона Маска Tesla представила в комиссию по ценным бумагам и биржам США (SEC) отчет о своей деятельности за 2020 год. Среди прочего организация указала, что инвестировала 1,5 млрд долларов в Bitcoin.

12.02.2021    2064    VKuser24342747    1       

Исследование: в 2020 году зарплата выросла только у ИТ-специалистов

Новость Аналитика ИТ-новость

ИТ-отрасль стала единственной в сегменте малого и среднего бизнеса (МСП), где зарплаты росли. К таким выводам пришли специалисты рекрутинг-платформы hh.ru и инвестиционной платформы «Поток».

10.02.2021    1753    user1015646    2       

Джефф Безос покинет пост главы Amazon

Новость ИТ-новость Новости компаний

Самый богатый человек на планете решил уйти с поста генерального директора Amazon. Безос станет исполнительным председателем правления компании, а возглавит компанию экс-руководитель облачного подразделения Энди Джесси.

05.02.2021    1917    user1015646    4       

Citrix покупает компанию Wrike российского предпринимателя Андрея Филева за $2,25 млрд

Новость ИТ-новость Новости компаний

19 января Citrix объявила, что планирует приобрести платформу для организации рабочих процессов Wrike за 2,25 млрд. долларов у Vista Equity Partners. Компанию Wrike основал российский предприниматель Андрей Филев в 2006 году.

28.01.2021    1791    SKravchenko    0       

«Сбер» регистрирует собственную криптовалюту

Новость Банки Блокчейн ИТ-новость Цифровая экономика

«Сбер» создаст блокчейн-платформу, на базе которой будет выпускать собственную криптовалюту. Заявка на регистрацию решения уже подана в Центробанк РФ.

27.01.2021    2672    user1015646    4       

Центробанк предлагает внедрить универсальный платежный адрес

Новость Банки ИТ-новость

Центробанк подготовил документ «Стратегия развития Национальной платежной системы на 2021-2023 годы», который содержит изменения, направленные на улучшение качества и снижение цен за предоставляемые финансовые услуги.

13.01.2021    2649    Senator_I    3       

Власти выделили миллиард рублей на цифровые конспекты

Новость ИТ-новость Образование Цифровая экономика

Правительство решило потратить 1 млрд рублей на подготовку цифровых обучающих материалов для школьников. Соответствующее распоряжение для Минпросвещения уже подписал Михаил Мишустин.

24.12.2020    1575    VKuser24342747    3       

Минцифры сообщило о начале инвентаризации ИТ-ресурсов госорганов

Новость ИТ-новость Минкомсвязь Цифровая экономика

Задачи инвентаризации – определить объем ИТ-ресурсов страны, уровень защиты данных, а также проверить правильность учета информационных и имущественных прав.

23.12.2020    2112    mouse187    0       

«Сбербанк» примет участие в экспериментальном запуске «Гостеха»

Новость ИТ-новость Цифровая экономика

«Сбербанк» станет оператором платформы для сервисов органов власти «Гостех». Финансовая организация победила в тендере, в котором была единственным участником.

17.12.2020    3761    VKuser24342747    0       

Коммерческие и государственные организации получат доступ к данным по статистике

Новость ИТ-новость Цифровая экономика

Компании могут получить доступ к данным по статистике. Росстат планирует в рамках плана по цифровой трансформации разработать новый сервис – центральная аналитическая платформа «Население» (ЦАП).

15.12.2020    4065    Senator_I    1       

Salesforce купила мессенджер Slack

Новость ИТ-новость Мессенджеры Новости компаний

Американская компания Salesforce, разработчик одноименной CRM-системы, купила Slack Technologies, Inc., разработчика корпоративного мессенджера Slack. Это одна из крупнейших сделок года.

04.12.2020    3700    user1015646    2       

Минпромторг предложил заплатить маркетплейсам за логистику и хранение товара

Новость ИТ-новость Минпромторг Онлайн-торговля

Минпромторг готовит проект постановления, который предложит правительству субсидировать часть затрат российских маркетплейсов. Но для получения субсидии компания не должна иметь иностранного участия.

03.12.2020    2612    VKuser24342747    0       

На портале госуслуг готовят расширение перечня функций

Новость ИТ-новость Минкомсвязь

Соответствующий приказ разработало министерство цифрового развития.

03.12.2020    3438    Senator_I    2       

Бизнес с «Яндексом»: поисковик запустил сервис для небольших компаний

Новость ИТ-новость Онлайн-торговля Яндекс

«Яндекс» представил набор инструментов для малого бизнеса, который позволяет управлять рекламой, вести клиентскую базу и создавать онлайн-формы. Большая часть возможностей бесплатная.

03.12.2020    3119    VKuser24342747    0       

ФНС предложила бесплатно проанализировать экономику перехода на ЭДО

Новость Сервисы ФНС

Налоговая служба анонсировала мотивировочный сервис для перехода на электронный документооборот. Калькулятор бесплатный, и уже доступен на сайте налогового ведомства.

02.12.2020    3697    ЕленаЧерепнева    0       

Facebook заплатил 4 млн рублей штрафа из-за претензий Роскомнадзора

Новость ИТ-новость Новости компаний Судебная практика

Facebook не перенес данные россиян на сервера в пределах страны и был оштрафован в феврале Таганским судом Москвы. Компания оплатила взыскание.

01.12.2020    2553    VKuser24342747    1       

Центробанк обсудил перспективы появления цифрового рубля с банкирами

Новость Банки ИТ-новость

Центробанк провел встречу с представителями банков для обсуждения введения цифрового рубля.

30.11.2020    3473    Senator_I    51       

«Сбер» выходит на рынок электронной коммерции

Новость Банки ИТ-новость Новости компаний Онлайн-торговля

«Сбер» готовится к запуску собственного маркетплейса. Ранее компания владела аналогичным сервисом «Беру», но в результате разрыва партнерских отношений площадка отошла к «Яндексу».

27.11.2020    4245    VKuser24342747    0       

Максимальный кэшбэк: покупателям российского ПО компенсируют 50% расходов

Новость Импортозамещение ИТ-новость Минкомсвязь

Российским компаниям и индивидуальным предпринимателям помогут в переходе на отечественное ПО. Эксперты Минцифры подготовили соответствующий законопроект, размер компенсации – 50% от стоимости продуктов.

13.11.2020    4265    user1015646    3       

ИТ-гиганты могут уйти из России из-за закона об ограничениях для App Store и Google Play

Новость Android iOS Законодательство ИТ-новость Мобильные приложения

Госдума хочет принять законопроект, который обяжет Google и Apple устанавливать на гаджеты сторонние магазины приложений. ИТ-бизнес опасается, что документ заставит американских гигантов уйти с российского рынка.

13.11.2020    2990    VKuser24342747    18