Нейросеть Amazon для поиска сотрудников научилась сексизму и была закрыта

14.10.2018     

Интернет-гигант Amazon запустил нейросеть, которая автоматизировала поиск новых сотрудников. Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

Нечеловеческий фактор

Компания Amazon уделяет много внимания развитию новых технологий. Одно из направлений работы – нейросети. Одна из таких разработок призвана решить кадровые проблемы организации.

Алгоритм изучил базу резюме Amazon и сведения о сотрудниках, которые в данный момент были приняты на работу, после чего отбирал среди соискателей подходящих на должность кандидатов. Поначалу система справлялась неплохо – первые сотрудники, прошедшие отбор нейросетью, смогли трудоустроиться в Amazon без прохождения дополнительных собеседований.

Но вскоре выяснилось, что алгоритм работает с ошибкой – он полностью игнорирует женские резюме. Робот-рекрутер неверно интерпретировал статистические данные. В ИТ-сфере количество работников-мужчин всегда значительно превышало число женщин, и Amazon не является исключением. Проанализировав эти данные, нейросеть пришла к выводу, что интернет-гигант специально не нанимает девушек, и начала отсеивать их при поиске подходящих соискателей. Более того, робот-рекрутер блокировал все резюме, в которых встречалось слово «женский», даже если оно использовалось в контексте названия места предыдущей работы.

Amazon предпринял попытку исправить ошибку в алгоритме, но потерпел неудачу. После этого компания объявила о закрытии проекта и роспуске команды, которая занималась созданием нейросети.

Решение кадровых проблем

Amazon – одна из самых быстрорастущих компаний в мире, прибыль интернет-гиганта ежегодно увеличивается более чем на 25%. На фоне этого организация испытывает кадровый кризис и не успевает расширять свою инфраструктуру вслед за растущими доходами и соответствующими требованиями рынка.

Многие сотрудники Amazon жалуются на невыносимые условия труда и чрезмерную загруженность. При этом руководство компании жестко следит за действиями своих подчиненных и часто оказывает материальное давление.

Британский журналист Джеймс Бладворт провел расследование, в результате которого подтвердил многие жалобы сотрудников компании. По его словам, у персонала нет времени во время работы отлучиться в туалет, а перерыв на обед составляет всего 15-20 минут. Рабочие боятся уходить на больничный, потому что за это могут получить штраф. Представители Amazon отвергают эти обвинения и утверждают, что трудовые процессы в их компании построены должным образом и не нарушают права сотрудников.


Автор:
Александр Вашкевич Аналитик


Какими услугами Amazon вы пользуетесь?


Приобретаю книги (0%, 0 голосов)
0%
Заказываю другие товары (5.26%, 3 голосов)
5.26%
Покупаю мультимедийную продукцию (0%, 0 голосов)
0%
Пользуюсь Amazon Web Services (5.26%, 3 голосов)
5.26%
Общаюсь с Amazon Alexa (0%, 0 голосов)
0%
Не пользуюсь (89.47%, 51 голосов)
89.47%

Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. s22 19 14.10.18 15:26 Сейчас в теме
Скоро будет требование, что бы компании работали люди пропорционально населению. Столько то негров, столькото евреев, столько то негроевреев.
CyberCerber; sansys; portwein; rpgshnik; +4 Ответить
2. chesnauskis 1 15.10.18 06:49 Сейчас в теме
10. 🅵🅾️🆇 15.10.18 09:50 Сейчас в теме
(1) Вообщет такое уже давным давно есть и практикуется.
Квоты на негров, квоты на женщин, квоты на геев, квоты на инвалидов.
В России теперь будут еще квоты на стариков.

Вот, знакомьтесь, разработчики последнего масс эффекта (самой худшей части и без того унылой серии):
Прикрепленные файлы:
3. rpgshnik 2217 15.10.18 07:35 Сейчас в теме
Это все потому, что он робот!
sansys; vechiy; +2 Ответить
4. AlX0id 15.10.18 08:34 Сейчас в теме
Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

А просто понизить приоритет полового признака при формировании выхода, конечно, оказалось сверхсложно? Или это был единственный признак, который анализировался? )
5. Ndochp 103 15.10.18 09:15 Сейчас в теме
(4) А это вообще был не признак.
Просто в сетку загрузили все резюме и данные по существующим работникам как-то разметили. Какой хороший, а какой не ахти. А после машина стала искать все резюме текстуально похожие на те, что у хороших работников. Слово "женский" оказалось маркером фигни.
Причем, то, что написано в статье "нанимает больше мужчин, поэтому стала блокировать женские резюме" это ерунда. Тогда пол вообще не был бы маркирующим признаком - "male" было бы во всех резюме и "female" было бы нейтральным словом, а не блокатором.
Видно именно женские резюме оказались размечены как плохие. Уж по какому поводу - как часто встречающееся слово в резюме отвергнутых живым HR, или по выборке неудачно принятых (не прошедших испытательный срок, больше штрафов, больничных или еще чего) ХЗ.
kdc; herfis; manuel; Ziggurat; +4 Ответить
7. Darklight 22 15.10.18 09:29 Сейчас в теме
(4)Это нейросеть, её калибровка противовес максимизации эффективности - задача очень не простая. В новости написано же - что пытались исправить - но не получилось.Видимо нейросеть упорно снижала эффективность женщин, как бы их весовой коэффициент не повышали (а если сильно зависеть - небось наоборот набирала почти одних только женщин а результирующая оценка эффективности резко падала).
8. Ziggurat 48 15.10.18 09:36 Сейчас в теме
(4) Вот ведь неучи! Напиши письмо этим дуракам, а по результатам статью на инфостарте.
CyberCerber; +1 Ответить
11. 🅵🅾️🆇 15.10.18 10:00 Сейчас в теме
(8)
На правах юмора:
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ +
// Счетчик мужланов со стрелочкой угнетения: 0
Резюме = СтрЗаменить(Резюме, "fem", "mal");
Результат = Нейросеть.Обработать(Резюме);
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ -
rpgshnik; malikova_julia; greatsnake; CyberCerber; +4 Ответить
6. Darklight 22 15.10.18 09:24 Сейчас в теме
Закрыли нейросеть и уволили всех кто её делал. Заодно, наверное, и всех, кого она наняла, наверное для себя лично нанимала. Да, кадровый кризис в амазоне ещё долго будет большой проблемой: людей найти не могут, а ИИ - пока слишком совершенен (по сравнению с человеком), но не так влиятелен, как будет в будущем.
Нейросеть размышляла вполне весьма здравомысленно. Исходя из максимизации результирующей эффективности. Таков идеология искуственногора разаму - максимизация положительных результатов. Сегодня уволили нейросеть. Через сто лет такие нейросети будут "увольнять" людей, которые буду менее эффективны, чем роботы. Эволюция.
12. 🅵🅾️🆇 466 15.10.18 10:11 Сейчас в теме
(6) Через двести - несогласных с ними.
Через триста - посчитает вообще всех человеков неэффективными и сошлет в резиденцию на марс.
Ну как "на марс", примерно также как "песик отправился в деревню, там ему будет лучше, с другими песиками".
TreeDogNight; shard; Kochergov; +3 Ответить
9. capitan 1683 15.10.18 09:39 Сейчас в теме
Компьютер - это электронное устройство, которое не заменит человека до
тех пор, пока не научится смеяться над шутками босса и сваливать свои
собственные ошибки на соседний компьютер.
©anekdot.ru
TreeDogNight; sansys; awk; Поручик; vrednyi_glavred; +5 Ответить
17. user1069818 16.10.18 13:33 Сейчас в теме
(9) Уже заменил. Для человека только грязная работа
13. вивйв 15.10.18 11:02 Сейчас в теме
Про толерантность в ТЗ видимо ничего не было... ))
14. nyam-nyam 15.10.18 11:53 Сейчас в теме
Подпись к картинке в статье - Ты кто такой? Давай, до свиданья...
15. ResAndDev 15.10.18 13:47 Сейчас в теме
Сижу такой, на работе никого не трогаю, читаю новости ... И тут чуть чай из ушей не полился от смеха ))) Чего только не скармливают нейросетям нынче.
16. a_titeev 12 15.10.18 15:54 Сейчас в теме
Да. Прикольная новость. Тоже поржал...
Хоть что-то было адекватное в этом мире - hr-нейросеть Amazon. И ту погасили :)
Оставьте свое сообщение

См. также

Google и Uber продлят режим удаленной работы для сотрудников до лета 2021 года

Новость ИТ-новость Новости компаний

Google снова сдвинула сроки открытия офисов после карантина. В компании предложили сотрудникам работать из дома как минимум до конца июня 2021 года.

07.08.2020    359    user1015646    0       

Роскомнадзор сорвал сроки по запуску суверенного Рунета

Новость Импортозамещение ИТ-новость Роскомнадзор

Роскомнадзор потратил почти 600 млн рублей на создание систем для автономного Рунета, но они так и не заработали. Счетная палата пришла к выводу, что ведомство не уложилось в установленные сроки.

03.08.2020    578    VKuser24342747    2       

Правительство разрешит организациям и ИП обжаловать решения надзорных органов через госуслуги

Новость Законодательство ИТ-новость Облачные технологии Судебная практика Цифровая экономика

Единый портал госуслуг пополнится новым сервисом для досудебного обжалования решений надзорных органов. С его помощью также можно оставить жалобу на назначение проверок и бездействие должностных лиц.

31.07.2020    523    VKuser24342747    1       

Европарламент встал на защиту мобильных разработчиков

Новость ИТ-новость Мобильные приложения

Европарламент принял новый регламент, который обеспечит поддержку разработчиков мобильных приложений. В нем, в частности, содержатся новые требования к работе App Store и Google Play.

27.07.2020    935    user1015646    0       

Acronis купила российского разработчика DeviceLock

Новость Безопасность ИТ-новость Новости компаний

Acronis – компания-разработчик систем защиты данных, купила 100% акций российского разработчика DeviceLock. Компания создает программное обеспечение для предупреждения утечек информации в коммерческих ИТ-системах.

23.07.2020    813    user1015646    0       

Страсти вокруг Telegram: суд обязал компанию выплатить инвесторам 1,22 млрд долларов

Новость ИТ-новость Мессенджеры Новости компаний

Telegram заключил мировое соглашение с Комиссией по ценным бумагам и биржам США (SEC). Компания вернет 1,22 млрд долларов инвесторам, а также заплатит 18,5 млн долларов штрафа.

17.07.2020    1030    user1015646    5       

МВД не нашло состава преступления в деле против Nginx

Новость ИТ-новость Судебная практика

В МВД сообщили, что уголовное дело против владельцев веб-сервера nginx прекращено. Тем не менее, конфликт между сторонами может продолжиться в гражданско-правовом режиме.

10.07.2020    926    VKuser24342747    0       

Остаться на удаленке: Microsoft навсегда закроет свои магазины во всем мире

Новость ИТ-новость Новости компаний Онлайн-торговля

Microsoft приняла решение не открывать свои оффлайн-магазины, закрытые на время пандемии COVID-19. Все услуги, оказываемые в торговых точках компании, можно будет получить дистанционно. 

03.07.2020    674    VKuser24342747    0       

Компания с российскими корнями поможет Google запускать Windows-приложения на Chrome OS

Новость ИТ-новость Новости компаний

Google договорилась о партнерстве с компанией Parallels, занимающейся разработкой виртуальных машин. Цель сотрудничества – внедрение поддержки ПО для Windows в Chrome OS.

22.06.2020    1101    VKuser24342747    0       

Правительство подготовит налоговые льготы для ИТ-бизнеса

Новость ИТ-компания Налоги

Владимир Путин поручил правительству разработать меры, направленные на поддержку ИТ-отрасли и операторов связи. В их число входят налоговые льготы, скидки на электроэнергию, новые правовые режимы. 

19.06.2020    1225    VKuser24342747    0       

Сидите дома: российские ИТ-гиганты продлят «удаленку» до осени

Новость ИТ-новость Новости компаний

Mail.Ru, Qiwi и другие российские ИТ-компании продлят режим удаленной работы. Причины – сложность соблюдения требований безопасности и риск новых волн распространения коронавируса.

01.06.2020    1600    user1015646    0       

Закон о поддержке арендаторов изменился до неузнаваемости

Новость Госдума Законодательство

Госдума приняла законопроект по поддержке арендаторов. Но в итоговую версию документа вошли поправки, которые сильно изменили первоначальную суть закона.

27.05.2020    1576    AnastasiaKl    0       

Microsoft предоставила госорганам бесплатный доступ к своим продуктам

Новость ИТ-новость Новости компаний

По мнению представителей компании, это поможет в борьбе с коронавирусом. ИТ-рынок встретил инициативу настороженно. 

18.05.2020    2175    VKuser24342747    4       

Павел Дуров объявил о закрытии проекта Telegram Open Network

Новость Блокчейн Стартапы

Причина – в затянувшейся юридической борьбе компании с Комиссией по ценным бумагам и биржам США (SEC).

15.05.2020    2773    SKravchenko    87       

Назад в офис: Apple начнет возвращать сотрудников с удаленной работы уже в мае

Новость Новости компаний

Apple собирается постепенно переводить сотрудников в офис в этом месяце. Другие организации будут отказываться от удаленки ближе к осени. 

14.05.2020    2460    VKuser24342747    2       

Бизнес не смог получить поддержку из-за ошибок в ЕГРЮЛ

Новость

Компаниям и ИП из отраслей, которые наиболее сильно пострадали от кризиса, предоставили право на получение господдержки. Воспользоваться им бизнес не может из-за неверных данных в ЕГРЮЛ.

30.04.2020    2417    user1015646    0       

Rambler отказался от своих претензий к авторам nginx

Новость Интернет Судебная практика

Rambler Group обратилась в полицию с просьбой прекратить уголовное дело против разработчиков nginx. Компания Александра Мамута Lynwood Investments все еще оставляет за собой право предъявлять претензии и иски.

29.04.2020    2308    VKuser24342747    2       

Власти озвучили новые меры поддержки бизнеса

Новость Законодательство Налоги

Столичные власти анонсировали третий пакет мер поддержки бизнеса. Президент РФ также предложил правительству предоставить компаниям финансовую помощь бесплатно, но только если те сохранят рабочие места.

24.04.2020    2337    user1015646    1       

Переход на удаленку привел к скачку продаж ПО

Новость Аналитика

Пандемия коронавируса обусловила массовый переход сотрудников на работу из дома. Это стало причиной взрывного роста продаж отдельных категорий программного обеспечения.

21.04.2020    2418    user1015646    0       

Минкомсвязь предложила снизить зарплату разработчикам для поддержки ИТ-отрасли

Новость ИТ-компания ФОМС, ПФ, ФСС Минкомсвязь

Минкомсвязь определилась, какие льготы помогут ИТ-бизнесу переждать завершение пандемии коронавируса. Среди предложенных мер – право снижать зарплаты и отправлять сотрудников в вынужденные отпуска.

17.04.2020    3808    VKuser24342747    5       

Власти ввели мораторий на банкротство компаний, пострадавших от пандемии

Новость Налоги Отчетность

Правительство России ввело мораторий на банкротство компаний, работа которых пострадала из-за эпидемии COVID-2019. Запрет также распространяется на системообразующие компании и стратегические предприятия.

09.04.2020    2735    user1015646    2       

Министр связи предложил продавать лекарства через портал госуслуг

Новость Медицина Онлайн-торговля

В России безрецептурные лекарства могут поступить в дистанционную продажу. Минкомсвязи предложило организовать торговлю фармацевтической продукцией через сайт госуслуг. 

09.04.2020    2633    VKuser24342747    1       

Мишустин пообещал бизнесу отсрочку по коммерческой аренде

Новость Законодательство

Российские бизнесмены получат отсрочку платежей за аренду коммерческих помещений. Об этом премьер-министр РФ Михаил Мишустин заявил на заседании рабочей группы Госсовета и Координационного совета по борьбе с распространением Covid-19.

07.04.2020    2873    user1015646    3       

ИТ-компании просят включить их в число наиболее пострадавших от кризиса

Новость ИТ-компания

Представители ИТ-отрасли попросили Минкомсвязь включить их в список наиболее пострадавших от «коронакризиса». Из-за пандемии коронавируса многие компании вынуждены были отложить реализацию проектов или заморозить их.

06.04.2020    3727    user1015646    5       

Минкомсвязь поддержала антимонопольный иммунитет российских разработчиков

Новость ИТ-компания Минкомсвязь

Минкомсвязь выступила против инициативы ФАС о прекращении действия антимонопольного иммунитета для ИТ-отрасли. В ведомстве уверены, что подобные изменения снизят конкурентоспособность отечественных разработчиков.

03.04.2020    3333    VKuser24342747    0