Нейросеть Amazon для поиска сотрудников научилась сексизму и была закрыта

14.10.2018      31259

Интернет-гигант Amazon запустил нейросеть, которая автоматизировала поиск новых сотрудников. Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

Нечеловеческий фактор

Компания Amazon уделяет много внимания развитию новых технологий. Одно из направлений работы – нейросети. Одна из таких разработок призвана решить кадровые проблемы организации.

Алгоритм изучил базу резюме Amazon и сведения о сотрудниках, которые в данный момент были приняты на работу, после чего отбирал среди соискателей подходящих на должность кандидатов. Поначалу система справлялась неплохо – первые сотрудники, прошедшие отбор нейросетью, смогли трудоустроиться в Amazon без прохождения дополнительных собеседований.

Но вскоре выяснилось, что алгоритм работает с ошибкой – он полностью игнорирует женские резюме. Робот-рекрутер неверно интерпретировал статистические данные. В ИТ-сфере количество работников-мужчин всегда значительно превышало число женщин, и Amazon не является исключением. Проанализировав эти данные, нейросеть пришла к выводу, что интернет-гигант специально не нанимает девушек, и начала отсеивать их при поиске подходящих соискателей. Более того, робот-рекрутер блокировал все резюме, в которых встречалось слово «женский», даже если оно использовалось в контексте названия места предыдущей работы.

Amazon предпринял попытку исправить ошибку в алгоритме, но потерпел неудачу. После этого компания объявила о закрытии проекта и роспуске команды, которая занималась созданием нейросети.

Решение кадровых проблем

Amazon – одна из самых быстрорастущих компаний в мире, прибыль интернет-гиганта ежегодно увеличивается более чем на 25%. На фоне этого организация испытывает кадровый кризис и не успевает расширять свою инфраструктуру вслед за растущими доходами и соответствующими требованиями рынка.

Многие сотрудники Amazon жалуются на невыносимые условия труда и чрезмерную загруженность. При этом руководство компании жестко следит за действиями своих подчиненных и часто оказывает материальное давление.

Британский журналист Джеймс Бладворт провел расследование, в результате которого подтвердил многие жалобы сотрудников компании. По его словам, у персонала нет времени во время работы отлучиться в туалет, а перерыв на обед составляет всего 15-20 минут. Рабочие боятся уходить на больничный, потому что за это могут получить штраф. Представители Amazon отвергают эти обвинения и утверждают, что трудовые процессы в их компании построены должным образом и не нарушают права сотрудников.


Автор:
Аналитик


Какими услугами Amazon вы пользуетесь?


Приобретаю книги (0%, 0 голосов)
0%
Заказываю другие товары (5.26%, 3 голосов)
5.26%
Покупаю мультимедийную продукцию (0%, 0 голосов)
0%
Пользуюсь Amazon Web Services (5.26%, 3 голосов)
5.26%
Общаюсь с Amazon Alexa (0%, 0 голосов)
0%
Не пользуюсь (89.47%, 51 голосов)
89.47%

Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. s22 19 14.10.18 15:26 Сейчас в теме
Скоро будет требование, что бы компании работали люди пропорционально населению. Столько то негров, столькото евреев, столько то негроевреев.
CyberCerber; sansys; portwein; rpgshnik; +4 Ответить
2. chesnauskis 1 15.10.18 06:49 Сейчас в теме
(1) толерантненько.
10. 🅵🅾️🆇 522 15.10.18 09:50 Сейчас в теме
(1) Вообщет такое уже давным давно есть и практикуется.
Квоты на негров, квоты на женщин, квоты на геев, квоты на инвалидов.
В России теперь будут еще квоты на стариков.

Вот, знакомьтесь, разработчики последнего масс эффекта (самой худшей части и без того унылой серии):
Прикрепленные файлы:
3. rpgshnik 3625 15.10.18 07:35 Сейчас в теме
Это все потому, что он робот!
sansys; vechiy; +2 Ответить
4. AlX0id 15.10.18 08:34 Сейчас в теме
Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

А просто понизить приоритет полового признака при формировании выхода, конечно, оказалось сверхсложно? Или это был единственный признак, который анализировался? )
5. Ndochp 103 15.10.18 09:15 Сейчас в теме
(4) А это вообще был не признак.
Просто в сетку загрузили все резюме и данные по существующим работникам как-то разметили. Какой хороший, а какой не ахти. А после машина стала искать все резюме текстуально похожие на те, что у хороших работников. Слово "женский" оказалось маркером фигни.
Причем, то, что написано в статье "нанимает больше мужчин, поэтому стала блокировать женские резюме" это ерунда. Тогда пол вообще не был бы маркирующим признаком - "male" было бы во всех резюме и "female" было бы нейтральным словом, а не блокатором.
Видно именно женские резюме оказались размечены как плохие. Уж по какому поводу - как часто встречающееся слово в резюме отвергнутых живым HR, или по выборке неудачно принятых (не прошедших испытательный срок, больше штрафов, больничных или еще чего) ХЗ.
kdc; herfis; manuel; Ziggurat; +4 Ответить
7. Darklight 32 15.10.18 09:29 Сейчас в теме
(4)Это нейросеть, её калибровка противовес максимизации эффективности - задача очень не простая. В новости написано же - что пытались исправить - но не получилось.Видимо нейросеть упорно снижала эффективность женщин, как бы их весовой коэффициент не повышали (а если сильно зависеть - небось наоборот набирала почти одних только женщин а результирующая оценка эффективности резко падала).
8. Ziggurat 50 15.10.18 09:36 Сейчас в теме
(4) Вот ведь неучи! Напиши письмо этим дуракам, а по результатам статью на инфостарте.
CyberCerber; +1 Ответить
11. 🅵🅾️🆇 522 15.10.18 10:00 Сейчас в теме
(8)
На правах юмора:
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ +
// Счетчик мужланов со стрелочкой угнетения: 0
Резюме = СтрЗаменить(Резюме, "fem", "mal");
Результат = Нейросеть.Обработать(Резюме);
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ -
rpgshnik; digital_julia; greatsnake; CyberCerber; +4 Ответить
6. Darklight 32 15.10.18 09:24 Сейчас в теме
Закрыли нейросеть и уволили всех кто её делал. Заодно, наверное, и всех, кого она наняла, наверное для себя лично нанимала. Да, кадровый кризис в амазоне ещё долго будет большой проблемой: людей найти не могут, а ИИ - пока слишком совершенен (по сравнению с человеком), но не так влиятелен, как будет в будущем.
Нейросеть размышляла вполне весьма здравомысленно. Исходя из максимизации результирующей эффективности. Таков идеология искуственногора разаму - максимизация положительных результатов. Сегодня уволили нейросеть. Через сто лет такие нейросети будут "увольнять" людей, которые буду менее эффективны, чем роботы. Эволюция.
12. 🅵🅾️🆇 522 15.10.18 10:11 Сейчас в теме
(6) Через двести - несогласных с ними.
Через триста - посчитает вообще всех человеков неэффективными и сошлет в резиденцию на марс.
Ну как "на марс", примерно также как "песик отправился в деревню, там ему будет лучше, с другими песиками".
TreeDogNight; shard; Kochergov; +3 Ответить
9. capitan 2461 15.10.18 09:39 Сейчас в теме
Компьютер - это электронное устройство, которое не заменит человека до
тех пор, пока не научится смеяться над шутками босса и сваливать свои
собственные ошибки на соседний компьютер.
©anekdot.ru
TreeDogNight; sansys; awk; Поручик; vrednyi_glavred; +5 Ответить
17. user1069818 16.10.18 13:33 Сейчас в теме
(9) Уже заменил. Для человека только грязная работа
13. Cincout 15.10.18 11:02 Сейчас в теме
Про толерантность в ТЗ видимо ничего не было... ))
14. nyam-nyam 15.10.18 11:53 Сейчас в теме
Подпись к картинке в статье - Ты кто такой? Давай, до свиданья...
15. ResAndDev 15.10.18 13:47 Сейчас в теме
Сижу такой, на работе никого не трогаю, читаю новости ... И тут чуть чай из ушей не полился от смеха ))) Чего только не скармливают нейросетям нынче.
16. a_titeev 31 15.10.18 15:54 Сейчас в теме
Да. Прикольная новость. Тоже поржал...
Хоть что-то было адекватное в этом мире - hr-нейросеть Amazon. И ту погасили :)
Оставьте свое сообщение

См. также

Мораторий на проверки бизнеса будет действовать весь 2024 год

Новость ИТ-Новость

Правительство РФ приняло решение продлить запрет на проведение плановых проверок бизнеса на 2024 год. Внеплановые контрольные мероприятия будут осуществляться лишь в исключительных случаях.

22.12.2023    442    VKuser24342747    0       

1

Роспатент запустил сервис проверки товарных знаков

Новость Искусственный интеллект ИТ-Новость

Роспатент сообщил о запуске бесплатного сервиса для поиска сведений о зарегистрированных товарных знаках в России. Платформа использует возможности искусственного интеллекта.

18.12.2023    328    VKuser24342747    0       

2

ФНС расширила перечень сведений, которые предоставляет платформа проверки контрагентов

Новость ИТ-Новость ФНС

ФНС обновила свой сервис для проверки надежности контрагентов, дополнив новыми данными перечень с доступной информацией о налогоплательщиках. Также ведомство рассказало, как часто компании пользуются этим сервисом.

24.11.2023    516    VKuser24342747    0       

1

В России пройдет эксперимент по развитию исламского банкинга

Новость Банки ИТ-Новость

В четырех регионах России в сентябре начнется эксперимент по развитию исламского банкинга. В ходе тестирования банковские организации смогут оказывать услуги без установления процентной ставки.

31.08.2023    801    VKuser24342747    9       

1

Госдума приняла законопроект о господдержке малых технологических компаний

Новость Законодательство ИТ-Новость

Госдума одобрила законопроект, который описывает условия и правила поддержки малых технологических компаний. Для них будет создан специальный реестр, зачисление в который дает право на получение господдержки.

02.08.2023    558    VKuser24342747    0       

1

Регистрация бизнеса за один день: в России запустят новый онлайн-сервис

Новость Минфин ИТ-Новость

В России планируется запуск сервиса «Старт бизнеса онлайн». С его помощью можно будет дистанционно открыть фирму, завести расчетный счет, получить электронную подпись, – и все это за один день.

26.07.2023    854    user1915669    0       

1

Предпринимателей обяжут сообщать о прекращении некоторых видов деятельности

Новость Законодательство ИТ-Новость

Госдума одобрила законопроект, который обязывает бизнес уведомлять уполномоченные органы о прекращении работы. Требования распространяются не на все виды деятельности.

21.07.2023    491    VKuser24342747    0       

1

На платформе МСП появятся сведения из МВД, ФНС, Минцифры и Казначейства

Новость ИТ-Новость

Цифровой профиль предпринимателя на сайте МСП.РФ дополнится данными из МВД, ФНС, Минцифры и Казначейства. С помощью сервиса бизнес сможет контролировать задолженности и ограничения при получении льгот.

19.07.2023    541    VKuser24342747    0       

2

ЭП для ИП: квалифицированная подпись физлица предпринимателям не подходит

Новость ИТ-Новость ФНС Цифровая подпись ЭДО

Федеральная Налоговая Служба России опубликовала разъяснения, какую именно квалифицированную электронную подпись следует использовать индивидуальным предпринимателям в юридически значимом ЭДО.

29.06.2023    757    ЕленаЧерепнева    0       

1

Госдума планирует продлить бизнесу кредитные каникулы

Новость Законодательство ИТ-Новость

Госдума намерена продлить до конца 2023 года возможность оформить отсрочку платежей по кредитам. Сейчас механизм предоставления кредитных каникул имеет временный характер, но парламент рассмотрит законопроект о постоянно действующем праве на кредитные каникулы.

11.04.2023    8243    VKuser24342747    0       

1

Госдума рассматривает возможность включать продукты публичных ИТ-компаний в реестр ПО

Новость ИТ-компания Законодательство ИТ-льготы ИТ-Новость

Законопроект изменяет правила внесения программ в реестр отечественного ПО. В случае одобрения изменений Госдумой в перечень могут быть включены приложения компаний, торгующих акциями на биржах.

23.03.2023    4763    VKuser24342747    0       

1

Минэкономики открыло веб-портал для поддержки инвестпроектов

Новость ИТ-компания Финансовые услуги, инвестиции ИТ-льготы ИТ-Новость

Министерство экономического развития представило интернет-ресурс, где описаны 16 актуальных и полезных мер поддержки для реализации инвестиционных проектов.

28.02.2023    5718    user1816563    0       

1

Упрощенный порядок ввоза электронных устройств и оборудования продлен

Новость Электротехника и микроэлектроника ИТ-Новость

Михаил Мишустин подписал постановление, которое продлевает упрощенный ввоз электронных устройств на год. Упрощенный ввоз таких устройств был разрешен еще весной 2022 года с целью не допустить дефицит электроники.

01.02.2023    6215    user1816563    0       

2

Негосударственные пенсионные фонды смогут оказывать больше услуг

Новость Финансовые услуги, инвестиции Законодательство ИТ-Новость

Госдума одобрила законопроект, который расширяет перечень видов деятельности для негосударственных пенсионных фондов (НПФ). Они смогут в числе прочих оказывать инвестиционные услуги.

27.01.2023    5148    VKuser24342747    0       

1

Минцифры для поддержки ИТ-отрасли предложит разработчикам якорных заказчиков

Новость Импортозамещение ИТ-Новость

Министерство цифрового развития готовит новый пакет мер поддержки ИТ-индустрии. Один из рассматриваемых вариантов – обеспечение гарантированного спроса на программы.

16.12.2022    6373    VKuser24342747    0       

2

Минэкономики намерено предоставить льготы для малого бизнеса, связанного с технологиями

Новость Законодательство ИТ-Новость

Минэкономики предлагает установить термин «малые технологические компании», что позволит таким организациям получать поддержку от государства. Правительство утвердит условия: ОКВЭДы, размер выручки и другие.

30.11.2022    5475    VKuser24342747    1       

1

«Корпорация МСП» запустила сервис для проверки контрагентов

Новость ИТ-Новость

Веб-приложение основано на данных Федеральной налоговой службы и позволяет проводить проверку по более чем 20 параметрам. Сервис бесплатен и работает без ограничения на число запросов.

23.11.2022    8347    VKuser24342747    5       

2

Минэкономразвития предложило ввести новые требования для кредитов ИТ-компаниям

Новость ИТ-компания ИТ-Новость

Министерство готовит постановление, устанавливающее новые требования для ИТ-компаний, которые хотят получить льготные кредиты. Бизнесу будет необходимо сохранять рабочие места или показывать рост выручки.

10.11.2022    4949    VKuser24342747    1       

2

Бизнесу могут запретить сбор биометрических данных

Новость Законодательство ИТ-Новость

Госдума рассмотрит законопроект, который вводит ограничения для коммерческих компаний на сбор биометрии – они смогут лишь получать эти сведения из Единой государственной системы (ЕБС).

26.10.2022    5638    VKuser24342747    0       

1

Банки с 2024 года будут поддерживать переводы между юрлицами и ИП через СБП

Новость Банки ИТ-Новость

Центробанк намерен ввести обязательное требование для финансовых учреждений-участников Системы быстрых платежей. Они должны внедрить систему в браузерные версии своих платежных приложений и обеспечить проведение платежей через СБП между компаниями.

25.10.2022    7964    VKuser24342747    1       

2

Правительство продлило право на временный перевод сотрудников в другие компании

Новость ИТ-Новость

До 31 декабря 2023 года продлена возможность для работодателей направить работника на другое предприятие вместо увольнения. Весной такое решение было принято в качестве меры поддержки для бизнеса на период до конца 2022 года.

29.09.2022    7012    VKuser24342747    0       

2

Роскомнадзор будет контролировать передачу персональных данных за рубеж

Новость Безопасность ИТ-Новость Роскомнадзор

Минцифры подготовило подзаконные акты, которые обяжут операторов персональных данных уведомлять Роскомнадзор о намерении передать ПДн в другое государство. РКН получит право блокировать такую передачу.

21.09.2022    5738    VKuser24342747    2       

2

Еще один российский маркетплейс начал сотрудничать с самозанятыми

Новость ИТ-Новость

Яндекс изменил правила продажи и продвижения товаров на «Маркете», разрешив участвовать в торговле гражданам, уплачивающим налог на профессиональный доход (НПД). Такую возможность предлагают и другие торговые онлайн-площадки.

19.09.2022    7258    VKuser24342747    0       

2

Цифровые атташе помогут бизнесу проводить заграничные платежи

Новость ИТ-Новость

Учрежденный в феврале институт цифровых атташе планируют задействовать как посредника при проведении трансграничных финансовых операций. Российские ИТ-компании подтвердили, что проблема с такими платежами существует.

13.09.2022    5914    VKuser24342747    0       

2

Прием заявок на аккредитацию ИТ-компаний стартует в ближайшие месяцы

Новость ИТ-Новость Минцифры Налоги

Минцифры сообщило, что планирует начать обработку заявлений по новым правилам не позднее ноября этого года. Для начала процесса нужно дождаться одобрения подготовленного ведомством проекта постановления.

08.09.2022    6618    VKuser24342747    0       

2