Нейросеть Amazon для поиска сотрудников научилась сексизму и была закрыта

14.10.2018      29569

Интернет-гигант Amazon запустил нейросеть, которая автоматизировала поиск новых сотрудников. Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

Нечеловеческий фактор

Компания Amazon уделяет много внимания развитию новых технологий. Одно из направлений работы – нейросети. Одна из таких разработок призвана решить кадровые проблемы организации.

Алгоритм изучил базу резюме Amazon и сведения о сотрудниках, которые в данный момент были приняты на работу, после чего отбирал среди соискателей подходящих на должность кандидатов. Поначалу система справлялась неплохо – первые сотрудники, прошедшие отбор нейросетью, смогли трудоустроиться в Amazon без прохождения дополнительных собеседований.

Но вскоре выяснилось, что алгоритм работает с ошибкой – он полностью игнорирует женские резюме. Робот-рекрутер неверно интерпретировал статистические данные. В ИТ-сфере количество работников-мужчин всегда значительно превышало число женщин, и Amazon не является исключением. Проанализировав эти данные, нейросеть пришла к выводу, что интернет-гигант специально не нанимает девушек, и начала отсеивать их при поиске подходящих соискателей. Более того, робот-рекрутер блокировал все резюме, в которых встречалось слово «женский», даже если оно использовалось в контексте названия места предыдущей работы.

Amazon предпринял попытку исправить ошибку в алгоритме, но потерпел неудачу. После этого компания объявила о закрытии проекта и роспуске команды, которая занималась созданием нейросети.

Решение кадровых проблем

Amazon – одна из самых быстрорастущих компаний в мире, прибыль интернет-гиганта ежегодно увеличивается более чем на 25%. На фоне этого организация испытывает кадровый кризис и не успевает расширять свою инфраструктуру вслед за растущими доходами и соответствующими требованиями рынка.

Многие сотрудники Amazon жалуются на невыносимые условия труда и чрезмерную загруженность. При этом руководство компании жестко следит за действиями своих подчиненных и часто оказывает материальное давление.

Британский журналист Джеймс Бладворт провел расследование, в результате которого подтвердил многие жалобы сотрудников компании. По его словам, у персонала нет времени во время работы отлучиться в туалет, а перерыв на обед составляет всего 15-20 минут. Рабочие боятся уходить на больничный, потому что за это могут получить штраф. Представители Amazon отвергают эти обвинения и утверждают, что трудовые процессы в их компании построены должным образом и не нарушают права сотрудников.


Автор:
Аналитик


Какими услугами Amazon вы пользуетесь?


Приобретаю книги (0%, 0 голосов)
0%
Заказываю другие товары (5.26%, 3 голосов)
5.26%
Покупаю мультимедийную продукцию (0%, 0 голосов)
0%
Пользуюсь Amazon Web Services (5.26%, 3 голосов)
5.26%
Общаюсь с Amazon Alexa (0%, 0 голосов)
0%
Не пользуюсь (89.47%, 51 голосов)
89.47%

Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. s22 19 14.10.18 15:26 Сейчас в теме
Скоро будет требование, что бы компании работали люди пропорционально населению. Столько то негров, столькото евреев, столько то негроевреев.
CyberCerber; sansys; portwein; rpgshnik; +4 Ответить
2. chesnauskis 1 15.10.18 06:49 Сейчас в теме
10. 🅵🅾️🆇 15.10.18 09:50 Сейчас в теме
(1) Вообщет такое уже давным давно есть и практикуется.
Квоты на негров, квоты на женщин, квоты на геев, квоты на инвалидов.
В России теперь будут еще квоты на стариков.

Вот, знакомьтесь, разработчики последнего масс эффекта (самой худшей части и без того унылой серии):
Прикрепленные файлы:
3. rpgshnik 3174 15.10.18 07:35 Сейчас в теме
Это все потому, что он робот!
sansys; vechiy; +2 Ответить
4. AlX0id 15.10.18 08:34 Сейчас в теме
Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

А просто понизить приоритет полового признака при формировании выхода, конечно, оказалось сверхсложно? Или это был единственный признак, который анализировался? )
5. Ndochp 103 15.10.18 09:15 Сейчас в теме
(4) А это вообще был не признак.
Просто в сетку загрузили все резюме и данные по существующим работникам как-то разметили. Какой хороший, а какой не ахти. А после машина стала искать все резюме текстуально похожие на те, что у хороших работников. Слово "женский" оказалось маркером фигни.
Причем, то, что написано в статье "нанимает больше мужчин, поэтому стала блокировать женские резюме" это ерунда. Тогда пол вообще не был бы маркирующим признаком - "male" было бы во всех резюме и "female" было бы нейтральным словом, а не блокатором.
Видно именно женские резюме оказались размечены как плохие. Уж по какому поводу - как часто встречающееся слово в резюме отвергнутых живым HR, или по выборке неудачно принятых (не прошедших испытательный срок, больше штрафов, больничных или еще чего) ХЗ.
kdc; herfis; manuel; Ziggurat; +4 Ответить
7. Darklight 28 15.10.18 09:29 Сейчас в теме
(4)Это нейросеть, её калибровка противовес максимизации эффективности - задача очень не простая. В новости написано же - что пытались исправить - но не получилось.Видимо нейросеть упорно снижала эффективность женщин, как бы их весовой коэффициент не повышали (а если сильно зависеть - небось наоборот набирала почти одних только женщин а результирующая оценка эффективности резко падала).
8. Ziggurat 50 15.10.18 09:36 Сейчас в теме
(4) Вот ведь неучи! Напиши письмо этим дуракам, а по результатам статью на инфостарте.
CyberCerber; +1 Ответить
11. 🅵🅾️🆇 15.10.18 10:00 Сейчас в теме
(8)
На правах юмора:
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ +
// Счетчик мужланов со стрелочкой угнетения: 0
Резюме = СтрЗаменить(Резюме, "fem", "mal");
Результат = Нейросеть.Обработать(Резюме);
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ -
rpgshnik; malikova_julia; greatsnake; CyberCerber; +4 Ответить
6. Darklight 28 15.10.18 09:24 Сейчас в теме
Закрыли нейросеть и уволили всех кто её делал. Заодно, наверное, и всех, кого она наняла, наверное для себя лично нанимала. Да, кадровый кризис в амазоне ещё долго будет большой проблемой: людей найти не могут, а ИИ - пока слишком совершенен (по сравнению с человеком), но не так влиятелен, как будет в будущем.
Нейросеть размышляла вполне весьма здравомысленно. Исходя из максимизации результирующей эффективности. Таков идеология искуственногора разаму - максимизация положительных результатов. Сегодня уволили нейросеть. Через сто лет такие нейросети будут "увольнять" людей, которые буду менее эффективны, чем роботы. Эволюция.
12. 🅵🅾️🆇 512 15.10.18 10:11 Сейчас в теме
(6) Через двести - несогласных с ними.
Через триста - посчитает вообще всех человеков неэффективными и сошлет в резиденцию на марс.
Ну как "на марс", примерно также как "песик отправился в деревню, там ему будет лучше, с другими песиками".
TreeDogNight; shard; Kochergov; +3 Ответить
9. capitan 2249 15.10.18 09:39 Сейчас в теме
Компьютер - это электронное устройство, которое не заменит человека до
тех пор, пока не научится смеяться над шутками босса и сваливать свои
собственные ошибки на соседний компьютер.
©anekdot.ru
TreeDogNight; sansys; awk; Поручик; vrednyi_glavred; +5 Ответить
17. user1069818 16.10.18 13:33 Сейчас в теме
(9) Уже заменил. Для человека только грязная работа
13. вивйв 15.10.18 11:02 Сейчас в теме
Про толерантность в ТЗ видимо ничего не было... ))
14. nyam-nyam 15.10.18 11:53 Сейчас в теме
Подпись к картинке в статье - Ты кто такой? Давай, до свиданья...
15. ResAndDev 15.10.18 13:47 Сейчас в теме
Сижу такой, на работе никого не трогаю, читаю новости ... И тут чуть чай из ушей не полился от смеха ))) Чего только не скармливают нейросетям нынче.
16. a_titeev 26 15.10.18 15:54 Сейчас в теме
Да. Прикольная новость. Тоже поржал...
Хоть что-то было адекватное в этом мире - hr-нейросеть Amazon. И ту погасили :)
Оставьте свое сообщение

См. также

«Корпорация МСП» запустила сервис для проверки контрагентов

Новость ИТ-новость

Веб-приложение основано на данных Федеральной налоговой службы и позволяет проводить проверку по более чем 20 параметрам. Сервис бесплатен и работает без ограничения на число запросов.

23.11.2022    815    VKuser24342747    4       

Минэкономразвития предложило ввести новые требования для кредитов ИТ-компаниям

Новость ИТ-компания ИТ-новость

Министерство готовит постановление, устанавливающее новые требования для ИТ-компаний, которые хотят получить льготные кредиты. Бизнесу будет необходимо сохранять рабочие места или показывать рост выручки.

10.11.2022    632    VKuser24342747    1       

Бизнесу могут запретить сбор биометрических данных

Новость Законодательство ИТ-новость

Госдума рассмотрит законопроект, который вводит ограничения для коммерческих компаний на сбор биометрии – они смогут лишь получать эти сведения из Единой государственной системы (ЕБС).

26.10.2022    1004    VKuser24342747    0       

Банки с 2024 года будут поддерживать переводы между юрлицами и ИП через СБП

Новость Банки ИТ-новость

Центробанк намерен ввести обязательное требование для финансовых учреждений-участников Системы быстрых платежей. Они должны внедрить систему в браузерные версии своих платежных приложений и обеспечить проведение платежей через СБП между компаниями.

25.10.2022    1073    VKuser24342747    1       

Правительство продлило право на временный перевод сотрудников в другие компании

Новость ИТ-новость

До 31 декабря 2023 года продлена возможность для работодателей направить работника на другое предприятие вместо увольнения. Весной такое решение было принято в качестве меры поддержки для бизнеса на период до конца 2022 года.

29.09.2022    1788    VKuser24342747    0       

Роскомнадзор будет контролировать передачу персональных данных за рубеж

Новость Безопасность ИТ-новость Роскомнадзор

Минцифры подготовило подзаконные акты, которые обяжут операторов персональных данных уведомлять Роскомнадзор о намерении передать ПДн в другое государство. РКН получит право блокировать такую передачу.

21.09.2022    1477    VKuser24342747    2       

Еще один российский маркетплейс начал сотрудничать с самозанятыми

Новость ИТ-новость

Яндекс изменил правила продажи и продвижения товаров на «Маркете», разрешив участвовать в торговле гражданам, уплачивающим налог на профессиональный доход (НПД). Такую возможность предлагают и другие торговые онлайн-площадки.

19.09.2022    1179    VKuser24342747    0       

Цифровые атташе помогут бизнесу проводить заграничные платежи

Новость ИТ-новость

Учрежденный в феврале институт цифровых атташе планируют задействовать как посредника при проведении трансграничных финансовых операций. Российские ИТ-компании подтвердили, что проблема с такими платежами существует.

13.09.2022    924    VKuser24342747    0       

Прием заявок на аккредитацию ИТ-компаний стартует в ближайшие месяцы

Новость ИТ-новость Минкомсвязь Налоги

Минцифры сообщило, что планирует начать обработку заявлений по новым правилам не позднее ноября этого года. Для начала процесса нужно дождаться одобрения подготовленного ведомством проекта постановления.

08.09.2022    1295    VKuser24342747    0       

Банки обратились к ЦБ с просьбой отложить штрафы за отсутствие функции выдачи кредитов по биометрии

Новость Банки Безопасность ИТ-новость

Российские банки не смогли в отведенный ЦБ срок внедрить в свои программы функцию получения кредитов и открытия счетов при помощи биометрических данных. Из-за этого учреждениям грозит штраф.

07.09.2022    954    VKuser24342747    1       

Минцифры изменит условия включения в реестр российского ПО

Новость Импортозамещение Infostart Software Partners ИТ-новость Маркет

Министерство намерено расширить список программ, которые могут попасть в перечень, а также создаст в нем отдельную категорию для приложений на базе ИИ. Вместе с тем ужесточатся требования к совместимости ПО.

31.08.2022    1560    VKuser24342747    7       

Минпромторг создаст маркетплейс промышленного ПО для импортозамещения

Новость Импортозамещение ИТ-новость

В каталог будут включены программы, которые могут заменить все виды иностранных инженерных приложений. В числе первых в магазин войдут решения «1С». Доступ к платформе – по подписке.

16.08.2022    1242    VKuser24342747    3       

Госдума обсудит снижение госпошлин для малого бизнеса вдвое

Новость ИТ-новость

На рассмотрение парламентом внесен законопроект, который предусматривает 50-процентную льготу на оплату юридически значимых действий для малых и средних предприятий (МСП).

09.08.2022    1299    VKuser24342747    1       

Минцифры изменило правила получения аккредитации для ИТ-компаний

Новость ИТ-новость

Аккредитация в ведомстве – обязательное условие для налоговых льгот, положенных ИТ-отрасли. После внесения изменений права на преференции лишаться финансовые учреждения и реорганизованные структуры.

04.08.2022    2085    VKuser24342747    4       

Центробанк ужесточит требования к малым и средним предприятиям

Новость ИТ-новость

Банк России намерен изменить условия отнесения организаций и ИП к категориям малого и среднего предпринимательства (МСП). Неподходящие под новые критерии компании будут исключены из реестра.

25.07.2022    2101    VKuser24342747    0       

ЦБ намерен признать интеллектуальную собственность высококачественным залогом

Новость ИТ-новость

Глава Банка России Эльвира Набиуллина предложила закрепить в законодательстве правила оценки интеллектуальной собственности на программные продукты для использования их в качестве залога.

22.07.2022    2097    VKuser24342747    0       

Минцифры и ФНС запустили проект регистрации бизнеса через «Госключ»

Новость ИТ-новость Мобильные приложения ФНС

Ведомства запустили проект, при помощи которого граждане смогут пройти процедуру государственной регистрации юрлица или ИП онлайн через приложение «Госключ».

13.07.2022    1718    VKuser24342747    0       

Минцифры завершит работы по созданию цифрового профиля предпринимателя к 1 июля

Новость ИТ-новость Цифровая экономика

С новым инструментом бизнесу станет проще получить положенные меры поддержки, в том числе – финансовые. Сервис будет работать на базе собственных разработок Министерства цифрового развития. 

29.06.2022    1389    VKuser24342747    0       

ФНС разъяснила применение ККТ при расчетах между организациями через СБП

Новость ИТ-новость Онлайн-кассы

В письме ведомство сообщило, что при проведении финансовых операций через Систему быстрых платежей между юрлицами или ИП использование кассовой техники необязательно.

24.06.2022    2034    VKuser24342747    2       

Правительство начало эксперимент по медицинскому страхованию через «Госуслуги»

Новость ИТ-новость

В России запущен пилотный проект онлайн-взаимодействия между страховыми организациями, маркетплейсами и страхователями. Заключение договоров происходит через систему электронного правительства.

22.06.2022    1712    VKuser24342747    0       

Куратор ИТ-отрасли рассказал о перспективах развития российского рынка

Новость Импортозамещение ИТ-новость

Вице-премьер Дмитрий Чернышенко во время выступления на Петербургском международном экономическом форуме (ПМЭФ) подвел итог развития отечественного рынка разработки за последние несколько месяцев и сообщил о дальнейших планах.

20.06.2022    3378    VKuser24342747    7       

ЦБ поддержал инициативу о приравнивании банков к ИТ-компаниям

Новость Банки ИТ-новость

Центробанк поддерживает недавнее предложение банка «Тинькофф» о распространении льгот для высокотехнологичных компаний на банковскую отрасль. По мнению регулятора, у кредитных организаций довольно большой потенциал технологического развития.

01.06.2022    1703    VKuser24342747    3       

Банк России начнет тестировать цифровой рубль на год раньше

Новость Банки ИТ-новость

Центробанк РФ намерен запустить тестирование цифрового рубля на реальных клиентах в 2023 году. Ранее старт проекта был намечен на 2024 год, а ускорение связано в том числе с санкциями.

30.05.2022    1842    VKuser24342747    1       

Законопроект о налогообложении цифровых активов прошел первое чтение

Новость Банки ИТ-новость

Госдума в первом чтении приняла законопроект, в котором предусмотрен налог на прибыль по ставке 13% для российских обладателей цифровых активов. Для иностранных организаций тариф составит 15%.

20.05.2022    3667    VKuser24342747    0       

ФНС начала предоставлять бесплатные инструменты для создания электронных подписей

Новость ИТ-новость ФНС Цифровая подпись

В России начался эксперимент, в рамках которого пользователи Удостоверяющего центра ФНС России смогут безвозмездно получать средства электронной подписи.

19.05.2022    3575    VKuser24342747    25