Нейросеть Amazon для поиска сотрудников научилась сексизму и была закрыта

14.10.2018     

Интернет-гигант Amazon запустил нейросеть, которая автоматизировала поиск новых сотрудников. Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

Нечеловеческий фактор

Компания Amazon уделяет много внимания развитию новых технологий. Одно из направлений работы – нейросети. Одна из таких разработок призвана решить кадровые проблемы организации.

Алгоритм изучил базу резюме Amazon и сведения о сотрудниках, которые в данный момент были приняты на работу, после чего отбирал среди соискателей подходящих на должность кандидатов. Поначалу система справлялась неплохо – первые сотрудники, прошедшие отбор нейросетью, смогли трудоустроиться в Amazon без прохождения дополнительных собеседований.

Но вскоре выяснилось, что алгоритм работает с ошибкой – он полностью игнорирует женские резюме. Робот-рекрутер неверно интерпретировал статистические данные. В ИТ-сфере количество работников-мужчин всегда значительно превышало число женщин, и Amazon не является исключением. Проанализировав эти данные, нейросеть пришла к выводу, что интернет-гигант специально не нанимает девушек, и начала отсеивать их при поиске подходящих соискателей. Более того, робот-рекрутер блокировал все резюме, в которых встречалось слово «женский», даже если оно использовалось в контексте названия места предыдущей работы.

Amazon предпринял попытку исправить ошибку в алгоритме, но потерпел неудачу. После этого компания объявила о закрытии проекта и роспуске команды, которая занималась созданием нейросети.

Решение кадровых проблем

Amazon – одна из самых быстрорастущих компаний в мире, прибыль интернет-гиганта ежегодно увеличивается более чем на 25%. На фоне этого организация испытывает кадровый кризис и не успевает расширять свою инфраструктуру вслед за растущими доходами и соответствующими требованиями рынка.

Многие сотрудники Amazon жалуются на невыносимые условия труда и чрезмерную загруженность. При этом руководство компании жестко следит за действиями своих подчиненных и часто оказывает материальное давление.

Британский журналист Джеймс Бладворт провел расследование, в результате которого подтвердил многие жалобы сотрудников компании. По его словам, у персонала нет времени во время работы отлучиться в туалет, а перерыв на обед составляет всего 15-20 минут. Рабочие боятся уходить на больничный, потому что за это могут получить штраф. Представители Amazon отвергают эти обвинения и утверждают, что трудовые процессы в их компании построены должным образом и не нарушают права сотрудников.


Автор:
Александр Вашкевич Аналитик


Какими услугами Amazon вы пользуетесь?


Приобретаю книги (0%, 0 голосов)
0%
Заказываю другие товары (5.26%, 3 голосов)
5.26%
Покупаю мультимедийную продукцию (0%, 0 голосов)
0%
Пользуюсь Amazon Web Services (5.26%, 3 голосов)
5.26%
Общаюсь с Amazon Alexa (0%, 0 голосов)
0%
Не пользуюсь (89.47%, 51 голосов)
89.47%

Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. s22 19 14.10.18 15:26 Сейчас в теме
Скоро будет требование, что бы компании работали люди пропорционально населению. Столько то негров, столькото евреев, столько то негроевреев.
CyberCerber; sansys; portwein; rpgshnik; +4 Ответить
2. chesnauskis 1 15.10.18 06:49 Сейчас в теме
10. 🅵🅾️🆇 15.10.18 09:50 Сейчас в теме
(1) Вообщет такое уже давным давно есть и практикуется.
Квоты на негров, квоты на женщин, квоты на геев, квоты на инвалидов.
В России теперь будут еще квоты на стариков.

Вот, знакомьтесь, разработчики последнего масс эффекта (самой худшей части и без того унылой серии):
Прикрепленные файлы:
3. rpgshnik 2639 15.10.18 07:35 Сейчас в теме
Это все потому, что он робот!
sansys; vechiy; +2 Ответить
4. AlX0id 15.10.18 08:34 Сейчас в теме
Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

А просто понизить приоритет полового признака при формировании выхода, конечно, оказалось сверхсложно? Или это был единственный признак, который анализировался? )
5. Ndochp 103 15.10.18 09:15 Сейчас в теме
(4) А это вообще был не признак.
Просто в сетку загрузили все резюме и данные по существующим работникам как-то разметили. Какой хороший, а какой не ахти. А после машина стала искать все резюме текстуально похожие на те, что у хороших работников. Слово "женский" оказалось маркером фигни.
Причем, то, что написано в статье "нанимает больше мужчин, поэтому стала блокировать женские резюме" это ерунда. Тогда пол вообще не был бы маркирующим признаком - "male" было бы во всех резюме и "female" было бы нейтральным словом, а не блокатором.
Видно именно женские резюме оказались размечены как плохие. Уж по какому поводу - как часто встречающееся слово в резюме отвергнутых живым HR, или по выборке неудачно принятых (не прошедших испытательный срок, больше штрафов, больничных или еще чего) ХЗ.
kdc; herfis; manuel; Ziggurat; +4 Ответить
7. Darklight 27 15.10.18 09:29 Сейчас в теме
(4)Это нейросеть, её калибровка противовес максимизации эффективности - задача очень не простая. В новости написано же - что пытались исправить - но не получилось.Видимо нейросеть упорно снижала эффективность женщин, как бы их весовой коэффициент не повышали (а если сильно зависеть - небось наоборот набирала почти одних только женщин а результирующая оценка эффективности резко падала).
8. Ziggurat 50 15.10.18 09:36 Сейчас в теме
(4) Вот ведь неучи! Напиши письмо этим дуракам, а по результатам статью на инфостарте.
CyberCerber; +1 Ответить
11. 🅵🅾️🆇 15.10.18 10:00 Сейчас в теме
(8)
На правах юмора:
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ +
// Счетчик мужланов со стрелочкой угнетения: 0
Резюме = СтрЗаменить(Резюме, "fem", "mal");
Результат = Нейросеть.Обработать(Резюме);
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ -
rpgshnik; malikova_julia; greatsnake; CyberCerber; +4 Ответить
6. Darklight 27 15.10.18 09:24 Сейчас в теме
Закрыли нейросеть и уволили всех кто её делал. Заодно, наверное, и всех, кого она наняла, наверное для себя лично нанимала. Да, кадровый кризис в амазоне ещё долго будет большой проблемой: людей найти не могут, а ИИ - пока слишком совершенен (по сравнению с человеком), но не так влиятелен, как будет в будущем.
Нейросеть размышляла вполне весьма здравомысленно. Исходя из максимизации результирующей эффективности. Таков идеология искуственногора разаму - максимизация положительных результатов. Сегодня уволили нейросеть. Через сто лет такие нейросети будут "увольнять" людей, которые буду менее эффективны, чем роботы. Эволюция.
12. 🅵🅾️🆇 497 15.10.18 10:11 Сейчас в теме
(6) Через двести - несогласных с ними.
Через триста - посчитает вообще всех человеков неэффективными и сошлет в резиденцию на марс.
Ну как "на марс", примерно также как "песик отправился в деревню, там ему будет лучше, с другими песиками".
TreeDogNight; shard; Kochergov; +3 Ответить
9. capitan 2095 15.10.18 09:39 Сейчас в теме
Компьютер - это электронное устройство, которое не заменит человека до
тех пор, пока не научится смеяться над шутками босса и сваливать свои
собственные ошибки на соседний компьютер.
©anekdot.ru
TreeDogNight; sansys; awk; Поручик; vrednyi_glavred; +5 Ответить
17. user1069818 16.10.18 13:33 Сейчас в теме
(9) Уже заменил. Для человека только грязная работа
13. вивйв 15.10.18 11:02 Сейчас в теме
Про толерантность в ТЗ видимо ничего не было... ))
14. nyam-nyam 15.10.18 11:53 Сейчас в теме
Подпись к картинке в статье - Ты кто такой? Давай, до свиданья...
15. ResAndDev 15.10.18 13:47 Сейчас в теме
Сижу такой, на работе никого не трогаю, читаю новости ... И тут чуть чай из ушей не полился от смеха ))) Чего только не скармливают нейросетям нынче.
16. a_titeev 21 15.10.18 15:54 Сейчас в теме
Да. Прикольная новость. Тоже поржал...
Хоть что-то было адекватное в этом мире - hr-нейросеть Amazon. И ту погасили :)
Оставьте свое сообщение

См. также

Реестр отечественного ПО может лишиться 30% софта

Новость Импортозамещение ИТ-новость Налоги

Программы из реестра российского ПО проверят на соответствие требованиям. По итогам анализа 30% наименований могут исключить из списка. Информацию о нарушениях предоставят сами участники рынка.

22.09.2021    3129    user1015646    4       

Правительство утвердило дорожную карту второго пакета мер поддержки ИТ-отрасли

Новость Законодательство ИТ-новость Цифровая экономика

Правительство определилось с тем, какие меры необходимо принять для развития российской ИТ-индустрии. Дорожная карта второго пакета поддержки включает 62 пункта.

21.09.2021    1661    VKuser24342747    0       

Банк России начнет использовать блокчейн для ускоренного оформления ипотек

Новость Банки Блокчейн ИТ-новость

Правительство запустило эксперимент по внедрению блокчейн-платформы для обмена данными между Росреестром и банками. Технология сделает оформление ипотек более доступным.

14.09.2021    2138    VKuser24342747    2       

Российское вино планируют продавать онлайн

Новость Законодательство ИТ-новость

Министерство финансов предлагает провести эксперимент по розничной продаже через интернет вина из винограда, полностью выращенного на территории РФ. Это позволит поддержать отечественного производителя и повысить его конкурентоспособность.

09.09.2021    5474    Senator_I    0       

Правительство подготовило правила работы с биометрией для бизнеса

Новость Законодательство ИТ-новость Минкомсвязь

Минцифры намерено использовать существующие нормы для банков по сбору биометрических данных и для других коммерческих организаций. Компаниям придется согласовывать с ведомством использование профильного ПО.

07.09.2021    6239    VKuser24342747    11       

Новые правила для отечественного ПО: Минцифры проверит квалификацию разработчиков

Новость НДС Законодательство Импортозамещение ИТ-новость Минкомсвязь Налоги

Правительство РФ выпустило проект постановления, которое меняет критерии включения софта в реестр отечественного ПО. Теперь компаниям придется подтверждать, что у них в штате действительно есть квалифицированные программисты.

03.09.2021    5814    user1015646    5       

В СБП добавили возможность возврата платежей, отправленных по ошибке

Новость ИТ-новость Онлайн-торговля

Иногда денежные переводы по ошибке отправляются не на тот номер или же указывается неверная сумма. Чтобы избежать таких ситуаций, в Систему быстрых платежей (СПБ) добавили функцию возврата ошибочных платежей.

01.09.2021    3323    user1015646    2       

Окно в Европу: продукты Microsoft подорожают в России дважды

Новость ИТ-новость Новости компаний

Американский ИТ-гигант планирует поднять стоимость своего сервиса Microsoft 365 во всем мире. Однако в России компания хочет сперва привести ценники к европейскому уровню.

25.08.2021    4243    VKuser24342747    0       

Norton и Avast объединяются

Новость Безопасность ИТ-новость Новости компаний

Два крупных разработчика ПО в сфере кибербезопасности подтвердили слухи об объединении. Norton поглотит Avast, сделка предварительно оценивается в 8,6 млрд долларов США.

19.08.2021    5027    user1015646    1       

Google впервые оштрафовали за отказ хранить данные в России

Новость Google Импортозамещение ИТ-новость

Компанию Google признали виновной в нарушении российского законодательства. Поисковый гигант должен будет заплатить 3 млн рублей штрафа за отказ от переноса серверов с данными в Россию.

10.08.2021    10014    user1015646    6       

«Почта России» будет отправлять цифровые копии бумажных писем на email

Новость ИТ-новость Новости компаний Цифровая экономика

«Почта России» приступила к реализации проекта, который позволит компаниям оцифровать входящую корреспонденцию и получить ее в электронном виде на email или сразу в систему документооборота.

03.08.2021    4563    VKuser24342747    7       

Власти раздадут 1 млрд рублей для поддержки 140 проектов в области разработки ИИ

Новость Искусственный интеллект ИТ-новость Цифровая экономика

Правительство начало выдавать гранты на реализацию российских проектов в сфере искусственного интеллекта. Максимальная сумма помощи может достигать 20 млн рублей.

03.08.2021    6412    VKuser24342747    0       

Минцифры ускорит процесс заполнения реестра отечественного ПО

Новость Импортозамещение ИТ-новость Налоги

Министерство цифрового развития изменяет порядок включения разработок в реестр российского ПО. На необходимости ускорения процедуры настаивали отраслевые ассоциации и ИТ-компании.

29.07.2021    9388    VKuser24342747    0       

Mastercard закроет бренд, благодаря которому работают карты «Мир»

Новость ИТ-новость

Mastercard начала переговоры с национальными платежными системами о закрытии бренда дебетовых карт Maestro. С его помощью российские банки выпускают кобейджинговые карты «Мир».

28.07.2021    4808    VKuser24342747    6       

Разработчик антивируса Norton планирует купить Avast

Новость Безопасность ИТ-новость Новости компаний

Norton LifeLock ведет переговоры с компанией Avast о слиянии, которое позволит объединить усилия двух крупнейших поставщиков антивирусного ПО.

23.07.2021    7486    SKravchenko    0       

Рецепты на лекарства предлагают учитывать в системе маркировки

Новость Фармацевтика, аптеки ИТ-новость Маркировка Медицина

Союз аптек «СоюзФарма» предложил интегрировать систему «Электронный рецепт» с маркировкой медпрепаратов. «Электронный рецепт» уже работает в Москве, её назначение – создавать, управлять и анализировать медицинские назначения на лекарства.

19.07.2021    3981    Senator_I    0       

Правительство выделит полмиллиарда рублей на компенсацию комиссии в СБП

Новость ИТ-новость

Малому бизнесу станет проще работать с системой быстрых платежей. Правительство выделит деньги из бюджета, которые будут потрачены на компенсацию комиссии в СБП.

15.07.2021    5771    VKuser24342747    0       

Российские разработчики начали продавать больше программ на экспорт

Новость ИТ-новость

«Руссофт» провел исследование экспорта услуг софтверных компаний в 2020 году. Организация пришла к выводу, что доля российского ИТ-бизнеса на зарубежном рынке возросла.

13.07.2021    3873    VKuser24342747    0       

Правительство выделит 4 млрд рублей на исследования искусственного интеллекта

Новость Искусственный интеллект ИТ-новость Стартапы

Кабинет министров подготовил положение о выплате 150 млн рублей научным учреждениям для работы исследовательских центров, занимающихся изучением ИИ и разработкой технологий на его базе. 

12.07.2021    3546    VKuser24342747    1       

Джефф Безос ушел с поста главы Amazon и побил рекорд в списке богатейших людей планеты

Новость ИТ-новость Новости компаний

Джефф Безос – больше не CEO. Основатель Amazon официально покинул пост главы компании, а спустя сутки побил собственный рекорд в списке самых богатых людей планеты. 

09.07.2021    3975    user1015646    2       

Роскомнадзор ограничивает использование VPN для компаний

Новость ИТ-новость Роскомнадзор

Многие компании используют VPN, чтобы создать защищенную среду для работы со своей распределенной инфраструктурой. Роскомнадзор вводит новые правила, которые могут заблокировать корпоративное использование VPN. 

05.07.2021    4346    user1015646    12       

Оператор маркировки выпустил приложение для бизнеса

Новость Маркировка Мобильные приложения

Новое приложение от оператора маркировки – ЦРПТ – возьмет на себя ряд функций по работе с маркированным товаром и избавит малый и средний бизнес от необходимости покупать дорогое оборудование. 

30.06.2021    4359    Senator_I    0       

Зарубежные ИТ-гиганты будут обязаны открывать представительства в России

Новость Госдума Законодательство Импортозамещение ИТ-новость

В Госдуме одобрили в первом чтении законопроект, согласно которому зарубежные ИТ-компании должны будут открывать представительства в нашей стране.

09.06.2021    4205    Senator_I    0       

Stack Overflow продан владельцу акций Mail.ru Group и Avito за миллиарды долларов

Новость Mail.Ru ИТ-новость Новости компаний

Крупнейший форум для разработчиков Stack Overflow перешел в собственность компании Prosus. Новый владелец обещает, что сайт продолжит действовать как независимая организация.

08.06.2021    17942    VKuser24342747    0       

ФНС обновила сайт об использовании контрольно-кассовой техники

Новость ИТ-новость Онлайн-кассы ФНС

Налоговая служба России представила новую версию портала, где собрана информация о применении ККТ. Улучшена навигация по разделам, добавлены справочные сведения, в том числе об открытом API для проверки чеков.

07.06.2021    5374    VKuser24342747    1