Amazon создала робота для отбора кадров. Он оказался сексистом

Экспериментальное программное обеспечение, которое Amazon разработал для подбора кадров, систематически отсеивало кандидатов женского пола, поэтому компания от него отказалась. Об этом сообщает Reuters со ссылкой на анонимные источники. Amazon попытался переучить своего робота, но не смог и в начале прошлого года распустил команду, которая над ним работала.

Детали

• Команда начала разрабатывать софт в 2014 году. Конечная цель была в механизации процесса просмотра резюме и поиске лучших кандидатов.
• Экспериментальная технология оценивала кандидатов и присваивала им от одной до пяти звезд — так же как покупатели оценивают продукты на Amazon, говорят источники Reuters. «Все хотели этот святой Грааль, — сказал один из них. — Они буквально хотели, чтобы это был автомат, куда загружаешь 100 резюме, а он выплевывает пять, и мы их нанимаем».
• Но к 2015 году компания осознала, что ее новая система не оценивает кандидатов на должности разработчиков программного обеспечения и других технических должностей гендерно-нейтральным образом. Это связано с тем, что компьютерные модели Amazon были обучены проверять кандидатов, ориентируясь на 10-летний опыт компании в отборе. Загвоздка была в том, что большинство кандидатов прошлых лет были мужчинами, что вполне отражало мужское доминирование в технологической отрасли. Из-за этого система Amazon сама для себя выработала алгоритм, предпочитающий кандидатов-мужчин. Она также автоматически отвергала резюме, где вообще фигурировало слово «женский», например, в словосочетании «капитан женского шахматного клуба».
• Amazon пытался скорректировать данную особенность программы, но внесенные изменения не были гарантией того, что алгоритм не придумает новый способ дискриминации, признается один из собеседников агентства. По его же словам, Amazon отчаялась доработать алгоритм и в итоге распустила команду разработчиков. Сама компания от комментариев отказалась.
• Опыт Amazon может стать важным уроком для растущего списка крупных компаний, включая Hilton и Goldman Sachs, которые стремятся автоматизировать процесс найма. По данным опроса, проведенного в 2017 году фирмой CareerBuilder в области рекрутинга, около 55% менеджеров по персоналу США заявили, что искусственный интеллект станет частью их рабочей рутины в течение следующих пяти лет. Однако опыт Amazon и опрошенные Reuters эксперты доказывают, что до этого еще очень далеко.

Истоки интернет-мачизма

• Эксперимент Amazon начался в решающий момент для крупнейшего в мире интернет-магазина. Машинное обучение набирало обороты благодаря росту недорогой вычислительной мощности. И отдел по работе с персоналом Amazon собирался начать играть по-крупному: с июня 2015 года численность персонала компании выросла более чем в три раза, до 575 700 человек.
• Так в Эдинбургском инженерном центре Amazon появилась команда, которая позднее разрослась до десятка человек. Ее цель состояла в том, чтобы разработать ИИ, который мог бы быстро просканировать весь интернет и выявить подходящих кандидатов для рекрутинга.
• Группа создала 500 программных прототипов, ориентированных на конкретные функции работы и местоположение потенциальных кандидатов. Они научили каждую систему понимать около 50 000 терминов, которые появились в резюме кандидатов прошлых лет. Однако что-то пошло не так и алгоритмы перестали уделять внимание ключевым навыкам в работе IT-специалистов. Вместо этого технология отдавала предпочтение кандидатам, которые описывали себя, используя глаголы, чаще встречающиеся в резюме кандидатов-мужчин.
• Гендерная предвзятость была не единственной проблемой: неквалифицированные кандидаты часто рекомендовались для всех типов работы. Технология отбирала кандидатов практически случайным образом, говорят собеседники Reuters.

Контекст

• История Amazon не является уникальной. Другие компании также развивают подобные технологии. Кевин Паркер, исполнительный директор стартапа HireVue, сказал, что автоматизация помогает фирмам выходить за рамки привычных рекрутинговых технологий, которые давно признаются субъективными. HireVue анализирует речь и выражение лица кандидатов в видеоинтервью, чтобы снизить зависимость компаний от удачно оформленного резюме. Goldman Sachs, к примеру, создал свою собственную систему анализа резюме, которая сопоставляет резюме кандидата и желаемую вакансию на предмет адекватности пожеланий соискателя.
• LinkedIn продвинулась дальше. Соцсеть предлагает работодателям алгоритмическое ранжирование кандидатов на основе их пригодности для публикации вакансий на своем сайте. Тем не менее Джон Джерсин, вице-президент LinkedIn Talent Solutions, сказал, что это не замена для традиционных рекрутеров. «Технология несовершенна. Я не буду доверять ни одной системе искусственного интеллекта сегодня, чтобы принять решение о найме сотрудника», — сказал он.
• Что до Amazon, то компании удалось спасти часть того, что она узнала из своего неудачного эксперимента AI. В настоящее время она использует упрощенное ПО для рекрутинга, которое может выполнять элементарные задачи вроде отбора резюме, отправленных несколько раз, говорит источник агентства. По данным другого источника, Amazon уже собрал новую команду, чтобы доработать программу.

Егор Сонин