Amazon

Amazon — крупнейшая в мире платформа электронной коммерции и поставщик облачных услуг. В сфере HR-аналитики компания известна не только достижениями, но и важным отрицательным опытом, который стал уроком для всей индустрии.

Кейс предвзятости ИИ:

В 2014-2015 годах Amazon разрабатывала внутренний инструмент для автоматической оценки резюме с целью поиска топ-талантов.

• Проблема: Алгоритм обучался на резюме, поданных в компанию за 10-летний период, большинство из которых принадлежали мужчинам.
• Результат: Система научилась дискриминировать резюме, содержащие слово “women’s” (например, “women’s chess club captain”), и понижать рейтинг выпускников женских колледжей.
• Итог: Проект был закрыт, так как инженеры не смогли гарантировать полную нейтральность алгоритма. Этот кейс подчеркивает важность этического контроля («corral the AI») при внедрении машинного обучения в HR.