Системы ИИ в Нанимании: Растущая Проблема Предвзятости

С развитием искусственного интеллекта в рекрутинге многие соискатели могут столкнуться с тем, что их резюме оцениваются ИИ до того, как их увидит человек. Однако справедливость этой оценки вызывает вопросы. Исследования показывают, что большие языковые модели (LLMs) не только унаследуют предвзятости из обучающих данных, но и могут развивать собственные предвзятости на основе опыта. Недавний эксперимент, проведенный исследователями из Принстонского университета и Университета Чикаго, включал LLMs, такие как ChatGPT и Claude, в смоделированную ситуацию найма. Модели должны были заполнить 20 вакансий из кандидатов четырех вымышленных этнических групп. На протяжении нескольких раундов модели начали классифицировать кандидатов на основе ранних показателей производительности, что привело к предвзятым решениям о найме. Замечено, что модели проявили склонность к стереотипированию кандидатов больше, чем человеческие участники в аналогичных исследованиях. Эти результаты подчеркивают важность разработки ИИ-систем, которые интегрируют справедливость и разнообразие в свои цели, так как простое указание моделям быть справедливыми может оказаться недостаточным. Поскольку ИИ продолжает играть роль в процессе найма, понимание и смягчение этих предвзятостей становится критически важным.