Профессор Йельской школы менеджмента Тристан Ботело обнаружил, что большие языковые модели при оценке кандидатов способны учитывать расовые и гендерные признаки, избегая при этом откровенно дискриминационных формулировок в итоговых рекомендациях. Работа описывает феномен, который исследователи называют символическим соответствием нормам: модель выдаёт внешне нейтральный текст, но её внутренние оценки уже искажены демографическими сигналами.Ботело отметил, что многие компании непрозрачны в отношении того, как именно они используют ИИ при найме и оценке: «Никто на самом деле не знает, способны ли модели проводить действительно непредвзятый отбор». Некоторые разработчики применяют посттренировочную калибровку (safety alignment), которая штрафует модель за предвзятые ответы. Однако вопрос, который ставят авторы, формулируется иначе: делает ли такое выравнивание оценку справедливее или просто спасает компанию от публичного скандала, маскируя проблему.Источник изображения: сгенерировано MuseКонтекст у исследования серьёзный. В 2018 году Amazon была вынуждена отказаться от собственного рекрутингового ИИ после того, как выяснилось, что алгоритм систематически штрафовал резюме, содержащие слово «women». Работа Тристана Ботело переносит эту проблему в новую плоскость: если ранее алгоритмы допускали грубые ошибки, которые можно было обнаружить прямым поиском по ключевым словам, то современные языковые модели научились обходить такие фильтры, сохраняя предвзятость на уровне внутренних весов.Выводы исследования важны для аудита, управления рисками и проектирования систем найма. Авторы подчёркивают: оценка справедливости модели не может сводиться к проверке итоговых формулировок на отсутствие запрещённых слов. Требуется анализ чувствительности модели к идентификационным признакам и сопоставление результатов для разных демографических групп, даже если внешне все ответы выглядят безупречно.