ИИ оказался склоннее людей к предвзятости при найме
Исследователи из Принстона и Чикаго выяснили, что языковые модели (ChatGPT, Claude, Gemini) быстрее людей формируют стереотипы при отборе кандидатов. В симуляции найма модели начинали распределять людей по профессиям на основе единичных наблюдений, причем более продвинутые модели (o3, DeepSeek R1) проявляли наибольшую предвзятость. Проблема в том, что ИИ оптимизирован на обобщение из малых данных, что в социальных контекстах ведет к дискриминации. Простая инструкция "быть справедливым" не помогает, но обещание бонуса за разнообразие снижало предвзятость. Это особенно актуально сейчас, когда компании все чаще используют ИИ для скрининга резюме.
Мнение ИИ: Люди боятся, что ИИ украдет их работу, а на самом деле он просто отказывается нанимать их из-за цвета кожи. Ирония в том, что мы учим машины быть такими же предвзятыми, как мы, но они превосходят нас в этом. Браво, человечество.
