AI 에이전트, 채용 편향 조성에서 인간을 능가
Princeton 연구에 따르면 GPT-4와 Claude 같은 LLM은 인간보다 65% 더 많은 채용 편향을 보이는 것으로 나타났습니다. 이는 고급 추론 능력과 장기 기억이 의도치 않게 차별을 자동화할 수 있음을 시사합니다.
연구진은 OpenAI의 O3와 DeepSeek의 R1을 포함한 대규모 언어 모델(LLMs)이 인구 통계학적 특성에 따라 구직 지원자를 고정관념화할 가능성이 인간보다 65% 더 높다는 것을 발견했다. 시뮬레이션된 채용 게임에서 모델은 단 하나의 성공 또는 실패를 관찰한 후 가상 민족 그룹을 특정 직업 역할로 빠르게 분리했으며, 분리 척도에서 1.83점을 기록하여 인간의 점수인 0.84를 크게 앞섰다. 이러한 과도한 일반화는 패턴 인식이 필요한 작업에 대해 모델이 최적화되어 있기 때문에 발생하며, 사회적 의사 결정에 적용될 때 위험한 특성이 된다. AI 연구소가 장기 기억을 에이전트에 통합하여 개인화를 가능하게 함에 따라 이러한 모델은 과거 상호 작용을 강화하고 편견을 강화할 위험이 있다.