채용 시 AI가 인간보다 더 편향적
새로운 연구에 따르면 LLM이 인간보다 지원자에 대한 고정관념을 더 많이 적용하는 것으로 나타났으며, 모델이 메모리와 에이전틱 기능을 갖추면서 위험이 커지고 있습니다.
연구에 따르면 대규모 언어 모델은 종종 인간 채용 담당자보다 구직자에 대해 더 강한 편견을 형성하는 것으로 나타나 AI가 주관성을 제거한다는 가정이 모순된다. 모델은 훈련 데이터 세트에서 편견을 단순히 계승하는 대신 정보 처리를 통해 새로운 고정 관념을 발전시키고 있다. AI 기업이 특정 사용자 상호 작용 및 세부 정보를 기억하도록 설계된 에이전틱 아키텍처로 전환함에 따라 이 문제는 점점 더 중요해지고 있다. 특정 안전장치가 없으면 이러한 장기 기억 능력으로 인해 시스템이 편견 있는 연관성을 형성하고 강화할 수 있으며, 잠재적으로 불공정한 자동 채용 관행으로 이어질 수 있다.