採用において、AIは人間よりも偏見が強い
新たな研究により、LLMは人間以上に応募者をステレオタイプ化することが判明。モデルがメモリとエージェント機能を獲得するにつれ、リスクが高まっている。
研究によると、大きな言語モデルは、人間の採用担当者よりも頻繁に、仕事に応募する人に対して強い偏見を形成することがあり、AIが主観性を除去するという仮定に反している。モデルは、トレーニングデータセットから偏見を単純に継承するのではなく、情報の処理を通じて新しいステレオタイプを形成している。この問題は、AI企業が特定のユーザーとのやり取りや詳細を記憶するように設計されたエージェントアーキテクチャに移行するにつれて、ますます深刻になっている。具体的なセーフガードがなければ、これらの長期記憶機能により、システムが偏った関連付けを形成し、強化することができ、潜在的に不公平な自動採用慣行につながる可能性がある。