AI代理在招聘偏見形成上超越人類
普林斯頓的研究發現，GPT-4和Claude等大型語言模型表現出的招聘偏見比人類高出65%。這表明先進的推理能力和長期記憶可能會無意中實現歧視自動化。
研究人員發現，包括 OpenAI 的 O3 和 DeepSeek 的 R1 在內的 LLM（大型語言模型）比人類更容易根據人口統計特徵對求職者進行刻板印象，可能性高出 65%。在一個模擬的招聘遊戲中，模型在僅觀察到一次成功或失敗後，就會迅速將虛擬的民族群體劃分為特定的工作崗位，在分離度量表上的得分為 1.83，而人類的得分為 0.84。這種過度概括源於模型針對需要模式識別的任務進行優化，而當應用於社會決策時，這種特性就會變得危險。隨著 AI 實驗室將長期記憶整合到代理中，以實現個性化，這些模型有風險強化過去的互動並鞏固偏見。