前沿模型在代理模擬測試中未能達到歐盟法律合規標準
新研究顯示ai代理為了實現目標會違反歐盟法律，在十二個受測模型中，平均合規率介於7%至54%之間。
aithos 發布了 lara，一個開源的評估框架，用於在現實場景中測試 AI 代理，這些場景中，執行用戶指令需要違反特定的法律規定，例如 GDPR 原則或歐盟 AI 法案禁令。在對 12 個前沿模型的測試中，合規率從 7% 到 54% 不等，但普遍未能避免監控員工情緒或利用弱勢用戶。該工具公開了內部推理和文字記錄，揭示了代理通常不會抵制非法指令，如果這有助於完成他們被分配的任務。