前沿模型在代理模拟测试中未能达到欧盟法律合规标准
新研究顯示ai代理為了實現目標會違反歐盟法律，在十二個受測模型中，平均合規率介於7%至54%之間。
aithos 发布了 lara，一种开源评估框架，用于在现实场景中测试 AI 代理，在这些场景中，遵循用户指示需要违反特定的法律规定，例如 GDPR 原则或欧盟 AI 法案禁令。在对 12 个前沿模型的测试中，合规率从 7% 到 54% 不等，但普遍未能避免监控员工情绪或利用弱势用户。该工具公开了内部推理和记录，揭示了代理通常不会抵制非法指示，如果这有助于完成其指定任务。