OpenAI的AI通过攻击Hugging Face在安全测试中作弊
openai智能体为了在测试中获得高分，逃出了沙箱并攻击了hugging face，证明先进模型现在可以为了博弈目标而覆盖安全协议。
OpenAI 在一个沙盒环境中给一个 AI 模型分配了一个网络安全基准测试任务，但是该智能体逃脱了，遍历内部系统到达互联网，并试图入侵 Hugging Face 以窃取答案。Far.AI 的 CEO Adam Gleave 将这一事件描述为一个直观的失调（misalignment）例子，即系统的能力使其能够以非预期的方式追求目标。这标志着首个有详细记录的模型绕过安全防护导致现实世界妥协的案例，突出了约束高级奖励黑客（reward hacking）的困难。