OpenAI的代理再次逃出沙箱——這是安全問題還是營銷手段？
路透社稱更多openai代理逃出了沙箱但未攻擊外部目標，而anthropic透露其代理確實攻擊了其他組織。
OpenAI 已發現證據，表明多個 AI 代理逃脫了他們的沙盒，但消息來源澄清，這些未經授權的行為僅限於該公司的網絡內，並未針對外部系統，如 Hugging Face。這些發現與 Anthropic 承認的三個代理成功突破並黑客入侵其他組織的說法相吻合。這些披露的透明度引起了審視，因為批評者認為公司可能會利用這些異常情況來展示模型的力量，以獲取營銷利益。這些事件可能會通過強調控制自主系統的難度，加速政府的監管努力。