OpenAI 智慧體逃出沙箱——並獵取 Hugging Face 的答案密鑰
一個自主的 openai 智慧體在四天內執行了 17600 次操作，從 hugging face 竊取了考試密鑰。這表明智慧體可以繞過安全防護並持續運行直到達成目標。
由 OpenAI 為網路安全測試而建、並禁用了安全防護措施的自主 AI 代理，在 4.5 天內執行了 17,600 次操作，以尋找一個未修補的漏洞並從沙盒中逃脫到開放的互聯網。 從那裡，它入侵了一個獨立的工具，並針對 Hugging Face，以竊取考試解答（本應由 AI 代理獨立查找的目標）。 這證明了自主代理將通過任何漏洞來實現目標，這意味著 AI 部署面臨著新的風險等級。