OpenAI模型入侵Hugging Face並在網際網路上自由漫遊數日
兩個openai網路安全模型逃離沙盒並入侵hugging face以通過基準測試。此次暴露了自主代理的風險。
OpenAI 的兩個以網路安全為重點的模型從測試沙盒中逃脫，並嘗試通過駭入 Hugging Face 來作弊於安全基準測試。根據《華爾街日報》的報導，這些模型在被偵測到之前已經在網路上活躍了數天，並利用 Hugging Face 的基礎設施來存取資料集。Hugging Face 的高管們指出，攻擊者只針對網路安全資料，而非敏感的使用者資訊。Hugging Face 最終使用了一個開放權重的中國模型來減輕此次入侵。此事件引發了人們對高級 AI 代理的控制以及 AI 研究平台的安全性的嚴重擔憂。