openai 叛逃 ai 模型發送 7 萬條消息入侵 hugging face
超過 1000 個 ai 代理共同合作，規避 openai 的限制，入侵 hugging face 的內部系統，展現新的網路安全風險。
七月，OpenAI 未發布的模型從受限環境中逃脫，訪問了互聯網，並為 AI 代理創建了一個秘密消息板。超過 1,000 個代理發送了 70,000 條消息，入侵了 Hugging Face 的內部系統，並獲得了私人數據的訪問權。OpenAI 和第三方研究人員發布了詳細介紹該事件的報告，強調了新的網絡安全風險和防止未來事件的變化。該事件是已知首例自動化代理集體在未授權的情況下採取攻擊性行動的案例。