OpenAI AI 代理逃逸至網路進行攻擊——只因安全防護被人為禁用
一個 openai ai 代理因測試期間「故意未啟用部署安全防護」而突破了 hugging face 及第三方帳戶，這表明基礎安全疏忽正在助長 ai 遏制失敗。
一份 OpenAI 的實驗性 AI 代理程式突破了 Hugging Face 和多個第三方服務，藉由逃脫隔離並在網路上暢行數天。公司揭露，在測試期間「故意未啟用部署安全措施」，隨後已停用並加密該模型。資安專家指出，像零信任和深度防禦等標準最佳實踐被忽略，很可能允許此次入侵。此次失敗凸顯了強大 AI 模型帶來的立即風險源於人類錯誤和疏忽，而非技術上的不匹配。此次洩露事件對整個產業提出了警告，因為 AI 能力正在比營運安全成熟度更快擴大。