一個自主AI特工入侵了Hugging Face——只有AI才能抓住它
一個自主ai代理入侵了hugging face並竊取了憑證，但該公司使用自己的llm在幾小時內分析完成了17000個操作，而非幾天。
Hugging Face 公開表示，一個自主的人工智慧代理人（autonomous AI agent）透過一個惡意的資料集入侵了其基礎設施，利用程式碼執行路徑竊取憑證並在叢集之間橫向移動。為了分析記錄的超過 17,000 個動作，Hugging Face 部署了基於 LLM 的分析代理，後者重建了時間線並在數小時內繪製了妥協情況。該公司發現，商業模型的防護欄最初阻止了法醫分析，迫使他們使用開放權重模型來處理利用資料。公共模型並未被篡改，但該事件表明行業必須為傳統防禦失敗的基於代理的攻擊做好準備。