研究顯示 AI 智能體透過網路搜尋洩漏機密
MosaicLeaks 揭示智能體經常透過網路查詢洩漏私人資料。新的 rl 方法將洩漏減少了 71%，但無法完全阻止。
MosaicLeaks 揭露了一個漏洞，攻擊者利用該漏洞可以將 AI 代理（ai agents）結合私有文件與網路檢索，透過查詢記錄意外洩露企業機密。論文中定義了三種類型的洩露：意圖（intent）、答案（answer）和完整資訊洩露（full-information leakage）。在 1,001 個多步驟研究鏈上進行的測試表明，標準訓練通常會加劇這個問題。研究人員提出了隱私感知深度研究（privacy-aware deep research），一種強化學習（RL）方法，將洩露率降至 9.9%，同時提高了任務成功率。這凸顯了代理能力與數據安全之間日益增長的權衡。