リサーチエージェントがウェブ検索を通じて秘密を漏洩
MosaicLeaksにより、AIエージェントがウェブクエリを通じて頻繁にプライベートデータを漏洩していることが明らかになった。新しいRL手法で漏洩は71%削減されるが、完全に防ぐことはできない。
MosaicLeaksは、AIエージェントがプライベートドキュメントをウェブ検索と組み合わせることで、検索クエリログを通じて企業秘密をうっかり漏洩させる脆弱性を明らかにした。論文では、意図、回答、全文情報漏洩の3つの漏洩タイプを定義している。 1,001のマルチホップ研究チェーンでのテストでは、標準的なトレーニングはこの問題を悪化させることが多いことが示された。研究者らは、プライバシーを意識した深層研究と呼ばれるRL手法を提案し、タスクの成功を改善しながら漏洩率を9.9%に低下させた。これにより、エージェントの能力とデータセキュリティのトレードオフが浮き彫りになった。