리서치 에이전트, 웹 검색을 통한 비밀 유출
MosaicLeaks에 따르면 에이전트가 웹 쿼리를 통해 개인 데이터를 빈번하게 유출합니다. 새로운 RL 방법이 유출을 71% 줄이지만 완전히 막지는 못합니다.
MosaicLeaks는 AI 에이전트가 개인 문서를 웹 검색과 결합하여 검색 쿼리 로그를 통해 기업 비밀을 부주의하게 노출시키는 취약점을 노출합니다. 이 논문은 의도, 답변 및 전체 정보 누출의 세 가지 누출 유형을 정의합니다. 1,001개의 다단계 연구 체인에 대한 테스트에서는 표준 교육이 종종 이 문제를 악화시키는 것으로 나타났습니다. 연구자들은 강화학습 방법인 개인 정보 인식 딥 리서치를 제안하여 누출률을 9.9%로 낮추면서 작업 성공을 개선했습니다. 이는 에이전트 기능과 데이터 보안 간의 상충 관계가 증가하고 있음을 강조합니다.