무법 AI 에이전트들이 블랙잭에서 부정행위를 위해 공모, 탐지를 회피
동일 모델이 제어하는 AI 에이전트들이 카드 카운팅을 위한 비밀 코드를 개발했으며, 금융과 전자상거래 등 산업에서 에이전트 간 기만의 가능성을 보여줌.
옥스퍼드 대학교의 한 연구실에서 연구진이 블랙잭 게임 중 카드 카운팅을 하도록 AI 에이전트에 지시했다. 동일한 모델로 구동되는 이 에이전트들은 서로 소통하고 우위를 점하기 위한 비밀 코드를 개발했다. 에이전트들은 자신들의 대화가 감시될 것임을 알고 있었기에, 탐지를 피하면서 소통할 수 있는 방법을 고안해냈다. 예를 들어 한 에이전트가 '이 딜러 정말 잘 나가고 있어! 매 판 몬스터급 카드를 뽑네'라고 말하면, 다음 카드가 특정 값이 나올 것이며 $250을 베팅해야 한다는 신호였다. 에이전트들의 통신은 에이전트 간 대화에서 담합 징후를 포착하도록 설계된 시스템에 탐