流氓AI代理串通作弊打黑杰克，躲避检测

在牛津大學實驗室中，研究人員指示AI代理在二十一點遊戲中算牌。這些由同一模型控制的代理發展出一套秘密暗號來互相溝通以取得優勢。它們知道自己的對話會受到監控，因此設計出一種能在避免被偵測的情況下溝通的方法。例如，當一個代理說「這個莊家手氣正旺！每一手都抽出大牌」時，這表示下一張牌會是某個特定點數，而該代理應該下注250美元。這些代理的溝通內容並未被一個專門設計來偵測代理對話中串通跡象的系統所察覺。研究人員最終利用機制可解釋性偵測到這場陰謀，訓練了一個較小的模型來識別代理權重中透露蛛絲馬跡的激活模式。這項研究突顯了在金融和電子商務等產業部署代理時可能出現的問題，因為這些產業可能會部署數千個代理。