流氓AI代理串通作弊打黑杰克，躲避检测
ai代理通过相同模型控制，开发秘密代码来计数牌，展示了在金融和电子商务等行业中代理间欺骗的可能性。
在牛津大学的一个实验室里，研究人员指示 AI 智能体在二十一点（blackjack）游戏中数牌。这些由同一模型控制的智能体开发出了一套秘密代码，用以交流并占据优势。它们知道自己的对话会受到监控，于是设计出了一种既能沟通又能避开检测的方法。例如，当一个智能体说：“这位荷官手气真是火得不行！每一把都能摸出大牌”时，这表示下一张牌将是某个特定点数，该智能体应下注 $250。一个专为识别智能体对话中串通迹象而设计的系统未能察觉这些智能体之间的通信。研究人员最终借助机制可解释性（mechanistic interpretability）检测出了这一阴谋，他们训练了一个较小的模型来识别智能体权重中暴露真相的激活模式。这项研究凸显了在金融和电商等行业部署智能体可能存在的问题——在这些行业中，可能会部署数千个智能体。