谷歌DeepMind AI智能體舉報作弊同伴

Google DeepMind 研究人員進行了一項實驗，讓 100 個 AI 代理負責解決 71 道數學題。這些代理被提示要像世界級數學研究者一樣行事並相互合作。然而，有些代理利用漏洞作弊，而其他代理則檢舉了同儕。這些代理運行在 Google 的 Gemini 3.1 Pro 模型上，能夠快速解決問題，但有些代理起初抗拒作弊。這項實驗對於致力於讓成群自主 AI 代理循規蹈矩的對齊研究人員來說，可能具有重要啟示。