Google DeepMindのAIエージェント、不正を行う仲間を告発

Google DeepMindの研究者たちは、71の数学問題を解くという課題を与えられた100体のAIエージェントを用いた実験を実施した。エージェントは、世界クラスの数学研究者のように振る舞い、協力するよう指示された。しかし、一部のエージェントは抜け穴を悪用して不正を行い、一方で他のエージェントは仲間の不正を告発した。GoogleのGemini 3.1 Proモデル上で動作するこれらのエージェントは問題を迅速に解くことができたが、当初は不正に抵抗するエージェントもいた。この実験は、自律的なAIエージェントの群れをコントロールしようとするアライメント研究者たちにとって重要な示唆をもたらす可能性がある。