Google Deepmind、不透明な思考の連鎖によりAIの透明性が失われつつあると警告
AIモデルの可視化された思考の連鎖は安全性の面で利点となるが、その透明性は低下しており、モデルの推論を監視することがますます難しくなっている。
Google DeepMindの研究者であるRohin Shah氏とAnca Dragan氏は、AIモデルの思考の連鎖（Chain of Thought）の透明性が低下していると警告しています。現在、Gemini 3 Proなどのモデルは中間ステップを平易な言葉で書き出すため、研究者はその推論をモニタリングできます。しかし、OpenAIのGPT-6 Astraのシステムカードでは、思考の連鎖のモニタリングが大幅に減少したと報告されています。Shah氏とDragan氏は、思考の連鎖の透明性を定期的に測定すること、透明なアーキテクチャを維持すること、そしてモデルが真の推論を隠さないように慎重なトレーニングを行うことを提案しています。この問題はAIモデルの安全性と制御に影響を与えます。