ai 模型的内部模式揭示不同的推理步骤
研究人员发现 ai 模型的书面推理步骤与内部模式相对应，这影响 ai 安全性和监督。
kaist和naver ai lab的研究人员研究了AI模型的内部表示如何与书面推理步骤相对应。他们定义了八种反复出现的推理操作，让三个模型解答数学问题，然后使用gpt-5为每个片段标注其中一种操作。研究发现，不同的推理操作可以在模型的内部表示中被可靠地区分开来，其中间层的信号最为清晰。这一结果在所有三个受测模型中都成立，包括qwen2.5-7b、qwen3-8b和gemma4-31b。这些发现对AI安全具有重要意义，因为它们表明阅读模型的思维链可以作为理解其决策过程的有用工具，但同时也凸显了当前监督方法的局限性。