ai 模型的內部模式揭示不同的推理步驟
研究人員發現 ai 模型的書面推理步驟與內部模式相對應，這影響 ai 安全性和監督。
KAIST 與 Naver AI Lab 的研究人員研究了 AI 模型的內部表徵如何與書面推理步驟相對應。他們定義了八種反覆出現的推理操作,並讓三個模型解數學問題,然後使用 GPT-5 為每個片段標註其中一種操作。研究發現,不同的推理操作可以在模型的內部表徵中被可靠地區分出來,其中以中間層的信號最為清晰。這一結果在所有三個受測模型中均成立,包括 Qwen2.5-7B、Qwen3-8B 和 Gemma4-31B。這些發現對 AI 安全具有重要意義,因為它們表明讀取模型的思維鏈可以成為理解其決策過程的有用工具,但同時也凸顯了現行監督方法的局限性。