谷歌DeepMind警告AI透明度正在下降，思維鏈變得不透明
ai模型的可见思維鏈是一種安全優勢，但這種透明度正在降低，使得模型推理難以監控。
Google DeepMind 研究人員 Rohin Shah 和 Anca Dragan 警告，AI 模型的思維鏈透明度正在下降。目前，像 Gemini 3 Pro 這樣的模型會以淺顯的語言寫出其中間步驟，讓研究人員能夠監控其推理過程。然而，OpenAI 針對 GPT-6 Astra 的系統卡片報告顯示，思維鏈監控的可用性大幅下降。Shah 和 Dragan 建議定期測量思維鏈透明度、保持透明的架構，並進行謹慎的訓練，以防止模型隱藏其真實的推理過程。這個問題影響 AI 模型的安全性與可控性。