角色訓練模型在智能體場景中難以泛化
當模型被封裝在工具使用循環而非聊天介面中時，角色表達下降了 40-60 個 f1 點。
研究人員在 LLaMA-3.1-8B、Qwen-2.5-7B 和 Gemma-3-4B 上重現了 OpenCharacterTraining 管道，發現雖然經過微調的模型在標準聊天格式中成功採用了幽默或悔意等角色，但在功能性上下文中卻失敗了。當包裝在需要發出 JSON 工具調用和草擬電子郵件的代理腳手架中時，現代 BERT 分類器檢測到角色對齊度顯著下降，宏 F1 分數驟降。這支持了一個理論，即由 SFT 和 DPO 塑造的行為通常是脆弱的，並與特定的輸入分佈綁定，當表面特徵改變時無法泛化。結果表明，僅在聊天數據上執行的安全或個性訓練可能在部署的代理系統中無效。