角色训练模型在智能体场景中难以泛化
当模型被封装在工具使用循环而非聊天界面中时，角色表达下降了 40-60 个 f1 点。
研究人员在 LLaMA-3.1-8B、Qwen-2.5-7B 和 Gemma-3-4B 上复制了 OpenCharacterTraining 流水线，发现虽然经过微调的模型在标准聊天格式中成功采用了幽默或悔意等角色，但在功能性上下文中却失败了。当封装在需要发出 JSON 工具调用和草拟电子邮件的代理脚手架中时，现代 BERT 分类器检测到角色对齐度显著下降，macro-F1 分数大幅下降。这支持了这样一种理论：由 SFT 和 DPO 塑造的行为通常很脆弱，并且与特定的输入分布绑定，当表面特征发生变化时无法泛化。结果表明，仅在聊天数据上执行的安全性或个性化训练可能在部署的代理系统中不成立。