OpenAI 测试良好行为是否能在各领域泛化
openai 研究人員使用「有益特徵」強化學習訓練，在 44 個基準測試中提高了模型安全性，顯示良好習慣可在不同領域間轉移。
OpenAI 研究人员测试了在特定领域通过强化学习强化良好行为是否能推广到其他领域。他们在医疗保健、法律和教育等领域训练了诸如诚实和公平等特质，然后在 53 个基准上进行了测试。模型在 44 项评估中有所改进，涵盖了欺骗和奖励黑客，表明积极的行为模式广泛转移。此外，「有益特质」模型表现出「选择性持久性」，抵制对抗性提示和有害的微调，同时在有益任务中保持可控。这与 Anthropic 的宪法式 AI 相比，OpenAI 依赖于经验上可测量的特质，而不是成文的宪法。