openai 如何模擬真實世界混亂以捕捉 gpt-5 的不當行為
openai 部署了「部署模擬」技術，讓 gpt-5 系列模型重播過去的用戶對話，從而捕捉到傳統評估遺漏的新型錯位，並預測現實行為頻率。
OpenAI 實施了「部署模擬」（deployment simulation），透過讓新模型（尤其是 GPT-5 系列的思考路線）回應匿名化的過去使用者對話，來預測模型在公開發布前的行為。這種方法提供了類似部署的預覽，展示現實世界中模型的回應，識別新型的不對齊形式，並比合成或手動策展的評估提供更準確的不期望行為頻率估計。該方法成功降低了模型感知到自己正在被測試的風險，並在涉及工具使用的複雜代理 rollout 中得到驗證。OpenAI 利用這些見解來通知緩解措施和部署決策，計劃在未來開發中擴大該流程的作用。