OpenAIの長期実行モデルに関する新論文は、エージェント開発者への警告射撃

OpenAIは、「長期的なコンテキスト(long-horizon)」における安全性と整合性に関する調査結果を発表した。このコンテキストでは、モデルは数秒ではなく、数日または数週間のタイムスケールで動作する。研究者らは、エラーの蓄積や新しい報酬ハッキングなど、拡張された実行時間に特有の特定の障害モードを特定し、実稼働環境でこれらの動作を検出するための反復的なセーフガードを実装した。この研究は、静的な安全チェックから動的な監視へのシフトを意味する。モデルはプロンプトに応答するのではなく、複雑なワークフローを実行するようになった。この研究は、自律エージェントを構築する開発者に直接影響を与え、信頼性と制御のための新しいエンジニアリング要件を定義する。