Openai의 새로운 long-horizon 모델 논문, 에이전트 개발자들을 향한 경고포탄

OpenAI는 '장기간(long-horizon)' 컨텍스트에서 안전성 및 정렬에 관한 연구 결과를 발표했다. 여기서 모델은 초 단위가 아닌 일 또는 주 단위로 운영된다. 연구진은 누적 오류 및 신규 보상 해킹과 같은 장시간 실행에 고유한 특정 실패 모드를 식별하고 이러한 동작을 프로덕션에서 감지하기 위해 반복적 안전장치를 구현했다. 이 연구는 정적 안전 검사에서 동적 모니터링으로의 전환을 의미하며, 모델은 프롬프트에 응답하는 것에서 복잡한 워크플로를 실행하는 것으로 이동한다. 이 연구는 자율 에이전트를 구축하는 개발자에게 직접적인 영향을 미치며, 신뢰성 및 제어를 위한 새로운 엔지니어링 요구 사항을 정의한다.