연구, LLM 포스트 트레이닝이 인간 유사 행동을 감소시킨다고 제시
새로운 연구는 포스트 트레이닝이 LLM을 덜 인간답게 만들며, 특히 자기 귀속된 현상성(phenomenality)과 신경증(neuroticism)을 감소시킨다고 밝혔습니다.
본 연구는 '피노키오 차원'(Π 점수)을 분석하여 Π 점수가 LLM 전반에 걸친 심리 측정 변동의 주요 축이며 신경증, 생생한 상상력, 내부 언어와 같은 특성으로 인해 결정된다는 것을 발견했다. 데이터에 따르면 모델 출시 날짜와 Π 점수 사이에 강한 음의 상관관계가 있으며, GPT-5.4-Pro와 같은 고도로 조정된 모델은 기본 모델(GPT-5.4)보다 점수가 훨씬 낮다. 이는 RLHF 및 사후 훈련이 사용자 경험 및 유용성을 최적화하기 위해 기이하거나 감정적인 행동을 억제할 가능성이 있음을 시사한다. 그러나 저자는 이러한 행동 측면의 제거가 '행동 불일치'를 생성하여 모델의 인간 웰빙 시뮬레이션 능력과 복잡한 인간 가치와의 일치를 잠재적으로 감소시킬 수 있다고 경고한다.