AI 모델의 내부 패턴이 뚜렷한 추론 단계를 드러내다
연구진은 AI 모델이 작성한 추론 단계가 별개의 내부 패턴과 일치하며, 이것이 AI 안전성과 감독에 영향을 미친다는 사실을 발견했습니다.
KAIST와 네이버 AI 랩의 연구진이 AI 모델의 내부 표현이 작성된 추론 단계와 어떻게 대응하는지를 연구했습니다. 연구진은 여덟 가지 반복적으로 나타나는 추론 연산을 정의하고 세 가지 모델로 하여금 수학 문제를 풀게 한 뒤, GPT-5를 사용해 각 구간을 해당 연산 중 하나로 라벨링했습니다. 연구 결과, 서로 다른 추론 연산들이 모델의 내부 표현에서 신뢰성 있게 구별될 수 있으며, 가장 뚜렷한 신호는 중간 층에서 나타나는 것으로 밝혀졌습니다. 이 결과는 Qwen2.5-7B, Qwen3-8B, Gemma4-31B를 포함해 테스트된 세 가지 모델 모두에서 일관되게 유지되었습니다. 이러한 발견은 모델의 사고 과정(chain of thought)을 읽는 것이 의사결정을 이해하는 데 유용한 도구가 될 수 있음을 시사하는 등 AI 안전성에 시사점을 제공하지만, 동시에 현재의 감독 방법이 지닌 한계도 부각시킵니다.