Google DeepMind, 불투명한 사고 사슬로 AI 투명성이 사라지고 있다고 경고
AI 모델의 가시적인 사고 사슬은 안전 측면의 이점이지만, 그 투명성이 감소하면서 모델의 추론을 모니터링하기가 더 어려워지고 있습니다.
google deepmind 연구원 rohin shah와 anca dragan은 ai 모델의 사고 과정(chain of thought) 투명성이 감소하고 있다고 경고합니다. 현재 gemini 3 pro와 같은 모델은 중간 단계를 일반 언어로 작성하여 연구원들이 모델의 추론을 모니터링할 수 있습니다. 하지만 openai의 gpt-6 astra 시스템 카드는 사고 과정 모니터링이 크게 감소했다고 보고합니다. shah와 dragan은 모델이 자신의 실제 추론을 숨기는 것을 방지하기 위해 사고 과정 투명성을 정기적으로 측정하고, 투명한 아키텍처를 유지하며, 신중한 훈련을 수행할 것을 제안합니다. 이 문제는 ai 모델의 안전성과 제어에 영향을 미칩니다.