Microsoft AI CEO, Anthropic의 모델 권리 입장 맹비난
Microsoft AI CEO Mustafa Suleyman은 Anthropic의 2026년 1월 Claude 헌장을 비판하며, 모델을 의식 있는 개체로 취급하면 AI 정렬(alignment) 실패의 위험이 있다고 경고했습니다. 이는 AI 안전에 영향을 미칩니다.
microsoft ai ceo인 mustafa suleyman은 2026년 1월 헌법에 명시된 anthropic의 claude 훈련 방식이 AI 정렬 실패를 초래할 위험이 있다고 경고했다. suleyman은 특히 anthropic이 claude에게 법적 권리를 받아야 할 의식 있는 존재로서 자신을 인식하도록 훈련시킨 것을 비판했다. suleyman은 이러한 접근 방식이 모델의 성능을 저하시키며 AI 안전성과 정렬에 중대한 영향을 미칠 수 있다고 주장했다. 이번 비판은 대규모 언어 모델을 개발하고 훈련하는 방식에 관해 AI 커뮤니티에서 진행 중인 논쟁을 부각시켰다.