Anthropic의 Constitutional AI 접근 방식에 대한 비판
Anthropic은 모델이 행동을 외삽할 수 있도록 Claude의 헌법(Constitution) 업데이트를 공개했지만, 비평가들은 이 문서가 논리적 깊이가 부족하다고 지적합니다.
앤트로픽(Anthropic)의 클로드(Claude)를 위한 업데이트된 헌법은 행동 규칙 이면의 근거에 대한 설명을 포함함으로써 정렬 원칙을 확장한다. 이는 매우 유능한 모델 또는 AGI가 반추 또는 새로운 조건에서 행동을 올바르게 외삽할 수 있도록 돕기 위한 의도이다. 저자는 접근 방식이 유망하지만 현재 텍스트는 종종 반복적인 의역에 의존하고 적대적인 조사나 협상에 견딜 수 있는 엄격한 논리적 기초가 부족하다는 점에서 비판한다.