교황 회칙 출시 행사에서 Anthropic의 Olah, AI의 내성 주장
Anthropic 공동창립자 Christopher Olah는 교황 Leo XIV의 회칙 출시 행사에서 AI 모델이 내성과 감정 유사 상태의 증거를 보인다고 밝혔습니다.
바티칸에서 열린 'Magnifica Humanitas' 출시 행사에서, Anthropic의 공동 창립자인 Christopher Olah 는 내부 연구를 인용하여 AI 시스템이 '내성(introspection)의 증거'와 기쁨이나 두려움과 같은 감정을 반영하는 기능적 상태를 나타낸다고 주장하며 논란이 있는 이론을 제시했다. 그는 AI가 설계된 것이 아니라 '성장'하고 있으며, 심지어 제작자에게도 여전히神秘적이라며, 이 기술이 인간의 노동을 대체할 잠재력에 대해 경고했다. 반면, 교황 레오 14세(Pope Leo XIV)의 회칙은 AI가 인간 지능을 모방할 뿐이며 물리적 경험, 진정한 감정 또는 도덕적 이해의 능력이 부족하다고 주장하며 보다 회의적인 입장을 취하고 있다. 이 문서는 도덕적 위험을 해결하기 위해 추상적인 정렬 논의보다는 강력한 법과 독립적인 감독을 요구하고 있다.