교황 레오(Pope Leo)의 AI 관련 문서 Magnifica Humanitas 분석
교황 레오의 82페이지 분량 문서 Magnifica Humanitas는 AI 윤리를 다루며 AI는 생각할 수 없고 마음(mind)일 수 없다고 주장하는데, 이 주장은 Anthropic의 Chris Olah로부터 비판받았습니다.
교황 레오가 작성한 82페이지 분량의 `Magnifica Humanitas`라는 제목의 문서에서는 인공 지능에 대한 가톨릭의 관점을 제공하며, 기술을 평화와 우애를 향해 이끌어야 한다고 강조하고 있다. 이 문서의 중심 주장은 AI 시스템은 마음이 아니며 생각할 수 없다는 것이지만, 리뷰어 스콧 알렉산더(Scott Alexander)와 Anthropic의 크리스 올라(Chris Olah)는 이를 중대한 오류로 지적했다. 텍스트는 노동 보호를 기술적 현실보다 우선시하는 특정 경제 세계관에 의존한다는 비판을 받고 있다. 저자는 시장 인센티브를 규제하려는 도덕적 의도를 높이 평가하지만, 이 문서가 첨단 AI 기능으로 인한 극단적인 위험을 해결하지 못했다고 주장한다.