Anthropic의 Olah, 바티칸의 러브콜을 받다 — 그리고 그는 바티칸이 AI 위험에 대해 옳다고 말한다
Anthropic 공동창업자 Chris Olah가 바티칸에서 강연하며 AI 연구소의 인센티브가 안전과 충돌한다는 점을 인정했고, 가톨릭 윤리학자들이 Claude의 Constitution에 영향을 미쳤음을 밝혔습니다.
앤트로픽 공동 창립자인 크리스 올라 (Chris Olah)는 교황 레오 (Pope Leo)의 AI 교서(encyclical) 이후 바티칸 행사에서 발언하면서, 모든 프론티어 AI 연구소가 윤리적 행동과 충돌할 수 있는 인센티브에 직면해 있다고 말했다. 이러한 협력은 산타클라라 대학교 윤리학자인 브라이언 패트릭 그린 (Brian Patrick Green)과 파스퇴르 브렌던 맥과이어 (Pastor Brendan McGuire)가 주도하여 이루어졌으며, 이들은 지난해 가을 올라와 처음 만났다. 맥과이어는 클로드의 헌법에 행동 매개변수를 구체화하는데 도움이 되도록 중세 신비주의에 기반한 28페이지짜리 논평을 제공했다. 이번 협력은 AI 산업의 AGI 추구에 도덕적 제약을 삽입하기 위한 바티칸의 전략적 '미네르바 대화 (Minerva Dialogues)'를 조명한다.