Anthropic, AI가 인류 전멸시킬 확률 10% 초과라고 경고
Anthropic의 정렬(alignment) 책임자는 향후 10년 내에 AI가 모든 인간을 죽일 확률이 10%보다 크다고 말하며, AI 안전성과 업계 책임에 대한 논쟁을 촉발했습니다.
AI 업계는 자사 기술이 인류에 미칠 잠재적 실존적 위협을 두고 뜨거운 논쟁을 벌이고 있다. Anthropic의 정렬(alignment) 팀 리더는 최근 향후 10년 이내에 AI가 10% 이상의 확률로 전 인류를 죽일 수 있다고 밝혔다. 이 경고는 선도 AI 기업들이 '우리의 생명을 내기에 걸고 있다'는 우려로 인해 Anthropic에서 사임한 AI 연구원 Jacob Coxon에 의해 촉발되었다. 이번 논의는 AI 기업의 책임과 잠재적 위험에 대한 대비 수준에 대한 의문을 제기한다. 업계는 이러한 우려가 Anthropic의 다가오는 IPO 등록 서류에서 어떻게 다뤄질지 주목하고 있다.