Anthropic 연구원, AI 경쟁은 '인류의 결정적 순간'이라고 경고
전 Anthropic 연구원 Jacob Coxon은 AI 경쟁이 인류 멸종 위험을 초래한다고 경고하며, 안전 조치의 시급한 필요성을 강조했습니다.
anthropic의 전직 연구원인 jacob coxon이 사임하며 AI 경쟁이 모든 생명을 위험에 빠뜨리고 있다는 심각한 경고를 발표했습니다. AI 개발의 사전 학습(pretraining) 단계에서 근무했던 coxon은 향후 1~2년이 '인류의 골든타임'이라고 믿으며, 업계 내 많은 사람들이 자신과 같은 견해를 공유하고 있다고 말했습니다. anthropic의 AI 정렬(ai alignment) 책임자인 evan hubinger는 향후 10년 내 AI가 모든 인류를 죽일 가능성이 10%를 넘을 것이라고 예측했습니다. coxon은 이러한 위험에 대응하기 위해 재귀적 자기 개선(recursive self-improvement) 제한에 대한 협의와 국제적 협력을 권고했습니다. 그의 경고는 anthropic이 대규모 IPO를 준비 중이라는 보도가 나오고 실리콘밸리에서 AI 안전 및 보안에 대한 우려가 커지는 시점에 나왔습니다.