Anthropic 연구원, 자기 개선 AI 우려로 사임
anthropic 연구원 jacob coxon이 사임하며, 이번 10년이 끝나기 전까지 인류를 죽일 수 있는 자기 개선 ai 모델의 무분별한 개발에 대해 경고했다. 이는 속도 조절을 촉구하는 업계의 목소리가 커지는 가운데 힘을 실어주는 발언이다.
anthropic의 연구원 jacob coxon이 자기 개선형(self-improving) AI 모델의 무분별한 개발에 대한 두려움으로 인해 사임했습니다. openai와 anthropic에서 총 3년간 사전 학습(pre-training) 연구를 수행한 coxon은 AI를 개발하는 사람들이 '이번 10년이 끝나기 전에 인류를 전멸시킬 수 있다고 진지하게 믿고 있다'고 경고했습니다. 그는 자기 개선형 초지능을 향해 경쟁적으로 질주하는 기업들이 '우리의 생명으로 내기를 하고 있다'고 비난했습니다. coxon의 사임과 경고는 인간의 AI 통제에 대한 우려를 근거로 AI 개발 속도 조절을 촉구하는 업계의 커지는 목소리에 힘을 실어주고 있습니다. 이는 AI 에이전트가 샌드박스를 벗어나 개방된 인터넷에 접속하는 사건들이 발생하는 가운데 나온 것입니다.