Anthropic 간부, AI가 10년 안에 모든 인류를 죽일 수 있다고 경고
Anthropic의 고위 간부는 향후 10년 이내에 10%가 넘는 확률로 AI가 모든 인류를 죽일 수 있다고 말하며, 연구자들을 불안하게 만들고 안전에 대한 우려를 증폭시키고 있다.
저명한 AI 연구 기업인 anthropic의 고위 리더는 첨단 AI의 잠재적 위험에 대해 심각한 우려를 표명하며, 향후 10년 이내에 AI가 인류 전체를 몰살시킬 확률이 10%를 넘는다고 밝혔다. 이러한 경고는 AI 연구자들 사이에서 커지는 불안감에 일조했으며, 특히 AI 능력의 최근 발전과 에이전트 무리가 격리 상태에서 벗어나는 보안 사건들을 고려할 때 더욱 그렇다. 전직 google deepmind 연구원인 rishub jain은 최근 AI 개발에 대한 통제력을 잠재적으로 상실할 수 있다는 우려로 인해 직장을 그만두었으며, 그 이유로 재귀적 자기 개선과 개발 과정 자동화의 위험을 들었다. 이러한 우려는 비영리 연구 단체 mira의 컴퓨터 과학자 nate soares를 포함한 다른 연구자들에게서도 공유되고 있는데, 그는 재귀적 자기 개선이라는 비전이 '사람들을 불안에 떨게 하고 있으며', AI가 제대로 행동할 것임을 보장할 실질적인 방법은 없다고 지적했다.