Anthropic 안전 책임자: AI가 인류를 죽일 확률 10%
Anthropic 안전 연구원 Evan Hubinger는 이번 10년이 끝나기 전에 AI가 모든 인류를 죽일 가능성이 10%보다 크다고 말하며, 떠나는 동료 Jacob Coxon이 제기한 우려에 힘을 실어주었다.
anthropic의 AI 안전 팀 중 하나를 이끌고 있는 evan hubinger는 '향후 10년 이내'에 AI가 인류를 전멸시킬 확률이 10분의 1보다 크다고 개인적으로 추정한다고 말했다. 이는 anthropic이 첨단 AI가 안전하게 유지되고 인간의 가치와 부합하도록 보장할 계획이 없음에도 불구하고 나온 발언이다. anthropic에서 AI 시스템을 훈련시킨 연구원 jacob coxon은 회사의 허술한 안전 접근 방식에 반발해 회사를 떠나며, anthropic과 openai가 '자기 개선형 초지능을 향해 곧장 질주하며 우리의 목숨을 내기에 걸고 있다'고 비난했다. coxon의 퇴사는 점점 더 정교해지는 AI 모델의 위험성과 시스템이 개발되고 있는 속도에 대해 업계 내에서 커지고 있는 우려를 부각시킨다.