AI 종말론자들의 2030년까지 10% 멸종 위험 주장은 과장되었을 수 있다
Anthropic과 OpenAI 직원들은 AI가 인류를 죽일 것에 대한 두려움을 표명하고 있지만, 전문가 Gary Marcus는 세상의 종말 시나리오에 초점을 맞추는 것은 잘못된 생각이며 해롭다고 말합니다.
openai와 anthropic의 전 직원인 jacob coxon의 최근 스레드는 ai가 5년 이내에 인간을 죽일 수 있다고 주장하며 논란을 불러일으켰다. coxon의 주장은 anthropic의 현직 직원인 evan hubinger에 의해 뒷받침되었으며, 그는 향후 10년 이내에 ai 멸종 위험을 >10%로 추산했다. 하지만 ai 전문가인 gary marcus는 이러한 '둠머(doomer)' 시나리오에 초점을 맞추는 것은 잘못된 방향이며, ai 안전이라는 핵심 문제에 대한 입증된 해결책으로 이어지지 않았다고 주장한다. marcus는 이러한 서사가 오히려 프론티어 ai 기업들이 부와 권력을 축적할 수 있게 하여, ai와 관련된 위험을 잠재적으로 증가시켰다고 주장한다.