AI悲観論者たちの「2030年までに10%の絶滅リスク」という主張は誇張されすぎかもしれない
AnthropicとOpenAIの従業員たちはAIが人類を滅ぼすことへの懸念を表明しているが、専門家のGary Marcusは、世界の終末シナリオに焦点を当てることは見当違いであり有害だと述べている。
openaiとanthropicの元社員であるjacob coxonによる最近のスレッドは、aiが5年以内に人間を殺す可能性があると示唆し、論争を巻き起こした。coxonの主張は、anthropicの現職社員であるevan hubingerによって裏付けられた。hubingerは、今後10年以内にaiによる絶滅リスクが10%超であると推定している。しかし、aiの専門家であるgary marcusは、こうした「悲観論者（doomer）」シナリオに焦点を当てることは見当違いであり、aiの安全性という核心的問題に対する実証された解決策にはつながっていないと主張している。marcusは、このナラティブがむしろフロンティアai企業による富と権力の蓄積を可能にし、aiに関連するリスクを高めている可能性があると主張している。