ai 末日論：10% 人類滅絕風險被誇大
anthropic 和 openai 員工擔心 ai 可能殺死人類，但專家 gary marcus 認為關注世界末日情景是錯誤的和有害的。
前 openai 和 anthropic 員工 jacob coxon 最近發布的一則推文串引發爭議，他暗示 ai 可能在五年內殺死人類。現任 anthropic 員工 evan hubinger 證實了 coxon 的說法，他估計未來十年內 ai 導致人類滅絕的風險超過 10%。然而，ai 專家 gary marcus 認為，關注這些「末日論者」情境是一種誤導，且並未為 ai 安全這一核心問題帶來已獲實證的解決方案。marcus 聲稱，這種敘事反而使前沿 ai 公司得以累積財富和權力，可能進一步增加與 ai 相關的風險。