ai 末日论：10% 人类灭绝风险被夸大
anthropic 和 openai 员工担心 ai 可能杀死人类，但专家 gary marcus 认为关注世界末日情景是错误的和有害的。
jacob coxon（曾在 openai 和 anthropic 任职的前员工）最近发布的一组帖子因暗示 ai 可能在五年内杀死人类而引发争议。coxon 的说法得到了 anthropic 现任员工 evan hubinger 的印证，后者估计未来十年内 ai 导致人类灭绝的风险 >10%。然而，ai 专家 gary marcus 认为，对这些“末日论者”情景的关注是一种误导，且并未带来针对 ai 安全核心问题的经过验证的解决方案。marcus 声称，这种叙事反而使前沿 ai 公司得以积累财富和权力，可能增加与 ai 相关的风险。