离职Anthropic的研究员警告：AI竞赛是“人类关键时刻”
前Anthropic研究员Jacob Coxon警告AI竞赛带来灭绝风险，强调迫切需要安全措施。
jacob coxon 是 anthropic 的前研究员，他已辞职并发出严重警告，称 ai 竞赛正将所有人的生命置于危险之中。coxon 曾从事 ai 开发的预训练阶段工作，他认为未来一两年是“人类的关键时刻”，并且业内许多人持相同观点。anthropic 的 ai 对齐负责人 evan hubinger 预测，未来十年内 ai 杀死所有人的可能性超过 10%。coxon 建议通过协调限制递归自我改进，并开展国际合作来应对这些风险。他的警告发出之际，据报道 anthropic 正准备进行大规模 ipo，而硅谷对 ai 安全与保障的担忧也日益加剧。