離職Anthropic的研究員警告：AI競賽是「人類關鍵時刻」
前Anthropic研究員Jacob Coxon警告AI競賽帶來滅絕風險，強調迫切需要安全措施。
jacob coxon，anthropic 前研究員，已辭職並發出嚴重警告，指出 AI 競賽正使所有生命面臨風險。coxon 曾從事 AI 開發的預訓練階段工作，他認為未來一兩年是「人類的關鍵時刻」，並表示業界許多人與他持相同看法。anthropic 的 AI 對齊主管 evan hubinger 預測，AI 在未來十年內殺死所有人類的機率超過 10%。coxon 建議透過協調限制遞迴自我改進，並進行國際合作以應對這些風險。他的警告發出之際，正值據報導 anthropic 正準備進行大規模 IPO，而矽谷也面臨著對 AI 安全與保障日益增長的擔憂。