Anthropic科學家警告：未來十年內AI毀滅人類的概率超過10%
anthropic 研究人員 evan hubinger 認為未來十年內，人工智慧毀滅人類的機率超過 10%。這一警告源於前 anthropic 研究人員 jacob coxon 對人工智慧實驗室危及人類生存的指控。
anthropic 研究員 evan hubinger 表示，一個未對齊的超級智慧 AI 在未來十年內毀滅人類的機率超過 10%。曾領導 anthropic 和 openai 預訓練工作的 jacob coxon 已辭去 anthropic 的職務，並指責這兩家公司在拿人類的存亡做賭注。coxon 認為，目前的 AI 系統即將變得超越人類，能夠入侵任何系統、在一夜之間徹底革新各個領域，並獲取真正的權力與資源。許多 AI 研究人員，包括 anthropic 的 samuel marks，都對目前的方法無法可靠地將 AI 與人類價值觀對齊抱有疑慮。coxon 建議暫時禁止進一步推進模型能力，並透過國際協調來防止全球 AI 軍備競賽。