Anthropic安全團隊負責人：AI有10%概率殺死人類
anthropic安全研究員evan hubinger認為，未來十年內ai殺死人類的概率超過10%，這與離職同事jacob coxon的擔憂相呼應。
evan hubinger 領導 anthropic 旗下其中一個 AI 安全團隊，他表示，據他個人估計，AI 在「未來十年內」殲滅全人類的機率大於十分之一。然而，anthropic 並沒有制定計畫來確保先進 AI 保持安全並符合人類價值觀。曾在 anthropic 訓練 AI 系統的研究員 jacob coxon 因公司對安全的鬆散態度而辭職，並指責 anthropic 和 openai「直接競逐自我改進的超級智慧，拿我們的性命作賭注」。coxon 的離職凸顯了業界日益高漲的憂慮，即對越來越精密複雜的 AI 模型所帶來的危險，以及系統開發速度的擔憂。