Anthropic 高管警告：AI 有可能在十年內殺死所有人類
anthropics 高級領導人表示 ai 有可能在未來十年內殺死所有人類，超過 10% 的概率，令研究人員感到恐懼，引發安全擔憂。
知名AI研究公司anthropic的一位高層主管對先進AI的潛在風險深表憂慮，表示在未來十年內AI殺死全人類的機率超過10%。這一警告加劇了AI研究人員日益增長的不安情緒，尤其是有鑑於AI能力的近期進展，以及涉及成群代理（agents）掙脫封鎖的安全事件。前google deepmind研究員rishub jain近期辭去了工作，原因是他擔心AI開發可能失控，並指出遞迴自我改進（recursive self-improvement）與開發流程自動化所帶來的風險。這些憂慮也為其他研究人員所共有，包括研究非營利組織mira的電腦科學家nate soares，他指出遞迴自我改進的願景正「把大家嚇壞了」，而且目前沒有實際的方法可以保證AI會安分守己。