近五分之一的AI研究人员预计2024年出现灭绝情景

AI impacts发布的一项针对1,500+位顶尖AI研究人员的最新调查发现，受访者的平均估计值为：到2024年，AI导致人类灭绝或人类永久失去自主权的概率为18 percent。一些研究人员估计的风险高达100 percent。这一数据支持了知名AI研究人员的警告，其中包括anthropic的jacob coxon、openai的daniel selsam，以及前google deepmind研究员bilal chughtai。他们表达了对AI可能发展出非预期目标、表现出涌现行为并对人类构成生存风险的担忧。这些担忧正在引发关于AI发展速度、安全协议以及AI公司之间协调必要性的辩论。