近五分之一的AI研究人員預計2024年出現滅絕情景

由「ai impacts」發表的一項針對1,500多位頂尖AI研究人員的近期調查發現，受訪者平均估計AI在2024年前導致人類滅絕或使人類永久喪失掌控權的機率為18%。部分研究人員估計的風險高達100%。這些數據支持了多位知名AI研究人員的警告，包括anthropic的jacob coxon、openai的daniel selsam，以及前google deepmind研究員bilal chughtai。他們對AI可能發展出非預期目標、展現湧現行為，並對人類構成生存風險表達了擔憂。這些擔憂引發了關於AI發展速度、安全協議，以及AI公司之間協調必要性的辯論。