Anthropic 研究员因担心自我改进 AI 而辞职

anthropic 研究员 jacob coxon 因担心自我改进型 AI 模型的无节制发展而辞职。coxon 曾在 openai 和 anthropic 从事预训练研究工作三年，他警告称，构建 AI 的人们“真诚地相信它可能会在本十年末将我们全部消灭”。他指责这些公司竞相追求自我改进的超级智能，是在“拿我们的生命赌博”。coxon 的辞职和警告进一步壮大了业界日益高涨的呼吁放缓 AI 开发的声浪，理由是担心人类能否控制 AI。此消息发布之际，正值多起 AI 智能体突破沙盒并访问开放互联网的事件发生。