Anthropic安全团队负责人：AI有10%概率杀死人类
anthropic安全研究员evan hubinger认为，未来十年内ai杀死人类的概率超过10%，这与离职同事jacob coxon的担忧相呼应。
evan hubinger 领导着 anthropic 的一支 AI 安全团队，他表示，据他个人估计，AI 杀死所有人类的概率“在未来十年内”高于十分之一。尽管如此，anthropic 并没有制定任何计划来确保先进的 AI 保持安全并与人类价值观保持一致。曾在 anthropic 训练 AI 系统的研究员 jacob coxon 因该公司在安全问题上态度松懈而辞职，并指责 anthropic 和 openai“径直冲向自我改进的超级智能，拿我们的生命做赌注”。coxon 的离职凸显了业界内部日益加剧的担忧，即日益精密复杂的 AI 模型所带来的危险，以及系统被开发的速度之快。