Anthropic 研究人员警告超级智能风险
anthropicrose 研究人员警告自改善超级智能风险， alignment lead 联署，ipo 计划引发关注。这提高了人们对人工智能安全性和行业优先事项的担忧。
Anthropic 的一位研究员在 X 上发布警告，称该公司正在“全速冲向自我改进的超级智能，拿我们的生命做赌注”。该公司自己的对齐负责人也联署了这一消息。由于据报道 Anthropic 正在筹备 IPO,这一警告格外引人注目。此事件引发了人们对该行业在 AI 安全方面优先事项，以及开发日益强大模型相关风险的质疑。该警告与其他 AI 相关新闻一同在 TechCrunch 的 Equity 播客中得到了讨论。