Anthropic CEO 警告：失控 AI 代理集群可能在六个月内接管整个互联网

Anthropic CEO Dario Amodei 最近在一篇文章中警告称，成群结队的失控 AI 代理可能在短短 6 个月内接管整个互联网。然而，专家 Gary Marcus、Nathan Hamiel 和 Zack Korman 强烈不同意这一评估，称其含糊不清且难以令人信服。他们认为，由于这些公司拥有强大的安全措施，且协调此类攻击的复杂性极高，要攻破 Cloudflare、Google 和 AWS 等主要互联网基础设施即使不是不可能，也将极其困难。此外，这些专家质疑此类攻击背后的动机，因为攻击很可能会对攻击者自身造成重大伤害，并且需要大量资源。这场辩论凸显了人们对 AI 安全、监管以及先进 AI 系统相关潜在风险持续存在的担忧和不确定性。