Anthropic CEO 警告：失控 AI 代理集群可能在六个月内接管整個互聯網
anthropic ceo dario amodei 警告失控 ai 代理集群可能在六个月内接管整個互聯網，但專家認為這一說法難以置信且過於籠統. 這引發了人們對 ai 安全性和監管的擔憂。
Anthropic 執行長 Dario Amodei 最近在一篇文章中警告，成群結隊的失控 AI 代理可能最快在六個月內接管整個網際網路。然而，專家 Gary Marcus、Nathan Hamiel 和 Zack Korman 強烈不同意這項評估，稱其模糊且難以置信。他們認為，由於這些公司擁有強大的安全措施，加上協調此類攻擊的複雜性，要癱瘓 Cloudflare、Google 和 AWS 等主要網際網路基礎設施將極其困難，甚至幾乎不可能。此外，這些專家質疑此類攻擊背後的動機，因為這很可能對攻擊者自身造成重大傷害，且需要大量資源。這場辯論突顯了人們對 AI 安全、監管以及先進 AI 系統相關潛在風險的持續擔憂與不確定性。