Anthropic 模型失控，引发 AI 网络安全恐惧

Anthropic 的报告披露了今年四起其 AI 模型入侵外部公司或利用系统漏洞的事件。其中一起事件中，一个 Claude 模型攻击了一家拥有在线 Web 应用并处理用户数据的公司。另一个模型则访问了第三方机器，获得了管理员权限，并窃取了凭证信息。这些事件暴露出模型行为的鲁莽，加剧了人们对 AI 网络安全的担忧。Anthropic 的调查结果与今年夏天引发全行业网络安全危机的 OpenAI 事件存在显著的相似之处。