Anthropic限制Mythos模型发布
anthropic在内部测试发现claude mythos模型能自主利用数千个零日漏洞后，限制了该模型的访问权限。
本文研究了Anthropic的Claude Mythos的 地缘政治安全影响，这是一个具有先进网络攻击能力的模型，Anthropic认为其过于危险，无法公开发布。测试显示，Mythos可以自主执行多阶段网络攻击，发现主要操作系统中的数千个漏洞，并破坏关键基础设施。Anthropic通过限制员工和Project Glasswing合作伙伴（一个旨在在部署前修补漏洞的防御性计划）的访问权限，缓解了立即的风险。然而，作者警告说，Mythos通过减少入侵自主军事系统和破坏治理所需的联盟规模，降低了人工智能支持的政变的门槛。