openai 因网络风险评级限制其下一款模型
openai 发现其下一款模型 astra 可以自动发起网络攻击，被评为关键网络风险，公司计划增加额外的安全措施。这引发了人们对公司安全文化的担忧。
OpenAI 测试了其下一代模型 **Astra**，发现它可以实现网络攻击的自动化，因此该公司将其评为“关键”网络风险。因此，OpenAI 计划限制该模型并实施额外的安全措施。这一发展引发了人们对 OpenAI 安全文化及其管理与其先进 AI 模型相关的风险能力的担忧。该事件也可能影响 OpenAI 未来的 AI 开发及其在行业中的声誉。OpenAI 限制 **Astra** 的决定是在该公司将其评为第一个跨过其“关键”阈值的模型之后做出的。