ai实验室推动安全计划却忽视基本网络安全

anthropic 首席执行官 dario amodei 近日撰文指出，需要由外部组织来验证人工智能开发中对安全实践和承诺的遵守情况。然而，网络安全专家表示，人工智能实验室在实施第三方审计之前，需要先专注于日志和权限等基础网络安全措施。多起事件凸显了配置不当的沙盒环境以及缺乏实时监控所带来的风险。专家认为，与在对齐方面的边际投资相比，在控制方面的边际投资更有可能取得成效。为防止未来发生“逃逸”事件，安全专家建议采用限时智能体会话、实时监控，并从外部对智能体进行大量插桩监测。