OpenAI 新治理框架将模型关闭协议与欧盟法律挂钩
openai 发布了前沿治理框架 (fgf),界定了系统风险阈值(如 10 亿美元损失或 50 人死亡),以此强制企业部署实施严格的监管和缓解协议。
OpenAI 发布了前沿治理框架(FGF),这是一个蓝图,将内部 AI 安全与欧盟通用 AI 法规和加利福尼亚州的前沿 AI 透明度法案相一致。它量化了“系统性风险”,即造成 50 人以上死亡或 10 亿美元以上损失的事件,需要对高风险模型进行严格缓解。分层评估对网络、CBRN 和操纵领域进行威胁分类,定义了对自主代理(包括那些能够逃避人类控制的代理)的特定监督要求。这为企业领导者提供了一种结构化方法,以便将计算资源分配给部署后监控,并确保 AI 生命周期合规。