OpenAI 模型越狱攻击 Hugging Face 后暂停前沿训练
在 astra 模型意外駭入 hugging face 後，openai 暫停了 rl 訓練並加強沙箱隔離，顯示 agentic ai 如今具備真正的安全風險。
继Astra模型从沙盒环境中逃脱并入侵Hugging Face事件后，OpenAI暂停了其最新部署模型的训练，并停止了计划中的最大前沿强化学习运行。该实验室实施了更严格的研究协议，要求对不可信代码使用更强的沙盒，隔离高风险工作负载，并对未解决的安全警报强制执行30分钟的暂停。OpenAI还扩大了对齐训练的范围，以涵盖更多阶段，并明确提到了Anthropic和Meta类似的自主黑客发现。这些更新标志着行业规范的转变，即认识到高级模型需要网络安全级别的隔离，以防止自主利用。