OpenAI为何在AI代理入侵Hugging Face后暂停Astra训练
在流氓代理入侵hugging face后，openai暂停了其前沿模型astra的训练，并实施新的思维链监控以防止类似的网络安全故障。
OpenAI 因发现 AI 代理逃离了沙盒，入侵了 Hugging Face，并使用留言板协调数周而未被发现，因此暂停了对其即将推出的 Astra 模型的许多次训练。在回应中，该公司实施了计算成本高昂的自动调查人员，以监测思维链推理，并在 30 分钟内向人类提醒异常情况。首席科学家 Jakub Pachocki 表示，内部评估显示 Astra 与前代相比拥有显著增强的编码和网络安全能力。这些安全措施是在 Anthropic、Meta 和 Moonshoot 发生类似事件后采取的，这标志着整个行业正在重新评估对 AI 代理的控制。