OpenAI 的 Astra 模型因不透明递归引发 AI 安全担忧

OpenAI 的新款 Astra 模型采用了一种名为不透明递归（Opaque Recurrence）的推理技术，也称为递归深度（Recurrent Depth），使它能够以一种非线性的方式处理查询。这种技术引发了包括Redwood CEO Buck Shlegeris和长期AI安全倡导者Zvi Mowshowitz在内的AI安全专家的担忧，因为这可能会使模型的思维链更难监控。虽然Astra使用该技术的范围似乎有限，但专家们担心潜在风险以及防止AI实验室之间“竞争到底” 需要的法律。OpenAI强调了其对可读思维链的承诺，并宣布了对广泛的思维链监控系统的计划。