openai astra 模型引发安全担忧，因其设计不透明

OpenAI 即将发布其迄今为止最强大的 AI 模型，代号 Astra，在数周的延迟后，以加强安全协议。Astra 使用一种更为不透明的技术，称为循环深度（recurrent depth）或环形变换器（looped transformer），该技术在生成输出之前在内部层循环信息，使得监控更加困难。包括 Redwood Research 首席科学家 Ryan Greenblatt 在内的研究人员警告说，这可能会导致安全灾难和 AI 安全领域的“逐底竞争”。OpenAI 限制了 Astra 中环形变换器技术的应用，以允许继续监控模型的推理过程。