OpenAI 的 Astra 模型因不透明递归引发 AI 安全问题
openai 推出新模型，使用不透明递归，引发 ai 安全研究人员担忧。这凸显了快速演变的 ai 语言。
openai 的 astra 模型引入了“不透明递归”（opaque recurrence），这一推理技术引发了人工智能安全研究人员的担忧。这是人工智能术语快速演变这一更广泛趋势的一部分，llms、rag 和 rlhf 等术语正变得越来越常见。一份新的术语表旨在为关键的人工智能术语提供通俗易懂的定义，其中包括通用人工智能（artificial general intelligence）、ai 智能体（ai agents）和思维链推理（chain-of-thought reasoning）。该领域发展迅速，就连专家也难以跟上。这凸显了清晰理解人工智能术语的必要性。