openai 新模型技术威胁 AI 安全监控

OpenAI 正在探索一种新的技术，称为“循环深度”（recurrent depth），该技术已在其 Astra AI 模型中使用。这种方法可以帮助降低模型的成本和提高性能，但也使得跟踪模型的思考过程变得更加困难。包括 Steven Adler 和 Nathan Calvin 在内的研究人员表示担忧，认为这可能会损害 AI 安全监控。该技术可能使使用“思维链监控”（chain of thought monitorability）变得困难或不可能，而这种方法被认为是监控大型语言模型的最佳方法之一。这一发展引起了研究人员的担忧，并可能影响整个行业预防 AI 事件的能力。