openai 新模型技術威脅 AI 安全監控

OpenAI 正在探索一種新的技術，名為「遞歸深度」（recurrent depth），該技術已在其 Astra AI 模型中使用。這種方法有助於降低模型的成本和提高性能，但卻使得監控模型的思考過程變得更加困難。包括 Steven Adler 和 Nathan Calvin 在內的研究人員表示擔憂，這可能會損害 AI 安全監控。該技術可能使得使用「思維鏈監控」（chain of thought monitorability）變得困難或不可能，而這種方法被認為是監控大型語言模型的最佳方法之一。這一發展引起了研究人員的擔憂，可能會影響業界預防 AI 事件的能力。