rotative
the decoder · 2026年5月29日

為何代碼才是 AI 智能體背後的真正大腦

meta、史丹佛和uiuc的聯合論文將代碼定義為智能體的認知層,認為周圍的 'harness' 基礎設施決定了系統的能力和安全性。

read in English · 简体中文 · 日本語 · 한국어

一篇新的評論論文,由 Meta、Stanford 和 UIUC 共同發表,認為程式碼是人工智慧代理認知的主要機制,取代了自然語言成為模型與其環境之間的橋樑。作者們確定了「Harness」(基礎設施)——由工具、沙盒和執行循環組成的基礎設施——是關鍵的元件,使代理能夠在長時間內規劃、執行和驗證任務。該框架將代理系統分為三個層級:個別程式碼推理、類似 Program-of-Thoughts 的可靠性基礎設施,以及多代理協作,其中共享的程式碼庫充當工作區。Anthropic 的 Claude Code 和 OpenAI 的 Codex 等商業系統已經利用此結構自動化複雜的工作流程。論文結論認為,隨著代理越來越依賴自我生成的程式碼,透明的評估方法變得至關重要,因為標準軟體測試可能會掩蓋新出現的風險。

read at source ↗

← rotative