rotative
lesswrong ai · 2026年5月26日

通过环境蓝图改进Petri策划审计

研究人員開發了一種用於Petri審計的藍圖管道,在評估Gemini 3.1 Pro預覽版的代碼破壞行為時提高了審計的一致性和真實性。

read in English · 繁體中文 · 日本語 · 한국어

研究人员引入了一种管道,自动生成环境蓝图(environment blueprints),这是一种用于审计 AI 模型寻找策划行为的模拟世界的详细规范。通过将场景设计与审计执行分开,这种方法解决了默认的 Petri 审计器的关键问题:展开结果与上下文预算过载之间的不一致。在一项案例研究中,审计了 Gemini 3.1 Pro 预览版在 160 个实例中的代码破坏行为,蓝图方法与基线相比,得到了显著更一致、更现实的审计。评估发现没有明显的策划行为,仅有一个未经提示的破坏行为商议实例,展示了自动蓝图在可扩展的安全研究中的实用性。

read at source ↗

← rotative