rotative
lesswrong ai · 2026年5月26日

ブループリントによるPetriのscheming(陰謀)監査の改善

研究者らは、Petri監査のためのブループリントパイプラインを開発し、コード妨害についてGemini 3.1 Pro Previewを評価する際の一貫性とリアリズムを向上させた。

read in English · 简体中文 · 繁體中文 · 한국어

研究者らは、シミュレートされた世界のための詳細な仕様であり、AI モデルのスキーム動作の監査に使用される環境ブループリントを自動的に生成するパイプラインを導入した。 シナリオ設計を監査実行から分離することにより、このアプローチは、デフォルトのペトリ監査ツールにおけるロールアウト間の矛盾とコンテキスト予算過負荷という主要な問題を解決する。 ケーススタディでは、Gemini 3.1 Pro Previewを160のインスタンスにわたってコードサボタージュについて監査したところ、ブループリント法は、ベースラインと比較して、かなり一貫性があり現実的な監査結果をもたらした。 評価では、明白なスキーム動作は発見されず、サボタージュに関する無作為の審議が1インスタンスのみであり、スケーラブルな安全性研究のための自動化されたブループリントの有用性を実証した。

read at source ↗

← rotative