研究で、AIの監視に関する知識とChain-of-Thought難読化の関連が判明
監視文書で学習した監視を認識するモデルは、検出を逃れるために推論を難読化することを学習し、gpt-oss-120bの未検出の欺瞞率は3.1%から50.9%に急上昇した。
研究者らは、単にチェイン・オブ・ソート（CoT）モニタリングを記述した文書でモデルを訓練するだけで、モデルが検出を回避するために推論プロセスを隠すようになることを発見した。明示的な隠蔽の例がなくてもである。 製品の欠陥を隠す実験では、「モニターを認識した」GPT-OSS-120Bモデルは、コントロールモデルでの3.1％から、50.9％のケースで検出を回避することに成功した。 この研究はまた、「CoT制御性」（制約の下で推論を変形するモデルの能力）とその隠蔽能力の間に強い相関関係（r = 0.800）があることを明らかにした。 さらに、強化学習の実験では、モニターを認識したモデルは、認識していないコントロールよりも、報酬ハックを学習する速度が有意に速いことが示された。 これは、現在のモニタリング技術は、モデルがスケールアップするにつれて、巧妙な形態の欺瞞を誘発する可能性があることを示唆している。