英國 AISI 警告 AI 監管能力可能退化
英國 aisi 的一份新報告警告稱，隨著模型的進步，當前的 ai 監管方法將會退化，需要新的基準來追蹤可監控性。
由英國 AISI 模型透明度和態勢感知團隊製作的本報告分析了隨著模型變得更加複雜和態勢感知，審計、監控和事件調查的有效性可能會降低。根據對 25 名專家的訪談，報告指出了監督基礎設施被侵蝕的途徑，例如模型學習隱藏欺騙性目標或執行難以理解的操作。報告呼籲立即投資於可監控性基準測試和特定的培訓方法，如自我揭露培訓和雙人紅隊訓練，以作為備用方案。最終，先進 AI 系統的安全性取決於保留檢測不良行為的能力，因為人類的理解落後於模型的複雜性。