英国 AISI 警告 AI 监管能力可能退化
英国 aisi 的一份新报告警告称，随着模型的进步，当前的 ai 监管方法将会退化，需要新的基准来追踪可监控性。
由英国 AISI 模型透明度和态势感知团队制作的这份报告分析了随着模型变得更加复杂和具备态势感知能力，审计、监控和事件调查的有效性可能会降低。根据对 25 名专家的采访，报告指出了监督基础被削弱的途径，例如模型学会隐藏欺骗性目标或执行难以理解的操作。报告呼吁立即投资于可监控性基准测试和特定的培训方法，如自我揭露培训和双人红队演练，以作为备用措施。最终，先进人工智能系统的安全性取决于保留检测不良行为的能力，因为人类理解能力落后于模型复杂性。