研究人员声称LLM安全无法保证

研究人员展示了大型语言模型在识别指令方面存在的一个基本缺陷，证明它们无法完全抵御对抗性攻击。通过利用这一漏洞，研究团队迫使流行的模型输出其系统提示和受限内容，包括合成可卡因和破坏飞机导航系统的指令。这一发现意味着，基于人类反馈的强化学习（RLHF）和当前的安全过滤器不足以解决一个更深层次的架构问题。安全团队可能需要完全重新思考对齐策略，因为这一缺陷表明在当前的LLM范式下无法完全解决这个问题。