分析Jane Street大语言模型后门挑战赛
安全研究員使用白盒方法破解了jane street挑戰賽中經過微調的qwen2.5-7b和deepseek-v3模型。
一名安全研究人员分享了Jane Street LLM后门挑战的结果，该挑战在模型中嵌入了隐藏的触发器，包括一个微调的Qwen2.5-7B和一个DeepSeek-V3。虽然自动提示策略未能可靠地暴露后门，但研究人员使用白盒方法在本地权重上成功地破解了模型。对层激活的分析揭示了休眠模型之间的结构差异。该挑战强调了在没有完全访问模型内部的情况下检测后门的困难。