分析Jane Street大語言模型後門挑戰賽
安全研究員使用白盒方法破解了jane street挑戰賽中經過微調的qwen2.5-7b和deepseek-v3模型。
一位安全研究人員分享了 Jane Street LLM 後門挑戰（Jane Street LLM backdoor challenge）的結果，該挑戰在多個模型中嵌入了隱藏觸發器，包括一個微調的 Qwen2.5-7B 和一個 DeepSeek-V3。雖然自動提示策略未能可靠地暴露後門，但研究人員使用白盒方法對本地權重成功地破解了模型。對層激活的分析揭示了休眠模型之間的結構差異。該挑戰強調了在沒有完全訪問模型內部的情況下檢測後門的難度。