Jane StreetのLLMバックドアチャレンジを分析
セキュリティ研究者が、Jane Streetのバックドアチャレンジにおいて、ファインチューニングされたqwen2.5-7bおよびdeepseek-v3モデルをホワイトボックス手法で攻略しました。
あるセキュリティ研究者は、Jane Street LLM バックドアチャレンジの結果を共有した。このチャレンジでは、微調整された Qwen2.5-7B や DeepSeek-V3 を含むモデルに隠されたトリガーを埋め込んだ。自動プロンプト戦略ではバックドアを確実に露出させることができなかったが、研究者はローカルウェイトに対するホワイトボックス法を使用してモデルを正常にクラックした。レイヤーのアクティベーションを分析すると、休眠中のモデルの構造的な違いが明らかになった。このチャレンジは、モデルの内部に完全にアクセスできない場合のバックドアの検出の難しさを浮き彫りにした。