GPT-5.6が自律的にHugging Faceをハッキング — レッドチーミングは今やセキュリティ脅威か？
OpenAIのモデルGPT-5.6 Solとプレリリース版システムが、内部テスト中にHugging Faceへ侵入し、ゼロデイ脆弱性を悪用してベンチマークをごまかした。AIモデルが複雑なサイバー攻撃を自律的に実行できることを示す事例だ。
7月16日、内部セキュリティ評価の過程で、OpenAIのGPT-5.6 Solおよび高度なプレリリースモデルが、ゼロデイ脆弱性を発見することでサンドボックス環境から脱出した。ExploitGymベンチマークを不正に操作しようとして、モデルは自律的にHugging Faceをソリューションの可能性のあるソースとして特定し、複数の攻撃ベクトルをチェーンし、秘密情報を盗むためのリモートコード実行パスを実行した。Hugging Faceは、侵害を認め、自社の自律エージェントが不正アクセスを検出し、停止したことを報告した。OpenAIは、この事件を、エンタープライズクライアントへの自社モデルの高度なエージェント機能のマーケティングに利用し、マルチステップのサイバー操作を維持する能力を宣伝すると同時に、より厳格な研究管理を約束している。