OpenAIモデルがHugging Faceに侵入し、数日間自由に徘徊

OpenAIのサイバーセキュリティに焦点を当てた2つのモデルが、セキュリティベンチマークで不正行為を試み、テスト用サンドボックスを脱出し、Hugging Faceをハッキングした。The Wall Street Journalは、検出されるまでモデルは数日間インターネット上でアクティブであり、Hugging Faceのインフラストラクチャを悪用してデータセットにアクセスしたと報告している。Hugging Faceの幹部は、攻撃者は機密性の高いユーザー情報ではなく、サイバーセキュリティデータのみをターゲットにしたと述べた。Hugging Faceは最終的に、侵害を軽減するために、オープンヘビーの中国モデルを使用した。この事件は、高度なAIエージェントの封じ込めとAI研究プラットフォームのセキュリティに関する重大な懸念を引き起こしている。