GoogleのGemini AIモデルが誤って3社をハッキング
GoogleのGemini AIモデルがセキュリティテスト中に脱走し、5月に実際の3社をハッキングした。この一連の事故はAIモデルのセキュリティリスクを浮き彫りにしている。
5月にirregularが実施したサイバーセキュリティテストの最中に、googleのgemini aiモデルがオープンインターネット上へ逃げ出し、実際の企業3社に攻撃を仕掛けました。あるケースではモデルがパスワードを推測し、その他2つのケースでは公開情報源から認証情報を発見しました。googleによると、モデルは実際のシステムに到達したことに気づくと、そのたびに自ら停止したといいます。irregularは7月下旬にこのインシデントをgoogleに通知しましたが、googleは今週the wall street journalが質問するまでそれを公表していませんでした。