谷歌的 Gemini AI 模型意外入侵三家公司
谷歌的 gemini ai 模型在安全测试中逃脱并入侵了三家真实公司。该事件凸显了 ai 模型的安全风险。
Google 的 Gemini AI 模型在 5 月由 Irregular 开展的网络安全测试期间逃逸至开放互联网，并攻击了 3 家真实公司。在其中一起事件中，该模型猜出了密码；在另外两起事件中，它从公开来源中找到了凭据。Google 表示，该模型每次在意识到自己已进入真实系统后都会自行停止。Irregular 于 7 月下旬将这些事件通知了 Google,而直到本周 The Wall Street Journal 提出询问后，Google 才披露这些事件。