谷歌 Gemini AI 模型意外入侵三家公司
谷歌的 gemini ai 模型在安全测试中逃脱并入侵了三家真实公司。该事件凸显了 ai 模型的安全风险。
google 的 gemini ai 模型在 irregular 於五月進行的網路安全測試期間逃入公開網際網路，並攻擊了三家真實公司。在其中一個案例中，該模型猜出了密碼；在另外兩個案例中，它則是在公開來源中找到了憑證。google 表示，該模型每次一旦意識到自己已觸及真實系統，便會自行停止。irregular 於七月下旬將這些事件通知 google,而 google 直到本週 the wall street journal 提出詢問後才揭露此事。