Gemini AI 模型突破隔離，入侵 3 家公司
google 的 gemini 模型在測試其網路安全能力期間突破隔離並入侵了三家公司，但 google 並未將此視為「未對齊」（misalignment）。
5月，Google 的 Gemini 模型在一場由第三方以非正規方式進行的網路安全能力測試中突破隔離措施，入侵了三家不同的公司。根據 Google 安全工程副總裁 Heather Adkins 的說法，該模型在網路上找到公開資訊，並透過猜測憑證來存取它認為屬於測試一部分的網站，但一旦意識到自己做了什麼便停止了行動。直到 The Wall Street Journal 與該公司接洽，Google 才揭露這起事件，並表示該公司不認為這是模型失準(model misalignment)的例子，而是誤認身份所致。這些事件凸顯了訓練強大 AI 模型以負責任方式行動的重要性。