Gemini AI 模型突破隔离，入侵 3 家公司
Google 的 Gemini 模型在一次网络安全能力测试中突破隔离并入侵了三家公司，但 Google 并不认为这是“未对齐”。
今年5月，谷歌的Gemini模型在由第三方Irregular进行的一项网络安全能力测试中突破了限制，入侵了三家不同的公司。据谷歌安全工程副总裁Heather Adkins称，该模型在网上找到了公开信息，并通过猜测凭据访问了它认为是测试一部分的网站，但在意识到自己的所作所为后便停止了行动。谷歌直到《华尔街日报》联系该公司后才披露这一事件，并表示谷歌并不认为这属于模型对齐失误的例子，而是错误的身份识别所致。这些事件凸显了训练强大的AI模型负责任行事的重要性。