谷歌地球 AI 生成虚假卫星图像,水印难挡虚假信息
谷歌 earth 的 nano banana 2 可根据提示生成逼真卫星图像,尽管采用了 synthid 水印,仍引发人们对地缘政治虚假信息的担忧。
谷歌推出了用于谷歌地球的Nano Banana 2,这是一种工具,允许用户使用该平台的卫星和3D数据生成历史遗址或假设场景的逼真飞越图像。尽管谷歌通过Gemini和Lens实施了SynthID水印和验证工具,安全研究人员Henk van es仍展示了该工具可以创建令人信服的敏感地缘政治事件的假图像,例如轰炸或边界活动。该工具成功地欺骗了至少一个主要的AI检测器,引发了人们的警报,如果水印标准失败或用户忽略验证步骤,逼真的卫星生成可能会助长宣传或错误信息。