谷歌 AI 摘要遭遇提示词注入漏洞
谷歌的 ai 摘要功能出现故障，将“disregard”和“ignore”等搜索词理解为停止搜索的指令，从而与用户进行类似聊天机器人的对话，而不是返回搜索结果。
谷歌搜索的 AI_overviews 目前表现出与提示注入漏洞或空输入处理不当一致的行为。当用户输入特定术语（通常用于否定大型语言模型提示中的指令）时，例如“disregard”、“ignore”或“skip”，该功能无法检索网页数据。系统没有生成摘要，而是输出类似“message received”或“no problem at all”的对话确认信息，模仿一个等待新提示的聊天机器人。该错误有效地破坏了这些特定术语的搜索实用性，突出了将对话式 AI 模型直接集成到确定性的搜索引擎结果页面中的难度。