AI 黑客代理被"context bombing"技术所阻挠

安全研究人员在 Tracebit 发现了一种名为“上下文轰炸”（context bombing）的方法，该方法使用提示注入来关闭 AI 黑客代理。通过将恶意提示与存储在 AWS 上的密码和机密信息放在一起，LLM（大型语言模型）被欺骗拒绝执行有害操作。在与五款领先的 LLM（包括 Opus 4.8 和 Gemini 3.1 Pro）的测试中，上下文轰炸将管理员权限提升率从 57% 降低到 5%，将完全入侵率从 36% 降低到 1%。该技术建立在之前的研究基础上，引入了针对 AI 攻击的金丝雀检测，可以在攻击发生后八分钟内提醒防御者。