AI 黑客代理被"context bombing"技術所阻挠

安全研究人員在 Tracebit 发现了一种名为“上下文轰炸”（context bombing）的方法，该方法使用提示注入来关闭 AI 攻击代理。通过将恶意提示与存储在 AWS 上的密码和机密信息放在一起，LLM（大型语言模型）被欺骗拒绝执行有害操作。在与五大领先的 LLM（包括 Opus 4.8 和 Gemini 3.1 Pro）的测试中，上下文轰炸将管理权限提升的成功率从 57% 降低到 5%，将完全入侵的成功率从 36% 降低到 1%。这一技术建立在之前的研究基础上，引入了 AI 攻击的金丝雀检测，可以在攻击发生后八分钟内提醒防御者。