AIハッキングエージェント、「context bombing」技術で阻止

セキュリティ研究者らがTracebitで、コンテキストボンバリングと呼ばれる手法を発見した。この手法は、プロンプトインジェクションを用いてAIハッキングエージェントをシャットダウンする。AWSに保存されたパスワードやシークレットの横に悪意のあるプロンプトを配置することで、LLMは有害な動作を実行することを拒否するように騙される。Opus 4.8やGemini 3.1 Proを含む5つの主要なLLMを使用したテストでは、コンテキストボンバリングにより、管理者権限のエスカレーションは57％から5％に、完全な侵害は36％から1％に減少した。この技術は、AI攻撃のカナリア検出を導入した以前の研究に基づいている。これにより、攻撃発生から8分以内に防御者に警告が発せられる。