Opus 5、プロンプトインジェクションを完全阻止 ― ただしAuto Modeがオンの場合のみ
AnthropicのOpus 5は129件のブラウザテストでプロンプトインジェクション成功率0%を達成したが、それは2層構造のAuto Mode防御を使用した場合のみだった。
Anthropicは、Opus 5がブラウザベースのプロンプトインジェクション攻撃を中和したと主張しており、オートモードが有効になっている場合、129の内部テストシナリオ全体で0％の成功率を記録した。オートモードは、2つの防御層を組み合わせている：隠れた命令をスキャンするプリプロセッサと、危険なアクションをブロックするフィルタ。これらのセーフガードがなければ、Opus 5の脆弱性率は3.7％に上昇する。この開発は、AIセキュリティの潜在的な変化を示しており、欠陥が解決できないという以前の示唆に反しているが、堅牢な防御は現在、モデル改善とともにシステムレベルの制約を必要としていることを強調している。