rotative
the decoder · 2026年7月25日

Opus 5 徹底阻止提示詞注入攻擊——但這僅在啟用 Auto Mode 時

anthropic 的 opus 5 在 129 次瀏覽器測試中實現了 0% 的提示詞注入成功率,但這僅在利用其雙層 auto mode 防禦機制時。

read in English · 简体中文 · 日本語 · 한국어

Anthropic 聲稱 Opus 5 已中和基於瀏覽器的提示詞注入攻擊,在啟用自動模式(auto mode)時,跨 129 個內部測試場景中記錄了 0% 的成功率。自動模式結合了兩層防禦:掃描隱藏指令的前處理器和阻止危險操作的過濾器。沒有這些安全措施,Opus 5 的漏洞率攀升至 3.7%。這一進展表明 AI 安全可能發生轉變,與早期認為該缺陷無法解決的說法相矛盾,但也強調了目前穩健的防禦需要系統級約束和模型改進相輔相成。

read at source ↗

← rotative