OpenAIのGPT-Redが84%の攻撃成功率:AIレッドチーミングが人間を上回る
OpenAIの社内モデルGPT-Redはテストの84%でセキュリティ欠陥を発見したのに対し、人間のレッドチームメンバーは13%だった。この自動化された強化学習アプローチはプロンプトインジェクションのリスクを減らすが、それでも3.8%のケースで攻撃が成功している。
openai trained gpt-red using self-play reinforcement learning to simulate malicious prompt injections, finding vulnerabilities in 84% of tests versus 13% by human red teamers. this automated process improved gpt-5.6 sol, reducing direct prompt injection failures sixfold compared to previous models. however, robust attacks still penetrate defenses 3.8% of the time, indicating remaining vulnerabilities. openai integrates these findings directly into model training but has not released gpt-red publicly.