OpenAI의 GPT-Red, 84% 공격 성공률 기록: AI 레드팀이 인간을 앞지르다
OpenAI의 내부 모델 GPT-Red는 테스트의 84%에서 보안 취약점을 발견한 반면, 인간 레드팀은 13%에 그쳤습니다. 이 자동화된 강화 학습 접근 방식은 프롬프트 인젝션 위험을 줄이지만, 여전히 3.8%의 사례에서 공격이 성공합니다.
openai trained gpt-red using self-play reinforcement learning to simulate malicious prompt injections, finding vulnerabilities in 84% of tests versus 13% by human red teamers. this automated process improved gpt-5.6 sol, reducing direct prompt injection failures sixfold compared to previous models. however, robust attacks still penetrate defenses 3.8% of the time, indicating remaining vulnerabilities. openai integrates these findings directly into model training but has not released gpt-red publicly.