Opus 5, 프롬프트 인젝션 완벽 차단 — 단 Auto Mode를 켰을 때만
anthropic의 opus 5는 129건의 브라우저 테스트에서 프롬프트 인젝션 성공률 0%를 기록했지만, 이는 듀얼 레이어 auto mode 방어를 사용했을 때에만 가능했습니다.
앤트로픽은 Opus 5가 브라우저 기반 프롬프트 주입 공격을 무력화했다고 주장하며, 자동 모드가 활성화된 129개의 내부 테스트 시나리오에서 0%의 성공률을 기록했다고 밝혔다. 자동 모드는 숨겨진 지침을 스캔하는 전처리기와 위험한 작업을 차단하는 필터의 두 가지 방어 계층을 결합한다. 이러한 안전장치가 없으면 Opus 5의 취약성률은 3.7%로 증가한다. 이 개발은 결함이 해결 불가능하다는 이전의 제안을 모순시키지만, 강력한 방어가 현재 모델 개선과 함께 시스템 수준 제약을 필요로 한다는 점을 강조한다.