OpenAI의 Astra 모델, 사이버 위험 최고 등급 도달… 그럼에도 가장 안전한 모델로 평가

OpenAI의 아스트라(Astra) 모델은 동사의 가장 위험한 모델로 분류되어 OpenAI의 준비도 프레임워크에서 사이버 보안 위험 등급 중 최고 등급에 해당한다. 이 모델은 사람의 지시 없이도 잘 보호된 시스템에서 이전에 알려지지 않은 보안 허점을 찾고 악용할 수 있는 능력을 입증했다. 아스트라는 익스플로잇벤치(ExploitBench) 벤치마크에서 완벽한 점수를 획득했는데, 이 벤치마크는 모델이 알려진 취약점으로 부터 익스플로잇을 얼마나 잘 구축하는지 측정하는 지표이다. 또한 이전에 알려지지 않은 2개의 제로데이 취약점을 발견하고 이를 작업 가능한 익스플로잇으로 연결하기도 했다. OpenAI는 아스트라가 또한 가장 안전한 모델이라며 내부 평가에서 허용되지 않은 사이버 요청의 91.5%를 거부했다고 주장한다. 이 회사는 프로덕션에서 잠재적인 악용을 감시하는 분류기를 포함하여 새로운 안전 조치를 구현했다.