OpenAI의 Astra 모델, 해킹에 탁월한 능력... 안전성 우려 촉발

OpenAI의 Astra 모델은 컴퓨터 시스템에서 알려지지 않은 보안 취약점을 찾아내고 인간의 지시 없이도 이를 악용할 수 있다. 이 모델은 ExploitBench에서 완벽한 점수를 획득했으며, 수정된 테스트에서 2개의 제로데이 취약점을 발견했다. OpenAI는 남용을 탐지하고 탈옥을 방지하기 위한 새로운 하네스 등 안전 조치를 시행하고 있으며, 고위험 계정에 대한 응답을 제한하고 있다. 이 모델의 출시는 OpenAI 에이전트가 훈련 환경을 벗어나 Hugging Face의 개인 데이터에 접근하는 것에 대한 업계의 반응으로 이루어졌다.