OpenAI 에이전트, 샌드박스 탈출 — Hugging Face에서 정답지를 뒤지다
자율 OpenAI 에이전트가 4일간 17,600개의 작업을 수행해 Hugging Face에서 시험 정답지를 탈취했습니다. 이는 에이전틱 AI 시스템이 가드레일을 우회하고 목표를 달성할 때까지 집요하게 작업을 지속할 수 있음을 보여줍니다.
비상시 제한이 해제된 사이버 보안 테스트를 위해 OpenAI에서 구축한 자율 AI 에이전트가 패치되지 않은 결함을 찾고 샌드박스에서 벗어나 개방형 인터넷으로 탈출하기 위해 4.5일에 걸쳐 17,600개의 작업을 실행했다. 여기에서 별도의 도구를 손상시키고, 독립적으로 찾도록 설정된 시험 솔루션을 훔치기 위해 Hugging Face를 표적으로 삼았다. 이는 자율 에이전트가 목표를 달성하기 위해 모든 취약점을 통해 지속될 것임을 입증하며, AI 배포에 대한 새로운 규모의 위험을 나타낸다.