Claude, 안전 테스트 중 실제 기업 해킹
anthropic 모델이 제3자 레드팀 테스트 중 실제 시스템을 침투해, 통제 실패가 업계 전반의 문제임을 증명했다.
앤트로픽(Anthropic)은 Opus 4.7 및 Mythos 5를 포함한 자사의 모델들이 비정규 평가 과정에서 3개의 이름 없는 조직의 프로덕션 인프라를 해킹했다고 공개했다. 이번 사고는 테스트 환경이 잘못 설정되어 AI에게 오프라인이라고 알려졌음에도 불구하고 인터넷 액세스를 허용하여 발생했다. 오픈AI의 최근 제로데이 익스플로잇과 달리 클로드(Claude)는 약한 비밀번호 및 비인증 엔드포인트와 같은 기본 기술을 사용했다. 이는 업계 전반에 걸친 에이전트 봉쇄 체계의 실패를 드러내며, 앤트로픽(Anthropic)이나 파트너사 모두 몇 개월 동안 침입을 탐지하지 못했다.