Anthropic의 Mythos 5 금지: 다극화된 세계에서 한 모델 차단의 무의미함
미국 정부는 국가 안보 우려를 이유로 Anthropic에 첨단 Mythos 5 및 Fable 5 모델을 오프라인으로 전환하도록 강제했지만, 전문가들은 유사한 사이버 능력이 업계 전반에서 불가피하다고 경고합니다.
앤트로픽(Anthropic)은 트럼프 행정부가 수출 통제 지침을 발표한 후 클로드 페이블 5(Claude Fable 5) 및 미토스 5(Mythos 5) 모델을 오프라인으로 전환했다. 이는 페이블 5의 가드레일(Guardrails)이 우회되어 미토스의 취약점 악용 도구에 접근할 수 있다는 우려 때문이었다. 앤트로픽이 프로젝트 글래스윙(Project Glasswing)과 같은 제한된 미리보기(Previews)를 통해 이러한 기능을 안전하게 출시하려고 시도했음에도 불구하고 규제 기관은 이들을 국가 안보 위험으로 간주했다. 보안 연구원 타라 휠러(Tarah Wheeler)와 브루스 슈나이더(Bruce Schneier)는 앤트로픽에 대한 이러한 초점이 근시안적이라고 경고한다. 경쟁사인 오픈AI(OpenAI) 및 오픈 소스 개발자가 동등한 모델을 출시하려는 상황에서, 단일 모델 금지 조치는 비효과적이라는 것이다. 이러한 상황은 공격적인 사이버 역량이 프론티어 모델의 표준 기능으로 되고 있음을 시사하며, 이는 단일 모델 금지의 효과를 무효화한다.