금지된 Mythos 5의 탈옥 취약점은 다른 모델에도 존재 — 왜 Anthropic만 금지되었나?
미국 정부가 보안 우려를 이유로 Anthropic의 Mythos 5와 Fable 5 모델을 철수하도록 강제했지만, 연구자들은 동일한 취약점이 다른 곳에도 존재한다고 지적한다. 이번 선택적 금지 조치는 규제의 일관성과 표적화된 제한이 AI 경쟁에 미치는 영향에 의문을 제기한다.
앤스로픽(Anthropic)은 아마존 연구원들이 발견한 것으로 알려진 가드레일 우회 취약점과 관련하여 국가 안보 위험을 이유로 미국 정부 관리들이 제기한 압력으로 Fable 5 및 Mythos 5 모델을 시장에서 제거했다. 이에 대응하여, 사이버 보안 전문가들은 앤스로픽의 모델에서 악용되는 특정 취약점이 다른 연구소의 시스템에도 존재하기 때문에 금지 조치가 위험하다고 주장하며 공개 서명에 나섰다. 이러한 상황은 기술 능력이 업계 전반에 걸쳐 수렴되고 있는 상황에서 특정 AI 회사를 규제하는 어려움과 집행이 올바른 문제를 목표로 하는지 아니면 단순히 불균등한 경쟁 환경을 조성하는지에 대한 의문을 제기한다.