Amazon이 Claude Fable 5를 문제 삼았고 — 이제 미국이 이를 금지했다

아마존 CEO 앤디 재시(Andy Jassy)는 재무장관 스콧 베센트(Scott Bessent) 및 기타 관계자들에게 Anthropic의 클로드 Fable 5의 심각한 취약성에 대해 경고를 보낸 것으로 알려졌다. 특히 연구진은 이를 이용해 잠재적인 사이버 공격에 대한 정보를 생성했다. 이 공개는 미국 정부가 금요일 Fable 5와 Mythos 5 모델에 대한 수출 통제 금지 조치를 취하도록 촉발했으며, 이는 특정 AI 가중치를 대상으로 하는 드문 조치이다. 백악관 AI 책임자 데이비드 삭스(David Sacks)는 신뢰할 수 있는 파트너가 jailbreak를 보고했으며 행정부는 Anthropic에 결함을 수정하거나 배포를 중단할 것을 요청했지만 CEO 다리오 아모데이(Dario Amodei)가 거부했다고 주장했다. 아마존은 Anthropic의 주요 투자자이기 때문에 이 사건은 사설 부문 보안 우려가 모델 배포에 대한 즉각적인 연방 개입을 직접 주도하는 분수령을 나타낸다. 이번 사건은 향후 AI 거버넌스가 표준화된 안전 프레임워크가 아닌 기업 파트너의 적대적 보고에 의존할 수 있음을 시사한다.