Anthropic, Alibaba의 '뻔뻔한' Claude 증류 공격 지적
Anthropic은 Alibaba가 '알려진 것 중 가장 큰 규모'의 증류 공격에서 Claude의 능력을 '불법적으로' 추출했다고 비난했으며, 이로써 프론티어 모델 벤더들의 보안 리스크가 높아졌습니다.
앤트로픽(Anthropic)은 중국 기술 대기업 알리바바(Alibaba)가 자사의 클로드(Claude) 모델에서 데이터를 '불법적으로' 추출하여 경쟁 모델을 훈련시켰다며, 이를 '가장 큰 알려진' 증류 공격이라고 주장했다. 이 회사는 알리바바가 수천 개의 POE 계정을 사용하여 텍스트 출력을 수집하고, 무단 모델 복제를 방지하기 위해 설계된 안전장치를 우회했다고 주장한다. 이번 사건은 서방의 AI 연구소와 중국 경쟁업체들 간의 긴장감이 고조되고 있음을 부각시키며, 중국 경쟁업체들이 역량 격차를 역설계 통해 좁히려는 움직임을 보이고 있다. 이러한 상황은 외국 적국에 대한 AI 공급망을 안전하게 보호하기 위한 지정학적 압박이 증가하는 가운데 드러났다.