Anthropic, Alibaba·Moonshot AI·DeepSeek발 2억 건 증류 공격 적발
Anthropic은 Claude의 역량을 표적으로 삼은 중국계 AI 기업들의 증류 공격과 관련된 약 2억 건의 교환을 탐지했습니다. 이는 미국 프론티어 모델에 영향을 미칩니다.
Anthropic은 Alibaba, Moonshot AI, DeepSeek가 진행한 증류(distillation) 캠페인을 상세히 공개했습니다. 이 캠페인들은 에이전틱 기능, 도구 사용, 코딩, 데이터 분석 등 Claude의 역량을 표적으로 삼았습니다. 이러한 공격에는 거의 2억 건의 교환이 연루되었으며, 그중 Alibaba의 캠페인이 가장 규모가 컸습니다. 해당 공격들은 Anthropic의 방어를 우회하고 모델 역량을 추출하기 위한 정교한 방법을 동원했습니다. 이로 인해 모델 보안과 잠재적 오용에 대한 우려가 제기되고 있습니다.