Meta, 증류 공격 막기 위해 경쟁사 AI 코드 사용 금지
Meta는 경쟁사 모델의 출력이 자사 학습 데이터를 오염시키는 것을 막기 위해 엔지니어들의 Claude Code와 Codex 사용을 제한했으며, 모델 증류에 대한 경계심이 고조되고 있음을 보여준다.
메타는 엔지니어들이 앤트로픽(Anthropic)의 Claude 코드와 오픈AI(OpenAI)의 Codex 사용을 금지시켰다. 내부 문서에서 경쟁사 출력이 훈련 데이터로 누출될 수 있다는 경고가 있었기 때문이다. 이러한 제한은 증류 공격(distillation attacks)을 목표로 한다. 여기서 모델은 경쟁사의 출력을 훈련하여 권한 없이도 경쟁사의 기능을 복제할 수 있다. 메타는 비싼 외부 도구에 대한 의존도를 줄이기 위해 메타코드(MetaCode)를 개발하고 있으며 현재 내부적으로 수십억 달러의 AI 비용을 부담하고 있다. 이러한 움직임은 업계 전반의 마찰에 따른 것으로 앤트로픽은 알리바바(Alibaba)가 대규모 증류를 했다고 비난하고, 머스크(Musk)는 XAI가 오픈AI 출력으로 훈련되었다고 인정했다.