Anthropic 發現來自阿里巴巴、Moonshot AI、DeepSeek 的 2 億次蒸餾攻擊
anthropic 偵測到近 2 億次與中國 AI 公司蒸餾攻擊相關的交換，影響 Claude 的能力. 這會影響美國前沿模型.
anthropic 詳細說明了來自 alibaba、moonshot ai 和 deepseek 的蒸餾活動，這些活動針對 claude 的各項能力，例如代理能力、工具使用、編程和資料分析。近 2 億次互動與這些攻擊有關，其中以 alibaba 的活動規模最大。這些攻擊涉及複雜的手法，用以繞過 anthropic 的防禦並擷取模型能力。這引發了對模型安全及潛在濫用的疑慮。