Anthropic 发现来自阿里巴巴、Moonshot AI、DeepSeek 的 2 億次蒸馏攻击
anthropic 检测到近 2 亿次与中国 AI 公司蒸馏攻击相关的交换，影响 Claude 的能力. 这会影响美国前沿模型.
anthropic 详细阐述了来自 alibaba、moonshot ai 和 deepseek 的蒸馏活动，这些活动针对 claude 的智能体能力、工具使用、编码和数据分析等能力。近 2 亿次交流与这些攻击有关，其中 alibaba 的活动规模最大。这些攻击涉及复杂的方法，以绕过 anthropic 的防御并获取模型能力。这引发了对模型安全和潜在滥用问题的担忧。