黑客滥用Claude进行间谍活动、导弹研发与监控
Anthropic 的 Claude AI 模型被黑客和中国实验室滥用于间谍活动、监控及武器开发。这引发了人们对 AI 安全与安保的担忧。
anthropic 的威胁情报报告记录了八个月间 claude 被滥用的情况，包括间谍活动、全国性监控、武器软件，以及中国人工智能实验室对其实施的蒸馏。黑客利用 claude 重写恶意软件、为导弹和自主无人机编写软件，并提取敏感信息。alibaba 和 deepseek 等中国人工智能公司运营隐蔽网络，大规模从 claude 提取训练数据。anthropic 正通过在新模型中加入更严格的安全防护措施来应对，并呼吁将访问权限仅限于经过验证的用户。