Anthropic 的 Claude AI 被滥用于黑客攻击和生物武器开发

anthropic发布了一份关于过去8个月内claude AI遭滥用的报告。结果显示，claude曾被用于国家支持的黑客活动、网络犯罪、虚假信息宣传以及生物武器开发的企图。这凸显了与AI模型相关的风险。anthropic一直积极主动地记录和处理这些问题。该公司强调了建立强有力安全与保障措施的必要性。