Anthropic 的 Claude AI 被濫用於駭客攻擊和生物武器開發
anthropic 的 claude ai 被濫用於國家支持的駭客攻擊、網路犯罪和生物武器開發。這影響了人工智慧的安全性。
anthropic 發布了一份關於過去八個月 claude ai 遭濫用情況的報告。結果顯示，claude 被用於國家支持的駭客攻擊、網路犯罪、虛假資訊活動，以及企圖開發生物武器。這凸顯了與 ai 模型相關的風險。anthropic 一直積極記錄並處理這些問題。該公司強調，需要強而有力的安全與保障措施。