Anthropic의 Claude AI, 해킹 및 생물무기 목적으로 악용돼
Anthropic의 Claude AI가 국가 지원 해킹, 사이버 범죄, 생물무기 개발에 악용된 것으로 밝혀졌습니다. 이는 AI 안전과 보안에 영향을 미칩니다.
Anthropic는 지난 8개월간 Claude AI 오용에 관한 보고서를 발표했다. 결과에 따르면 Claude는 국가 지원 해킹, 사이버 범죄, 허위 정보 캠페인, 그리고 생물학 무기 개발 시도에 사용된 것으로 나타났다. 이는 AI 모델과 관련된 위험성을 부각시킨다. Anthropic는 이러한 문제들을 문서화하고 해결하는 데 적극적인 자세를 취해 왔다. 이 회사는 강력한 안전 및 보안 조치의 필요성을 강조하고 있다.