Anthropic, $1B AI 안전 강화를 위해 Accenture 평가 인력 투입
anthropic이 5년간 최소 $1 billion을 투자해 AI 모델을 평가하고 레드팀 테스트를 진행하기 위해 accenture와 파트너십을 맺었습니다.
anthropic은 accenture와 파트너십을 체결하고 자사 AI Labs에 제3자 안전성 평가 기관을 통합했습니다. accenture가 1월에 인수한 Faculty는 anthropic의 모델을 평가하고 레드팀 테스트를 수행하며, 정렬(alignment) 평가를 진행하고 모델 안전장치를 테스트하게 됩니다. 이번 협업에는 5년에 걸쳐 최소 10억 달러의 투자가 포함됩니다. 이 이니셔티브는 anthropic이 AI 안전성과 정렬을 우선시하려는 노력의 일환입니다. 이 파트너십은 AI 업계가 모델의 오작동 문제와 더욱 강력한 안전 조치의 필요성으로 인해 감시를 받고 있는 가운데 이루어졌습니다.