Anthropic, 제3자 평가기관 도입으로 AI 안전에 대한 의지 표명
Anthropic은 제3자 평가기관에 자사 시스템에 대한 영구적이며 직원 수준의 접근 권한을 제공할 예정이며, 이는 AI 업계의 안전 및 규제 접근 방식에 전환점이 될 수 있는 조치입니다. 이번 발전은 AI 개발과 규제의 미래에 영향을 미칠 수 있습니다.
Anthropic의 CEO 다리오 아모데이(Dario Amodei)는 'we must pace the frontier(프론티어의 속도를 조절해야 한다)'라는 제목의 3,500단어 분량 에세이를 발표하며 AI 개발 속도 조절을 촉구했고, 이를 달성하기 위한 3부로 구성된 계획을 제시했습니다. Anthropic은 첫 번째 단계를 일방적으로 이행하여, 제3자 평가 기관에 자사 시스템에 대한 영구적이고 직원 수준의 접근 권한을 제공하고 있습니다. 이번 움직임은 엇갈린 반응을 불러왔으며, 일부는 투명성에 대한 약속을 높이 평가한 반면, 다른 일부는 회사의 의도에 대해 회의적인 시각을 표했습니다. 이번 조치는 AI 개발과 규제의 미래에 영향을 미칠 수 있으며, 특히 샘 알트먼(Sam Altman)과 일론 머스크(Elon Musk) 등 영향력 있는 인물들의 지지를 감안할 때 더욱 그렇습니다.