Amodei, 오픈 웨이트의 위험성 경고 — 하지만 금지를 원한다고는 부인
Anthropic의 CEO Dario Amodei는 오픈 웨이트 모델이 생물학적 위협과 중국을 돕는다고 경고하며, 권위주의적 오남용을 막기 위해 더 엄격한 수출 통제와 안전 테스트를 주장했습니다.
앤트로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)는 중국이 우수한 AI를 사용하여 군사적 우위를 차지하거나 악의적인 행위자가 공개 가중치를 사용하여 생물학적 무기를 설계하는 '악몽 시나리오'를 자세히 설명했다. 그는 방어-공격 균형이 생물학에서 공격자에게 크게 유리하다고 주장하면서 미국 칩 수출 통제 강화와 강력한 모델에 대한 안전 테스트 의무화 등 구체적인 정책 조치를 권장했다. 그러나 그는 저능력 개방형 모델은 여전히 공공재라고 언급했다. 이러한 입장은 개방형 소스 옹호자와 폐쇄형 모델 연구소 간의 갈등을 심화시키며, 오픈AI가 최근 개방형 가중치를 지원하는 서명을 했음에도 불구하고 비공개적으로 개방형 가중치에 반대 로비를 하고 있다는 보도가 나오고 있다.