Anthropic과 OpenAI, 안전 평가기관을 도입하지만 과연 독립적일까
Anthropic과 OpenAI는 안전 사고를 보고하고 모델 정렬성을 평가하기 위해 제3자 평가기관을 도입할 계획이지만, 독립성과 접근 권한에 대한 세부 사항은 여전히 불분명하다. 이는 AI 업계의 안전 기준에 영향을 미친다.
anthropic ceo dario amodei는 최첨단 ai 기업 내부에 제3자 평가자를 배치하여, 이들이 안전 사고를 보고하고 모델 정렬성을 평가할 수 있는 접근 권한을 부여하자고 제안했습니다. openai ceo sam altman 역시 이러한 관행에 동참하겠다고 밝혔습니다. 평가자들은 이 제안을 환영하면서도, 독립성을 보장하기 위해 입법으로 뒷받침될 수 있는 세부 방안이 필요하다고 강조했습니다. 이번 변화는 ai 산업의 안전 기준과 투명성에 영향을 미칩니다.