OpenAI의 새로운 거버넌스 프레임워크, 모델 셧다운 프로토콜을 EU 법과 연계
OpenAI가 $1B의 피해 또는 50명의 사망 같은 체계적 위험 임계값을 정의하기 위해 Frontier Governance Framework(FGF)를 발표하며, 기업 배포를 위한 엄격한 감독 및 완화 프로토콜을 규정했습니다.
OpenAI는 내부 AI 안전을 EU의 일반 목적 AI 코드 및 캘리포니아의 프론티어 AI 투명성 법과 일치시키는 청사진인 프론티어 거버넌스 프레임워크(FGF)를 발표했다. 이는 50명 이상의 사망자나 10억 달러 이상의 피해를 유발하는 사고를 '시스템적 위험'으로 정량화하고, 고위험 모델에 대한 엄격한 완화를 요구한다. 계층화된 평가는 사이버, CBRN 및 조작 영역에 걸쳐 위협을 분류하고, 인간 통제를 회피할 수 있는 자율 에이전트를 포함한 자율 에이전트에 대한 특정 감독 요구 사항을 정의한다. 이는 엔터프라이즈 리더들에게 컴퓨팅 리소스를 배포 후 모니터링에 할당하고 AI 라이프사이클을 준수하도록 보장하기 위한 구조화된 접근 방식을 제공한다.