정량적 AI 리스크 모델링 제안
연구진은 1975년 이후 원자력 산업의 전환을 예로 들며 AI 안전을 정성적 평가에서 정량적 확률론적 모델링으로 전환할 것을 제안했습니다.
1975년 WASH-1400 보고서가 원자력 안전에 혁명을 일으킨 것과 유사한 맥락을 그리면서, 이 제안은 현재의 AI 위험 관리가 질적 능력 평가에 지나치게 의존하고 있다고 주장한다. 저자들은 정량적 모델링을 통해 가정의 명시적 문서화가 가능해져 비판과 반복적인 개선을 가능하게 하고 규제 기관이 특정 확률 벤치마크를 설정할 수 있다고 제안한다. 이 접근 방식의 실행 가능성을 입증하기 위해 팀은 AI 지원 사이버 공격을 특별히 조사하는 9개의 확률 모델을 구축하여 정량적 AI 안전 표준의 추가 개발에 대한 비판과 초청을 희망한다.