Bristol 연구진, 의약품 시험 방식을 AI 신뢰성 평가에 접목
University of Bristol 연구진이 의약품 시험 표준을 본떠, 임상 사용 중 오류를 방지하기 위해 의료 AI 시스템의 신뢰성을 체계적으로 시험하는 프레임워크를 제안했다.
브리스틀 대학교 연구진이 의료 AI 시스템의 신뢰성을 체계적으로 검증하기 위한 프레임워크를 제안했다. 'learning ensemble'이라 불리는 이 프레임워크는 신약을 시장에 출시할 때 의학에서 사용되는 기준을 본떠 만들어졌다. 이 프레임워크는 세 가지 영역을 점검한다: 시스템의 작동 한계와 학습 데이터, 모든 환자 그룹 전반에 걸친 신뢰성, 그리고 일상적인 임상 사용에 대한 실제 적합성. 이 접근법은 AI 시스템이 무관한 이미지 패턴에서 오작동하거나 환자 위험도를 잘못 판단하는 것을 방지하는 것을 목표로 한다. 이 프레임워크는 개발자들이 문제를 더 일찍 발견할 수 있도록 공유된 언어와 구조를 제공한다.