Bristolの研究者ら、医薬品試験の手法をAIの信頼性検証に応用
University of Bristolの研究者らは、医薬品試験の基準をモデルに、医療AIシステムの信頼性を体系的に検証するフレームワークを提案し、臨床利用における失敗の防止を目指している。
ブリストル大学の研究者らは、医療AIシステムの信頼性を体系的にテストするためのフレームワークを提案した。このフレームワークは「learning ensemble」と呼ばれ、新薬を市場に投入する際に医学で用いられる基準をモデルとしている。同フレームワークは、システムの動作限界と訓練データ、すべての患者グループにわたる信頼性、そして日常の臨床使用への実際の適合性という3つの領域を検証する。このアプローチは、AIシステムが無関係な画像パターンに惑わされて失敗したり、患者のリスクを誤判定したりすることを防ぐことを目的としている。このフレームワークは、開発者が問題をより早期に発見できるよう、共通の言語と構造を提供する。