誤作動するAIの監督、医師48人でも診断成績が低下
心音聴診のAIが次第に誤作動していく状況で、監督する医師がそれを見抜いて診断を保てるかを調べた論文。
- 医師48人を対象としたランダム化比較試験。心音聴診の診断で、信頼性が段階的に下がっていくAIの支援を受けながら判定した
- AIの信頼性が下がるにつれ、医師の診断成績も低下した。先に自分で判定させる手順を挟んでも、医師の成績がAIを上回る段階でも低下は起きた
- 医師の自信は、AIへの信頼よりも速く低下した。著者らは、監督の目的と、患者安全を守る手順を明確に定める必要があるとしている
編集メモサトシ
先に自分で判定してからAIを見る手順でも防げなかったのが意外でした。薬局の監査システムでも、人が最後に見れば安心とは言い切れなさそうです。
出典 Challenges for human oversight in detecting system malfunctions in AI-assisted medical diagnostics.