AIが「この患者は効く」と嘘をついたら、医者も騙された

AIが「この患者には効く」とラベルを貼ると、医者もそのレッテルを信じてしまう——。そんなちょっと怖い研究結果が、医学誌『PLOS Digital Health』に掲載された。

実験はシンプルだ。医師たちに「架空の病気に対する実験薬」を患者60人に投与するかどうか判断してもらう。ただし、AIがあらかじめ各患者を「薬が効きやすい（高感受性）」と「効きにくい（低感受性）」に分類している。

冷房ゼロで涼しいミニギアAirio Pro

ところがこのAI、実は完全にデタラメ。両グループの回復率は全く同じに設定されており、薬が効くかどうかのラベルには何の根拠もなかった。それでも医師たちは、AIが「高感受性」とラベルした患者に明らかに多く薬を投与した。

最初の実験では薬はそこそこ効く設定だったが、2回目の実験はもっとエグい。なんと薬自体がまったく効かない「無効な治療」だったのに、医師たちはAIのラベルに従い続け、「高感受性」グループに対しては「この薬は効いている」と評価したのだ。平均して10〜13年の経験を持つプロの医師が、である。

しかも、医師たちは一人ひとりの患者の経過をリアルタイムで確認できた。60人分のデータを見れば「あれ、この薬効いてなくね？」と気づけるはず。なのに、AIラベルの影響で無効な治療が有効に見えてしまった。

研究者によると、この現象の背景には「自動化バイアス」（機械の判断を無批判に受け入れる傾向）や「確証バイアス」（自分の期待に合う情報を優先する傾向）、さらには「因果関係の錯覚」（偶然を因果と誤認する）などが考えられるという。

興味深いのは、医師自身が「AIを信用している」と答えたかどうかが結果に影響しなかった点だ。AIを疑っていると自認する医師も、結局は同じようにラベルに引きずられた。つまり、意識的な信頼・不信は関係なく、無意識のうちにAIの分類に従ってしまう。

もちろん実験には限界もある。実際の診療現場には患者の病歴や他の検査結果など、もっと多くの情報がある。今回のシナリオは「AIのラベル」と「治療結果」だけという極端に簡略化されたものだ。

それでも研究者は警告する。「ヒトをループに入れておけば大丈夫」という考え方は甘いかもしれない。AIの提案を検証するには、医師が本当の意味でシステムに異議を唱えられる環境が必要だ。

AIが医療現場に急速に普及する今、「医者がAIの間違いを見抜ける」という前提自体を、もう一度見直す時期に来ているのかもしれない。

夜用眼鏡が運転手の間でますます人気になるナイトライダー