人はAIの診断をいかに信用するのか

　医療AIが発達し、「AIドクター」が個人の診断を行うことが当たり前になったとき、誤診が発生したら誰の責任になるのかという倫理的、法的な課題も存在する。

　今の所は、最終的な判断は医師が行うものとなっているが、AIの精度が向上し、人間以上の判断力を有しているとみなされるようになったとき、医師はAIの判断や予測をどのように評価すればよいのかという課題に直面するだろう。

　そして、その判断をどのように患者に説明すれば良いのかも非常に難しい問題だ。すでにがん検診ではAIの方が人間による診断よりも精度が高いケースがあることは前述したが、人間の医師とAIとで異なる診断が出た場合、患者はどちらを信用すればいいのだろうか。そして、AIの判断の根拠を医師側は示すことができるのだろうか。

　『ターミネーター：ニューフェイト』の記事（参照：『ターミネーター：ニュー・フェイト』を軸にAIの未来を考える　人工知能は脅威か、それとも恩恵か）でも紹介したが、現状のディープラーニングは、その結果が最適であると判断したプロセスを説明できない。そのため“説明できる”AIの開発も進められているが、命に関わる医療現場では、この課題がことさらに重要だ。

　そして、これは過学習の問題にも通じるが、AIに学習させたデータが適切でなかった場合に間違った診断結果が出てくることも考えられる。本作でもAI「のぞみ」が戦場などの悲惨な画像を大量に学習してしまい、それによって命の選別を開始する様子が描かれるのだが、一度学習して蓄積したデータモデルを別のモデルに作り変えるのは、大変な作業だそうだ。

　「例えば前のモデルでデータを蓄積するのに10年かかったとしたら、新しいモデルを作るためのデータの収集にまた10年を要するかもしれません。誤診に気づくまでの間、さらには新しいデータを貯めてモデルが改良するまでの間、誤診が続く可能性があります」（参照：AI化で「製造」される問題、「発見」される問題。）。

　つまり、命の選別に関しても、どんなデータを学習させるかによって、助かる命が変わってくるということになる。どこでどんなデータをAIが読み込んでいるのか、一般の人間には見難いのだが、そういうものに命を握られている世界なのだ。

　本作のように医療AIが全面的に普及した時代、我々の命を握っているのは“データ”という目に見えないものであるということになる。目に見えないものに命を握られている感覚は、ウイルスなどに対する恐怖に近い状態なのではないだろうか。日本社会は、医療AIに頼らざるを得ない事情がたくさんある。ここに着目した入江監督の選球眼は素晴らしい。『AI崩壊』はフィクションであっても、決して非現実的な物語ではないのだ。

■杉本穂高
神奈川県厚木市のミニシアター「アミューあつぎ映画.comシネマ」の元支配人。ブログ：「Film Goes With Net」書いてます。他ハフィントン・ポストなどでも映画評を執筆中。

■公開情報
『AI崩壊』
全国公開中
出演：大沢たかお、賀来賢人、広瀬アリス、岩田剛典、高嶋政宏、芦名星、玉城ティナ、余 貴美子、松嶋菜々子、三浦友和
監督・脚本：入江悠
企画・プロデュース：北島直明
配給：ワーナー・ブラザース映画
(c)2019映画「AI崩壊」製作委員会
オフィシャルサイト