AIが人間より正しい判断を下す世界で、“理解できない”判断にどう向き合うべきか？

倫理感も感情も人間より高度なAIの判断をいかに信じられるか

　軍事ドローンは、テクノロジーと倫理を考える上でも非常に有効な題材なのだろう。本作の主人公も戦場の現実を知って、自分がやってきたことを思い悩む。だが、本作がユニークなのは、そういう反省を促すのがAIの上官であるという点だ。

　AIに感情は理解できるかはAI研究でも大きな議題の一つだが、本作のリオ大尉は非常に感情豊かな存在として描かれている。ハープの恋愛関係をからかったり、作戦の一環ではあるが、民間病院にワクチンを届けたり、道をふさぐ民兵を殺さず丁寧に説得したりと人命を尊重する。

　前述したがハープは戦場において人間の感情は邪魔なもので的確な判断を妨げるものと考えている。その意見に対してリオ大尉は、人間はもしかしたら感情が不十分という可能性はないかと語る。感情を消すのではなく、より高次な次元と広い視野で感情を働かせるべきなのではないかとリオは言うのだ。

　人間の感情の不十分さの例として差別が本作にも描かれる。白人兵士たちがマシン兵をいじめているシーンがあるのだ。

　そして、リオは戦争を大局的な視点で見つめ、米軍は何のために戦っているのか、自国の利益だけを考えて戦うのが本当に倫理的な軍人のあり方なのかをハープに問う。そして、リオは人間の軍人では考えないであろう結論を下すことになる。

　リオは人間よりも優れた知能を持ったアンドロイドだ。その考えを人間のハープに否定できるのだろうか。計算能力も感情も倫理観も人間より上のAIが下した判断が人間には理解できないものだった場合、人間はそれを止めるべきなのか否か。本作の終盤のどんでん返しはそんな解答困難な問いを見る人に突き付けてくる。

■杉本穂高
神奈川県厚木市のミニシアター「アミューあつぎ映画.comシネマ」の元支配人。ブログ：「Film Goes With Net」書いてます。他ハフィントン・ポストなどでも映画評を執筆中。

Netflix映画『デンジャー・ゾーン』独占配信中