AIが人間より正しい判断を下す世界で、“理解できない”判断にどう向き合うべきか？

　AIは人間の知能をいつか超えると言われている。それはすなわち「AIの下す判断が、人間よりも正しいものになる」ということかもしれない。

　しかし、その決断や判断がどう正しいのかについて、人間の我々はどうやって評価できるだろうか。とんでもない複雑な計算式を出されても、普通の人間には正解がわからない。AIが瞬時にその問題を解いたとして、それが正しいかを当の人間には判断ができない。

　単純な計算だけでなく倫理的な対応を求められる事柄に対しても、AIは人間以上に正しい判断が下せるようになる日が来るだろうか。1月15日から配信を開始したNetflixオリジナル映画『デンジャー・ゾーン』は、観る人にそんな問いを突き付けてくる作品だ。

人命軽視のテクノロジーとして描かれるドローン空爆

　本作の舞台は近未来。戦争にロボットが導入されロボット兵と人間の兵士が共存する時代の物語だ。優秀なドローン操縦士であるハープは、味方2名が取り残されているにもかかわらず、ドローンによる爆撃を敢行。2名の兵士の命が失われたが、残り38名の命を救うこととなった。上官の命令を無視しての爆撃だったため、制裁としてハープは別の部署に送られることになる。

　新たな所属先でハープは、AIマシンのリオ大尉の部下となる。極秘に製造されたアンドロイド将校であるリオの存在は一部の将校しか知らない。ハープはリオと二人（一人と一体と書くべきか）で核兵器の奪取をもくろむ組織のトップをターゲットにした極秘任務に従事することになる。

　本作のテクノロジー的重要ポイントは2点。戦場での上官がAIであるということと、主人公がドローン空爆の操縦士であることだ。本作で描かれる戦場はウクライナだが、冒頭ハープは米国内の安全な基地からドローンを操作し、空爆を行う。2名の仲間が犠牲になったが、ハープ自身はそれを大勢を救う的確な判断だったと考えている。

　数字の上では確かにハープの判断は正しいように思える。しかし、人間の命の重みは数字で測りきれるものではない。ハープはAI上官のリオに、戦場では感情に流されない冷静な判断こそ尊重されるべきだ主張し、そして彼はその通りに行動した結果、2名の犠牲者で38名の兵士の命を救ったのだと考えている。

　しかし、ハープは戦場に出た経験がなく、そこがどんな悲惨な場所であるのかの想像力を欠いていた。そんな彼が、AIの上官に連れられ戦場を体験し、人の命の重みを実感するという逆転の構造が本作のユニークな点だ。

　敵か味方かわからない武装した民兵、無造作に転がる死体、空爆で親を亡くした孤児たちなどのグラウンドレベルの戦場のリアルをハープは身をもって知ることになる。それは、ドローン操作のモニター越しには見えないものばかりだった。

　ドローンの軍事利用は、実際に民間人が犠牲になったというニュースが度々報じられ、映画の中でもしばしば人命軽視のテクノロジーとして描かれてきた。イーサン・ホーク主演の『ドローン・オブ・ウォー』では自宅と米国内基地を毎日往復し快適な生活をおくりながら、他国をドローンで空爆する操縦士の葛藤が描かれ、『アイ・イン・ザ・スカイ 世界一安全な戦場』では、ドローン空爆により大勢の命を救うか、幼い少女の命を奪うかの選択を迫られる軍上層部の人間が描かれた。