AIの思考のブラックボックス

　本作でのターミネーターの標的・ダニー（ナタリア・レイエ）は、工場に勤務している。その工場ではオートメーションの機械が導入され、人員整理が行われる様子が描かれていたる。そこにターミネーターが襲いかかってくる。機械に仕事を奪われている最中に、未来の殺人ロボットが命を奪いにやってくるのだ。

　このシーンは、AIを恐れる人々の漠然とした不安を象徴している。機械によって仕事の効率化が図られるのは、いつの時代でも変わらない。短期的に職を失う人がいるが、その度に人間社会は新たなニーズを生み出し、それに合わせて新たな職も生まれる。

　それが現代社会の発展というもの。だが、それが行き着く先はどこなのだろう、とふと考えると、人は不安に襲われる。仕事ばかりか人間の営みすべてが機械に置き換え可能なのではないか、もしそれほど高度に技術が発達した未来になったら人間は必要なのか。囲碁という知的ゲームでは、人間世界のチャンピオンを上回る知能はすでに存在している。知的作業すらこれからは、人間の専売特許ではなくなるわけだ。そして、それほどの知能をすでに有していながら、AIの進化はまだ途上である。というより、まだまだ序盤の序盤という段階だ。自分の立場が脅かされると感じる人がいるのも無理はない。

　さらに、AIに対する漠たる不安を抱く背景には、AIが何を考えているのかよくわからないという点にも起因する。ディープラーニングと呼ばれる学習方法は、量的にも質的にも人間の理解が及ばない構造をしているからだ（参照：人間が深層学習のAIを理解できないのには、理由がある：朝日新聞GLOBE＋）。

　現状のディープラーニングは、“なぜその結果が最適だと判断したか”のプロセスを説明できない。『ターミネーター』シリーズのAIも、人類を滅ぼす理由をあまり説明してくれないため（自我に目覚めて防衛行動に出たという説明がなされたことはある）、人間からしたら、いきなり「全滅しろ」と結論を突きつけられたようなものだ。

　囲碁などのゲームであれば、最善手を打つという結果だけで良いが、実際に社会の中でAIを活用しようと思えば、理由が説明されなくては困ってしまう。たとえば、医療現場でAIによる診断サポートが普及したとしても、「AIが今すぐ手術が必要だと言っています」と言われて、すんなり納得できる人は少ないはず。そのため、現実世界では“説明可能なAI”の開発が進められている（参照：AIはなぜその答えを導き出したのか ～根拠を見える化する「説明可能なAI」～ : 富士通ジャーナル）。

　現状、ディープラーニングによってAIは自律的な学習機能を獲得したが、自我と呼べるほどの単独行動を取るようなAIは存在しない。しかし、人間は“何を考えているかわからないもの”を恐怖するものだ。AIの思考のブラックボックスを解消しないことには、“AI脅威論”はなかなかなくならないのだろう。