AIと全体主義

　シビュラは犯罪係数の測定のみならず、人々のあらゆる人生の選択に影響を与えている。例えば、職業適性を診断し、相性のいいパートナーを選別してくれ、仕事やパートナー選びで「失敗」しないようにしてくれる。市民の最大多数の幸福を測定によって実現している社会なのだ。シビュラの診断測定は神の神託に等しいものとして、作品世界では受け入れられている。多くの一般市民にとってシビュラの統治は確実に幸せになれる「安心・安全」を保証する社会システムなのだろう。

　AI的なテクノロジーがもたらしてくれる確実性と安全性に、私たちは抗うことができるだろうか。そもそも、抗うべきなのだろうか。

　テクノロジーが人の考えを制御する社会は、ある種の全体主義的なディストピアと映る。だが、シビュラは個人個人が幸せになれる選択を個別に示すという点で、同質性・求心性を強める全体主義とは相反するようにも見える。だが、それ故にシビュラには逆らわない方がいいという考えを強める点で、同質性は進んでいる。個人の個性や幸福を保証するという体裁で全体主義を進めるという逆説が生じているようにも見える。これは、GAFA（Google、Apple、Facebook、Amazon）のようなテクノロジー企業の影響力が強くなった現実社会においても進行している事態ではないか。私たちは自発的に決定しているようで、一定の方向性に決定させられているかもしれない。

　銃を突き付けられた人間が助かりたい一心で自らお金を差し出した場合、自ら進んでお金を差し出したという点で「自発的」だが、それは脅された状況にそうするよう「させられた」とも言える。テクノロジー社会の安心・安全の推進は、これと同じように、「このシステムがないと安心・安全は保証されないし、幸せになるチャンスを逃すよ」というソフトな脅迫によって、人から自発性を奪っている可能性がある。

　安心・安全を求める市民は、予防的治安維持を支持するだろうし、そのために監視社会も受け入れる。「受け入れる」のは自発的だが、受け入れるように仕向けられている点で自発的ではない。シビュラとは、そういうソフトな脅しを市民全体に行うシステムではないか。

　AIを治安維持に導入し、法として信任する時代とはそういうソフトな脅しを受け入れる時代と言えるかもしれない。そして、『PROVIDENCE』の中心的な議論である人の作った法律不要論は、その機械による全体主義をますます加速させる結果になるだろう。

　だから、常守朱はそれにブレーキをかけるべく最後の行動をとった。彼女はシビュラを全否定しない。しかし全肯定もしない。テクノロジーの法であるシビュラに拮抗するため、人文的な法を守ろうと彼女は行動するのだ。

　そんな彼女の行動が、表向きには「法を破る」ものであったことは皮肉だ。彼女は法を守るために法を破ったのだ。

　法を破るという点で彼女の行動はテロリスト的であり、シビュラの統治に抗うという点でTVアニメ1期の槙島聖護に近いように見える。しかし、槙島の目的はシビュラの統治を破壊するという文字通りのテロだったのに対し、常守の行動はシビュラの統治と人文的な法の統治を両立させるためであったという点で大きく違う。

　人文的な法を捨てずに拮抗させるべきという発想は、今後のAI時代の社会を考える上で重要な発想ではないかと筆者は思う。常守にとって法とは、ただの条文ではない。「正しい生き方を探し求めてきた人々の想い、その積み重ね」（TVアニメ1期「22話」の台詞）なのだ。AIの成長速度は恐ろしく早くそして力強いが、常守が信頼する人の願いの積み重ねもまた、それほどヤワなものではないはずだ。AI時代にはその人の願いを敢えて信じる意思が大切だとこの映画は教えてくれる。

参照・引用

※1 MIT Tech Review: 機械は偏見を持つのか？ 犯罪者予測システムの是非を問う https://www.technologyreview.jp/s/44352/inspecting-algorithms-for-bias/
※2 『OECD 人工知能（AI）白書 先端テクノロジーによる経済・社会的影響』、経済協力開発機構（OECD）編著、齋藤長行訳、明石書店、P103
※3 『OECD 人工知能（AI）白書 先端テクノロジーによる経済・社会的影響』、経済協力開発機構（OECD）編著、齋藤長行訳、明石書店、P104

■公開情報
『劇場版 PSYCHO-PASS サイコパス PROVIDENCE』
全国公開中
出演：花澤香菜、関智一、野島健児、伊藤静、沢城みゆき、佐倉綾音、櫻井孝宏、東地宏樹、本田貴子、山路和弘、日髙のり子、梶裕貴、中村悠一、清水理沙、加瀬康之、菅生隆之、大塚明夫
監督：塩谷直義
構成：冲方丁
脚本：深見真、冲方丁
キャラクター原案：天野明
キャラクターデザイン・総作画監督：恩田尚之
色彩設計：鈴木麻希子
美術監督：草森秀一
3DCGI：GEMBA
撮影監督：荒井栄児
編集：村上義典
ベースド・ストーリー原案：虚淵玄
音楽：菅野祐悟
音響監督：岩浪美和
主題歌：凛として時雨（Sony Music Labels Inc.）「アレキシサイミアスペア」
エンディング・テーマ：EGOIST（SACRA MUSIC）「当事者」
アニメーション制作：Production I.G
制作：サイコパス製作委員会
配給：東宝映像事業部
©サイコパス製作委員会
公式サイト：https://psycho-pass.com/
公式Twitter：@psychopass_tv