AI時代を考えるために必要なこととは？　『劇場版 PSYCHO-PASS』が導いた一つの答え

　先日、東京大学の文化祭「五月祭」で法学部の学生が主催した「AI模擬裁判」を見た。

　Chat GPTに裁判官をやらせてみるという一種の実験イベントだ。法治国家とは「法の支配」を基本とする。裁判所はその法の支配を象徴する存在だ。現代社会の根幹ともいえる法の運用をAIに任せることはできるかと大胆に問う面白いイベントだった。

　5月12日から公開が始まった『劇場版 PSYCHO-PASS サイコパス PROVIDENCE』にも同様の問いかけがある。本作はAI時代の法のあり方をめぐる物語だ。人工知能であるシビュラシステムがあれば、人の作った法律は必要ないのかと問う物語が展開する。刑法は人の行動を直接規制するもので、そのあり方は社会がどうあるかを規定する力を持つ。法の運用をAIに任せるというのは、テクノロジーの支配を人間は認めるのか否かという大きな議題としても機能する。

　本作の提示したAIが支配する世の中はどの程度現実となり得るかは、今後の社会動向次第だが、すでに刑法の世界ではAIの導入は進んでいる。その意味で、世界は少しずつ『PSYCHO-PASS サイコパス』の世界に向けて歩を進めていると言える。

※本稿は作品の結末に一部触れています。

現実の刑法で活用が始まるAI

　『PSYCHO-PASS サイコパス』の世界では、シビュラシステムというAIシステムが人々の人生を決定している。最大多数の幸福を実現するためにあらゆるデータを計測し、人々が最も効率よく幸福になれる道を示し、人はそれに従い生きている。シビュラシステムによる統治でもとりわけ物語の中で重視されるのは、犯罪傾向を数値化した「犯罪係数」だ。これは犯罪を犯していなくとも、数値が高いほど犯罪者としての適格があると認知され、一般人とは隔離され監視と管理の対象となり、予防的な治安維持を可能としている。

　現実社会においても、予防的治安維持のためにAIは試験的に使用され始めている。いつ、どこで犯罪が発生するのかを過去のデータセットから予測するシステムや、犯罪統計を使用し犯罪に関与する可能性の高い個人やグループを予測するものなどが、世界中の都市ですでに試行されている。

　これの悪名高いシステムとして「COMPAS」がある。これは犯罪者の再犯可能性を予測するシステムで、保釈金額や判決にも影響を与えるもので、このツールが人種的偏見を学習してしまっているのではないかという報道がなされたことがある。COMPASは、黒人犯罪者に対して、白人よりも実際の2倍の頻度で高い再犯可能性を示したと言われる。（※1）

　COMPASのアルゴリズムはブラックボックスであり、オペレーターはソースコードにアクセスできない。COMPASはあくまで支援ツールであり、最終的な決定は裁判官など人間によってなされるが、仮に機械が偏見を学習していた場合、それに影響を排除することは難しいだろう。（※2） 逆に人間の裁判官が人種的偏見を持っていないとも限らないが、そういう場合はAIの方が信頼できるという場合もあるかもしれない。Kleinberg et al.が構築したMLアルゴリズムは人種差別や人間によるバイアスを減らしたという。（※3）

　シビュラシステムによる犯罪係数の測定は、予測的治安維持システムの究極の方法と言える。現在試行されている予測的治安維持システムは、犯罪の発生しやすい場所を予測するなどして、パトロールを効率化したりして犯罪を未然に防止することを目的にしているが、より精緻に数値を測定可能になれば、犯罪を将来犯す個人を特定することに繋がっていくだろう。

　『PSYCHO-PASS サイコパス』の世界観はまったく突飛なものではなく、現実の社会の延長線上に想定可能なものだ。それゆえにこの作品は、未来を考える上で有益な教材となりうる作品であり、今後の社会を構成していく我々にとって重要な示唆を含んでいる。