監視カメラに翻弄される現代社会の恐怖を描いたシーズン1に引き続き、ロンドンを舞台に、 TVニュースのハッキング、メディアによる情報操作、政治の干渉に包囲された社会の恐怖を描く『ザ・キャプチャー 歪められた真実2』が現在スターチャンネルにて放送・配信中だ。

　昨今、日本でもフェイクニュースの拡散が問題となり、最近では、SNS上での若者の「バイトテロ」から「外食テロ」の被害が大きな注目を集めている。こうしたソーシャルメディアに操られる現代社会において、テクノロジーの発達と共に人々の生活、我々の“心”はどのような変化を求められていくのだろうか。最新著書『未来倫理』（集英社）を上梓したばかりの若手哲学研究者・戸谷洋志に話をきいた。

ビッグテックに支配される今の私たち

――ドラマ『ザ・キャプチャー 歪められた真実2』をご覧になって、どんな感想を持ちましたか？

戸谷洋志（以下、戸谷）：シーズン1では、いわゆる「監視社会」の問題というか、司法当局による「監視カメラ映像の捏造」の問題を扱っていて、それもなかなか面白いのですが、今回のシーズン2は、さらにタイムリーで時事的なテーマになっていて、昨今話題になっているさまざまな社会課題を意識して取り入れながら物語を描いているように思いました。

――監視カメラはもちろん、空港の顔認証システム、SNSによる印象操作、さらには最新のAI技術を用いたディープフェイク映像に至るまで……そこに中国のテック企業が絡んでくるあたりも、非常にタイムリーな話になっていますよね。

戸谷：グローバルに展開している中国のテック企業のテクノロジーが、その国の諜報活動に使われているのではないかという疑念が、今回のドラマの背景にはありましたね。それは、昨今のファーウェイ（アメリカ・イギリス・カナダなどで「5G」通信網からの排除が決定）やTikTok（運営会社バイトダンスCEOが米政府公聴会で証言）などの問題を想起させるものでしたし、そういったところでも興味を持ちやすい。まさに今、私たちの身に迫りつつある事態を描いているようなところがあります。なので、大まかなジャンルとしては「近未来SF」になるのかもしれませんが、今の私たちの社会とかけ離れた「未来」ではなく、半歩先にある「未来」――どこかで今、実際にこういうことが起こっていても不思議ではないと思えるようなリアリティが、このドラマにはあって。それが逆に、私たちの目の前にある「現実」について考えさせるような面白さがあったように思います。

――なるほど。

戸谷：それと1990年代ぐらいから、哲学の分野ではよく言われていることなのですが、テクノロジーが進化していくと、いわゆるテック企業というか、テクノロジーを開発する企業が、ある種の国家並みの力を持ってくるのではないか、と。つまり、第二次世界大戦の直後ぐらいまでは、その国で流通している技術というのは、基本的には軍事技術を中心にその国の政府が管轄していて、国民に対する影響力というのも、政府がいちばん強く持っていたわけです。もちろん、それは今でも一応そうなんですけど、グローバルテクノロジー企業みたいなものが1990年代以降、発展してくる中で明らかになってきたのは……。

――いわゆる「GAFA（Google、Amazon、Facebook、Apple）」のようなグローバルテクノロジー企業ですね。

戸谷：そういう企業が、あるとき急にサービスをやめたりしたら、世界中の人々にとてつもない損害が出るわけです。国家がちょっと政策を失敗した程度はすまないような経済損失が生じる可能性がある。なので、先端的なテクノロジー企業が、国家よりも大きな政治的な力を持ってくるのではないかという。ただ、その一方で、昨今のTikTokをはじめとする中国のテック企業が疑いの目を持たれている問題を見ると、そうしたテクノロジーが国という枠組みを超えていくのとは逆に、それと覇権主義的な国家が繋がってしまった場合、新たな国家間の対立が生まれる可能性もまたあるわけです。今回のドラマで言うと、中国政府とイギリス政府の関係が問題なのではなく、中国政府とイギリス国民がデータを通じて直接的な関係を持ってしまうことが、いちばんの問題なわけですよね。

――そうですね。

戸谷：もちろん、このドラマは、実はそういう話ではなかったということが、非常に面白いところなのですが（笑）、「そうなんじゃないか？」という社会の不安を利用したシナリオには、明らかになっていて。実際、そういう新しい政治力学というか国際的な問題は、これからも起こってくると思うんです。ただ、いずれにせよ、私たちの社会は今、ある種の「ビッグテック」と言いますか、巨大なテクノロジー企業が非常に大きな政治的な力を持っているという事態に対して、健全なシステムがまだ構築できていないように思うんですよね。

――具体的にはどんな状況でしょうか。

戸谷：たとえば民主主義的な国家であれば、国民は政府に対して抗議を表明することができます。その国のトップを辞めさせる手続きが存在するわけです。ところが、GoogleとかAmazonとか、そうした企業に対して、ユーザーがある種の抵抗をする手続きとか手段というのは、基本的にほとんどないんですよね。まあ、イーロン・マスクのようにその会社の株主になるとかあるのかもしれませんけど、それぐらいしかないわけで。にもかかわらず、自分の日常生活、社会生活、経済生活、場合によっては健康までも、そういったビッグテックに、ある種支配されている状態に、今の私たちはあるという。

テクノロジーに対する西洋／東洋的価値観

――ここで、話を少しドラマのほうに戻させていただくと……今シーズンは、前シーズンから引き続いての主役であるレイチェル（ホリデイ・グレインジャー）が、イギリス警視庁の「殺人課」から「テロ対策司令部（SO15）」に異動してからの話になるわけですが、今回のシーズンの鍵を握る人物として、次期首相候補と目されている若手議員であり、現・安全保障大臣であるターナー（パーパ・エッシードゥ）という人物が登場します。

戸谷：そう、そのターナー大臣がある場面でこぼす言葉が、本作の中でも僕は特に印象に残っていて。自分のディープフェイク映像がテレビで放送されているのを観て、彼が「これは、マインドレイプだ」って言うシーンがあるじゃないですか。非常に強い言葉ですよね。自分のディープフェイク映像が、テレビで放送される、そしてそれに対して心の準備がまったくできていない人がそれを目の当たりにしたとき、どういう気分になるのか──それを端的に表していると思って。つまり、どれぐらい激しい拒絶感、自分が侵害された感覚を覚えるのか。それが、その強いひと言に表れているような気がしたんですよね。

――なるほど。そのシーンが象徴するように、ディープフェイクをはじめ、昨今のテクノロジーの発展は、我々の一般的な「感覚」を凌駕しているようなところがありますよね。ときに、ギョッとしてしまうようなところがあるというか。

戸谷：ある程度は慣れというか、最初はギョッとしたとしても、だんだん慣れていってしまうものというか、新しい技術に対して人々の感覚のほうが慣れていって、そこから新しいものが生まれたりする可能性もあるとは思うのですが。ただ、その一方で、私たちが拠って立っている社会の制度というか、基本的な社会通念みたいなものが、AIのような技術と整合しない面があるとは思っていて。今回のドラマの中で象徴的に描かれているのは、「司法」と「政治」の問題です。そういったものは、人間がある種の自律性を持っていて、ひとりひとりが自分の責任において行動する、それぞれが自分で物事を判断しているということを前提として成り立っているシステムじゃないですか。

――そうですね。

戸谷：それに対して、たとえば「AIを使って公共政策を考える」みたいなことがあったとして……まあ、技術的にはすでに可能だと思うんですけど、国会とかで政治家の人が「AIによると、この政策が最適なんです」と言って、他の議員たちの意見を無視して、それを採決するわけには、やっぱりいかなくて。それが、たとえAIで推奨されたものだとしても、誰かが「これをやります」と言って、責任を持って選択しないといけないわけです。つまり、それが最適解かどうかということとは別に、社会の重要な決定は、あくまでも人間がするべきであり、その選択はその人が自分で思考して判断して決めなければならないという。そういう基本的な社会通念みたいなものが、やっぱりあると思うんですよね。

――確かに、それが「最適解」であるかどうかばかりが取り沙汰されて、その「責任」の所在が、あいまいになってきているかもしれません。

戸谷：そういう意味で、このドラマを観ていて、もうひとつ面白いと思ったのは……全体として、テクノロジーは人間が使うもの、という強い価値観が現れているように感じたことです。つまり「人間がテクノロジーに使われてはいけなくて、あくまでも人間の責任でテクノロジーを使うべきだ」という信念のようなものですね。ディープフェイクを使って世の中を混乱させるのも、その背後を探っていけば、やはり人間がそこにはいて、悪いことを考えているやつがいるんだという。そういう価値観で作られているように感じたんです。ただ、それはある意味、西洋的な価値観の表れでもあって……。

――というと？

戸谷：例えば、日本ではメディアアーティストの落合陽一さんが「デジタルネイチャー」という概念を提唱していて。デジタルによって作り出されていく新しい世界というのは、ある種の新しい自然なんだという。そうすると、もはや人間が主体となって、AIを道具として使うという状態ではなくなっていって、AIが自然環境のように、人間たちに最適化された状態を提案して、人間はそれに従って生きていくしかないのではないか、という未来像が見えてきます。これって、ある意味では、すごく東洋的な考え方だと思うんですよね。

――なるほど。

戸谷：そもそも人間というのは自然に支配されていて、自然を人間の意のままにコントロールすることはできないし、それでいいんだっていう。ただ私は、やっぱり、そこでの譲れないラインみたいなものをあらかじめ引いておくことは、すごく大事なことだと思うんです。それこそ、「尊厳」の概念ですとか「人権」……それは発生から見れば東洋的な概念ではなく、西洋的な概念なのかもしれないけど、やっぱりある程度普遍的な概念であるというか、少なくとも現在の私たちの社会の基礎を作っている概念ではあると思うので。そういったものは、やはり簡単に譲り渡してはいけない。先ほどのターナー大臣の話ではないですが、AI技術がどういうふうに使われると、人間の尊厳の傷つけることになるのか。そうしたことをきちんと予測して考え、テクノロジーを受容していかないといけないとは思いますよね。