2018.06.07 07:00

三宅陽一郎×紀里谷和明対談：すでに世界はアルゴリズム化し、人はAI化しつつある

　ゲームAI開発の第一人者・三宅陽一郎の著書『人工知能のための哲学塾東洋哲学篇』がBNN新社から発売中だ。その出版を記念して、朝日新聞メディアラボにて開催されたスペシャルイベントにおいて、三宅と映画監督の紀里谷和明の対談が実現。AI＝人工知能というイシューが今の世の中でいかに扱われているかを端緒に、両者が人間の知能や意識、存在意義について語り合った。リアルサウンドでは、その議論を再構成した特別版をお送りする。

人類のキャパシティはすでに頭打ちになっている

三宅陽一郎（以下、三宅）：紀里谷さんは映画をふくめた色んな創作をされています。お会いするたびに深い議論ができて、僕としても毎回ヒントをいただいています。今日は大きなテーマとして「意識と人工意識」についてフォーカスしたいと思いますので、まず紀里谷さんが人工知能に対して、どのような考えを持たれているかをお伺いできればと思います。

紀里谷和明（以下、紀里谷）：今世界中で人工知能について語られていますが、なぜ皆さんが人工知能について、ここまで騒いでいるのかをまず知りたいですね。金儲けのツールにしたいということもあるだろうし、よく言われる「10年後に人工知能が奪う職業100」のように、人工知能によって自分たちが脅かされるんじゃないかという恐怖感もあるんだと思いますが、僕からすると流行り物になってしまっているんじゃないかと思うんです。そもそも人工知能を語るなら、「知能」や「意識」とは何なのか、という話に必然的になるじゃないですか。

　先日、三宅さんと人工知能で何かを一緒に作れないかと話していたんですが、僕がそこに関心を向ける動機が何かと言えば、自分を知りたいという欲求なんです。例えば「人工知能は欲望を持てるのか？」という疑問があれば、欲望とは何なのかについて徹底的に自問自答していかなければならない。そうすることで自己解析が始まっていくわけです。ところが今の人工知能ブームを見ていると、ビジネスもふくめて何かを得よう、到達しようという目的のために人工知能を使おうとしている人が非常に多い。僕はそれにすごく違和感を覚えていて、もっとピュアに人工知能から「人工」を取って「知能」について考えるべきだと思うんですね。

三宅：紀里谷さんは人工知能の先に自分自身を探求するとおっしゃいますが、どういうところを知りたいと考えているんですか？

紀里谷：答えは出ないと思うんだけれども、自分の意識がどこから来たのかということですね。例えば僕は映画や舞台を作ったり、写真を撮ったり、脚本を書いたりしますが、そのアイデアやインスピレーションが、どこからくるのか自分でも分からないんです。分からないけれど、どこかからきちゃうわけですよ。ただ、それ自体が限定的だなって思い始めているんです。自分の中にインスピレーションがきた瞬間を観察すると、僕自身が自家中毒に陥っているから、やってくるインスピレーションが古いと感じることがある。だから、今すでに一部で始まっていますが、音楽や脚本を人工知能に作らせて、それを僕が観察して編集することで創作ができないかということに興味があるんです。

三宅：これまでも、色んな機械が発明されてきたけれど、結局それらはすべて人間の外部にあるものでした。知能と知能の間に介入できるのは、人工知能しかないわけです。ですから、人がその人自身の内面と対峙した時の関係は、人工知能が入ることで変えることができるし、人と人との関係も人工知能が変えられるのかもしれません。例えば、直接話すと嫌なヤツなんだけど、人工知能を挟んでコミュニケーションすると仲間になれるとかですね。そのようにして人間関係を変えることは、世間や社会、さらには世界を変えることにもつながると思うんです。

紀里谷：僕は第三者を介在させることについて、あまり希望を持っていないんです。というのも、第三者が入ったところで、このネット社会とグローバリゼーションによって、人々の価値観が極めて画一化されつつありますから。例えば商業映画を作るにしても、「売れるのはこのような映画」という感じで、すごく限定的になっている。これは映画だけの問題ではなく、本や音楽、ありとあらゆるものに言えることだと思います。なぜなら「大体こういうものが売れるでしょう」というアルゴリズムが生み出した方程式によって、マーケットが動き始めている。しかしそれは、しょせん人間が考えだしたものなので、アルゴリズム自体が限定的なんです。それを超越してカオスがふくまれたアルゴリズムと対峙することができれば、初めて何か違うものが出てくるんじゃないかという希望はありますけれどね。

　今Netflixで配信されている『アルファ碁』というドキュメンタリー映画があるのですが、それはDeepMind社が開発した囲碁AI「AlphaGo」と世界チャンピオンの囲碁棋士イ・セドルが対戦する話なんです。結論から言うと1対4でイ・セドルが負ける。ところが1回イ・セドルが勝った時、それまで彼が考えもしなかったような手を打って勝っているわけですよね。それに至るプレッシャーはAIがもたらしているわけです。

　そこでクリエイティブとは何なのか？という議論になる。イ・セドルは、ものすごくクリエイティブな棋士だと言われているそうですが、実際に対戦するとAIの方がクリエイティブな手を打ち始めるわけです。一見、囲碁の評論家から見ても明らかにミスだと思われる手を打つんですが、それが後から効いてくる。つまりAIが人間以上にクリエイティブな手を打つので、それに対抗するために人間はもっとクリエイティブになることを迫られるわけです。

　10年後にAIに奪われない仕事は何か？という議論になった時、「クリエイティブな仕事は大丈夫」と言われますが、実はそこも違うと思います。今まで蓄積してきた経験値、もしくは憶測としての未来を知性的に考え出そうとした時に、今まで考え出せなかったものとして提示されたものがクリエイティブだと思っています。つまり「こんなもの見たことなかったし、思いもつかなかった」というものの提示がクリエイティブなんですよね。そうだとしたら、AIの方がクリエイティブだというところに至ろうとしているんではないでしょうか。

三宅：「AlphaGo」の場合は、囲碁という限定された盤の中でクリエイティブな手をどんどん打ちますが、現実の色んな創作って、もっとカオティックな問題をたくさんふくんでいると思います。

紀里谷：それは幻想だと思います。まず、いわゆる作り手とオーディエンスがいるわけです。オーディエンスは、しょせんアルゴリズムでしかない。例えば皆さんがお風呂に入りますよね。お風呂は液体の温度としては限りなく0に近い1度から99度までのスペクトラムがありますが、皆さんが気持ちいいなと思って入れるお風呂の温度は38度から42度くらいの間だと思うんです。100度の中の5％くらいの狭い範囲の数値の中で、気持ちいいとかそうでないと言っているに過ぎない。

　映画も音楽も料理も全部そうで、「わー、感動した」「良かった」と言っているものは、人間の脳の性質に特化したアルゴリズムが組み立てられているだけの話です。今それを一番率先してやっているのがディズニーなんだと思うんですよね。つまり彼らは人間が心地良いと思うポイントをすでに数値化しているわけです。

　料理のアイデアも、数年前にIBMのワトソンがすごいレシピを作ったじゃないですか。マヨネーズ入りチョコとか。実際に食べてみたらおいしいと思っちゃうんですよね。人間の脳のアルゴリズムに合致するような非常に狭い5％くらいのところにそれを埋め込んで来る。それは人間の発想ではできない。なぜなら私たちは過去の経験や伝統など、色んなものに囚われていますから。

三宅：現実の歴史においては、アートや音楽といった文化面でも、新しいムーブメントが起きたりして、これまでの枠を飛び越えることが行われてきましたよね。そのように、問題が明確に定義されていないところに行ってしまうことは、なかなか人工知能にはできないことだと思います。

紀里谷：ジョン・ケージという前衛的な音楽家がいたて、60年代頃だったら、彼の音楽は新しいと評価されましたが、今彼の音楽を出したところで、それを心地良いと思って聴く人は多くないと思います。僕は人間のキャパシティが、ほとんど頭打ちになっているんじゃないかと思うんです。例えば60年代と70年代のグラフィックデザインを比較すると、それぞれ違うし新しいものも生まれているんです。ところが1990年代以降は、ほとんど新しいものが生まれていないというのが多くの業界人にとっての共通見解だと思います。

　音楽もそうですよね。かつては新しい音楽が常に生み出されてきましたが、90年代以降はほとんど変わってない。映画もそうです。例えばデヴィット・リンチの作品のようなものは、今の時代には作らせてもらえないし、お客さんたちもそれを観て良いと思わない。今は人間自体が作品に関する情報や他人の評価だけで処理して判断するアルゴリズムに近づいていて、感覚で感じている人たちが本当に少ないんじゃないかと思います。

三宅：面白いですね。僕は人間の意識のあり方は22世紀になっても23世紀になっても変化して拡大し続けていくものだと思っていましたが、紀里谷さんから見れば、実はすでに90年代の時点である程度頭打ちになってきていると。そこで、人間にできない部分を人工知能に託すこともあり得るということでしょうか。

紀里谷：マーケティング主導の創造ツールになると思います。僕が高校生ぐらいの時は「意味不明、こんなの見たこともない、理解不能だけどなんかすごかったよね」っていう作品がいっぱいありました。ただ今だと、そんなのマーケットに出してくれないし、出したところで見た人にとって意味が分からなかったら「これはダメ、はい星ひとつ」と低く評価されたレビューがネットで拡散された結果、他の人も「これ、星ひとつだから見ません」と言って終了するんです。一人ひとりが感じることを放棄したまま、情報と知識に踊らされた状態で物事をジャッジしているのが現代人だと僕は思いますね。極めて情報至上主義的です。

三宅：確かにネットに慣らされている感はあります。みんな毎日ネットの色んな動きに追従していくのに必死で、気がつくと、どこかの流れに因われているところはあると思いますね。

紀里谷：だからこのまま行くと奴隷が量産されていくわけです。大量のビッグデータが蓄積されて、それを解析するわけですよね。その結果、人心操作が行われ、人々が煽動されていく。それで選挙だってやったわけじゃないですか。そういうことが人工知能でもっと加速されていった先に、誰もが思ってもいない次元でコントロールをされていく可能性があるわけです。そうすると皆さんの存在って何なんですか？という話になる。

人と人工知能はネット空間で融合を始めている

三宅：人間ってすごく混沌とした側面を持っているので、アルゴリズムで慣らそうとしても完全に制御できないものだと僕は思います。意外なものが細かい隙間から溢れ出していたり、ゆらぎを持ったり。東洋思想では、知能の根源を混沌と考えます。『人工知能のための哲学塾東洋哲学篇』の第一章は荘子ですが、荘子によると、人間が理知的なことばかりやった結果、むしろ国がどんどん閉塞して世の中が乱れてしまった。だから、もっと自然の理や人間が設定しない環境にある道に従おうと説きました。当時としては異端の哲学者だったわけですが、それが東洋思想の源流みたいになっていくわけです。

　僕が考えるもうひとつの可能性は、人工知能同士の社会を作ることにあると思っています。時々ゲームの人工知能を作っていて思うんです。プレイヤーが来なくても人工知能たちだけで幸せに暮らせるんじゃないかなと。その中に、人工知能から派生する絵画や新しい芸術とかが生じて、やがて人工知能のコミュニティの中で流行っている歌や絵といった、人工知能が作る文化ができるかもしれない。それは人間にとってひとつの解放になるんじゃないかと。これまでは人間の歴史も芸術も人間が作らなければならない、という自家中毒的な状況にありましたが、これからは「人工知能がこんなものを作っている」という刺激があることで、人間の文化も豊かになっていく可能性があると思うんです。

紀里谷：そのようにして多種多様な人工知能が出て来たとして、そこに人間のエゴを組み込むのかどうかが問題になると思うんですよね。結局は今の政治の混乱もそうだけど、いつも問題の原因になるのは人のエゴじゃないですか。それだったら、エゴのない人工知能に任せて「みんな幸せになるような世界を作ってください」と設定すればいいと思うんです。その時、人工知能にエゴを持たせるのか持たせないのか。例えば自分の命が脅かされた時に、その相手を殺すのか。結局選択の基準が人間に戻って堂々巡りになりますが、重要なのは、人間の限界を人工知能に持ち込むのか持ち込ないのかという選択だと思います。

三宅：それを持ち込まないことで、人間には辿れなかった知能の発展の歴史を、限定的だけど見ることができるようになると思います。これまでの人類の歴史は、さまざまな出来事や試行錯誤、失敗などを経たことで、ちょっとだけ賢くなったという歴史でした。今後、人工知能は人工知能で進化をしつつ、人間は人間で歴史を重ねることで、人間が自家中毒を逃れてホッとできる余地ができるんじゃないかと思うんですよね。

紀里谷：例えばですよ。これも、もう既に始まっていますが、人工知能が進んでいって、対話した場合にそれが人間なのか人工知能なのか、まったく分からないレベルまで行ったとするじゃないですか。さらにそれらが物理的な肉体を持ち始めると、スピルバーグの『A.I』じゃないですけれども、「これが自分の子どもですよ」って言い出す人が出て来ると思うんです。そうしてゆっくりと、いわゆる生身と言われている人たちが消えていって、気がついたら人工と呼ばれている人たちが、新しい人類としてやっていく方がいいんじゃないかなって思うときがあります。この5万年くらいの営みを見ていても、人間って争いばっかりやってロクでもない生き物だと思いますから。

三宅：確かに、地球の裏側まで同胞を殺しに行くのは人類だけですよね。

紀里谷：そもそも自分たちだって、これから機械化が起こるわけです。今もすでに、自分の意識や記憶、脳のデータをコンピューターに移せるのかということが議論として始まっています。それが起こった時に人と人工知能の境も曖昧になると思います。今もネット上での対話や関係性においては、両者の区別がつかなくなってきていますから。

三宅：この20年は、人が自分の存在をインターネット上に移した時代だったのかなと思います。今の子どもって、生まれた時からある程度インターネット上に自分のアイデンティティを預けていると言えますよね。つまり、今人工知能がブームになっているのも、実は人工知能が発展したことだけが理由ではなく、人間存在の一部が情報化しているからだと思うんです。自分が情報化しているからこそ、人工知能に対して、ものすごく過敏になっているわけですね。つまり、すごく大ざっぱなことを言うと、人間の一部が機械化・人工知能化しているっていうことです。インターネットを通じて、人間と人工知能が混じりあっている。