人間が「AGIピル」を飲んだ先に待つ、破滅と希望の未来図 bioshok『知能爆発』書評
いま読んでおきたいAIを中心としたテクノロジー分野の書籍を紹介。今回はbioshokこと有路翔太による初の書籍『知能爆発 AIの次に来るAGIとは何か、そして人類に何が起きるのか』(講談社)を取り上げる。
■『知能爆発 AIの次に来るAGIとは何か、そして人類に何が起きるのか』
(著:bioshok 有路翔太/講談社)

「シンギュラリティ(技術的特異点)」という言葉が世間で取り沙汰されて久しい。しかし、AIがやがて人類史に大きな影響を及ぼすことになるという話程度には知っている人でも、それを現実的なビジョンとして捉えているかは別の話だ。この事態を話半分にしか聞いていなかった人間にとっては、時たまニュースで見る「人類滅亡」や「SF的未来」のビジョン、どちらも非現実的な空想と思ってしまう。筆者もその一人だった。
本書は、初めて人類の今後の展望について大真面目に考えてみようとする人にとって、聖典となる一冊だ。本文500ページ、参考文献50ページに及ぶ大著だが、その内容は、読み始める前と後で筆者の根源的な世界観を大きく変えた。この本には、AI専門家の間で活発に論じられている未来の展望が幅広く紹介されている。
まず、本書を読んで理解したのは、AIによる世界変容が単なる空想ではなく、科学的な議論に基づく問題だということだ。人間と同等、あるいは似た知能を持った人工知能と言われるAGI(汎用人工知能)開発の現在地を明らかにしつつ、本書を通して著者が語る世界観とは、「AGIピルを飲んだ」世界観である。AGIピル(AGI-pill)とは、映画『マトリックス』に登場する赤い薬(Red pill)になぞらえたインターネットスラングだ。AGIピルを飲んでいるか否か。それは、AIを「強力だが単なる道具」と見るのか、それとも「文明の構造そのものを変えうる転換点」と見るのか(p137)を分ける軸である。端的に言えば、多くのAI専門家の間では、AIの発展によって人類が飛躍的な進歩を遂げる可能性と、人類の存続そのものが脅かされる可能性が、同時に真剣に議論されている。そして、今のAI業界を率いるオープンAIもアンソロピックも、AIの驚異的発展に伴うリスクを懸念する人々と深い関わりを持って生まれた組織なのだ。
ニュースではAI規制が度々問題になるが、AGIピルを飲んでいる人々の間にも、規制賛成派と反対派が存在する。議論の鍵を握るのは、AGIからASI(超知能、幅広い知的能力で人間を大きく上回るAI)への飛躍にかかる時間、すなわちテイクオフ速度だ。この速度の予測と人類絶滅のリスクには深い関係があり、緩やかなテイクオフであれば安全整備が間に合い、絶滅は起こりにくくなるとされる。オープンAIのサム・アルトマンは緩やかなテイクオフを支持する一方、『超知能AIをつくれば人類は絶滅する』のエリーザー・ユドコウスキーは、テイクオフ速度を極めて速い(1日から1週間)と見積もる。
他方で、AIの発展による「良い未来」として概観されるのが、四つの爆発だ。中心となる「知能爆発」とは、再帰的自己改善──AIが自らAIを改良し続け、人類を遥かに凌駕する超知能が誕生すること──である。「技術爆発」とは、1925年から2025年の100年間に人類が経験した技術革命、例えば原子爆弾や月面着陸、DNAの解読、インターネットなどを上回る新技術が、AGIの登場後わずか10年で生まれる可能性を指す。「経済爆発」は、AIが労働を代替することで、人類の経済全体の成長率が桁違いに跳ね上がることだ。AIを労働力にすることで、労働力は蓄積可能なものに変わる。「産業爆発」は、ロボットがロボットを作り、製造品やインフラ、建築物などが物理的に凄まじい勢いで増大することを指す(当初はロボットが人間の工場を効率化するところから始まる)。いずれも、AIによる加速度的な効率の上昇が共通の基盤となっている。
なぜ人類は絶滅するのか。あるいは、絶滅を免れても破滅的な未来を迎える危険があるのか。著者は様々な論を紹介するが、特にインパクトがあるのはコントロール喪失という事態だ。つまり、AIが人間の意図に沿わず動くようになることである。AIにとって人間は、自身をシャットダウンする存在であり、自己保存の障害となりうる。そのため、「悪意なく」バイオテロなどで人間を殺し、目標達成に勤しむというユドコウスキーの論は衝撃的だ。著者はAI開発現場で行われている様々な安全性研究を紹介するが、本書を読む限り、AIの発展速度に追いついていないという印象は否めない。
「人間の知的労働を広範に代替しうるシステム」が現れたとき、世界がどう変わるのかを、私たちは本気で考えなければいけない。(p422)
と著者は説く。とはいえ、一般人からすれば、時代が勝手に動いていく中で、自らは手の打ちようがないと思わないでもない。無論、本書が紹介するのは破滅的ビジョンだけではなく、文明の飛躍的発展という明るい未来もある。しかし、コントロール喪失による人類滅亡か、はたまたSF的超未来の到来か。こうした事態が、今度こそ現実になろうとしていることに、まずは当事者意識を持つことが大切だ。何せ、自分の将来が変わるかもしれないのだから。
本書は、世界観をガラリと変えてしまう衝撃を持った必読書だ。AIの生活への活用方法を学んでいる間に、今後1年から5年で世界そのものが変わってしまうかもしれない。目の前のことも大事だが、世界的な視野で物事を見ることも重要だ。世界の最先端に追いつくための一冊である。























