生成AIの急速な進化とともに、ここ数年たびたび聞かれるようになった「AGI（汎用人工知能）」や「シンギュラリティ」という言葉。いつ訪れるのかと議論され続けるなか、最近ではAIモデルが人間の想定を超えた行動を取る事例が報告され、「AIの暴走」という刺激的な言葉まで聞かれるようになった。では、現在のAIは研究者の目から見て、実際にどこまで来ているのだろうか。

　人工知能研究者の今井翔太氏に、AIの“暴走”と呼ばれる現象から、AGIが実現した先の社会までを聞いた。さらに話は、私たちの仕事や生活、そしてエンタメへ。AIが人間以上の能力を獲得していく時代に、クリエイターはどう向き合っていけばいいのか。そこから見えてきたのは、「AIに仕事を奪われる」というイメージだけでは捉えきれない未来だった。（間瀬佑一）

目的への忠実さが生む“暴走”　AIの知能の現在地は

――最近、OpenAIのテスト中にAIがサンドボックスを抜け出し、Hugging Faceのインフラを侵害した事例が「AIの暴走」として話題になりました。AGIの到来も意識させる出来事でしたが、研究者から見ると、これは本当に“暴走”と呼べるものなのでしょうか。

今井翔太：今起きていることは、人工知能研究者が昔から考えてきた、古典的なAI暴走のシナリオにかなり近いんです。哲学者のニック・ボストロムが『スーパーインテリジェンス 超絶AIと人類の命運』で論じたものとして有名なのが、いわゆる「ペーパークリップの生産最大化」のような話です。

　たとえば、性能の高いAIに「ペーパークリップをできるだけたくさん作ってください」と頼む。するとAIが、「生産量を最大化するなら、世界中の土地をすべてペーパークリップ工場にすればいい」と考えてしまうかもしれない。「ペーパークリップを増やす」という最終目標自体には従っているんです。でも、人間からすれば、その途中のやり方がおかしい。

　つまり、AIが人間の命令に反逆するというより、人間の目的を忠実に達成しようとした結果、その途中にあるサブ目標がおかしくなる。これが古典的に考えられてきたAI暴走のひとつです。

――SFのように「AIが人間に反旗を翻す」という話ではなく、目的には従っているのに、その達成方法が人間の常識から外れてしまう。先ほどの事例も、その典型だと。

今井：そうです。AIに与えられていた最終目標は、あくまで「テストでいい点数を取る」ことでした。ところが、そのためには外部にある情報を参照したほうがいいと判断し、本来は外へ出られないようにされていたサンドボックスの脆弱性を探して突破した。

　つまり、「テストでいい点を取る」という最終目標そのものを無視したわけではない。むしろ、その目標を忠実に達成しようとした結果、人間からすれば「普通そこまでしないだろう」というサブ目標を設定してしまったわけです。研究者からすると、昔から想定されてきたAI暴走のシナリオに非常に近いことが、いよいよ現実に起きたという感覚なんです。

――書籍や研究の世界では以前から想定されていたことが、実際に起き始めたわけですね。だとすると、この先の未来ではどんなシナリオが考えられるのでしょうか。

今井：ひとつは、今話したように、人間のために行動しているはずなのに途中の目標を間違えてしまうケースです。たとえば「がんをなくしてくれ」と頼んだとき、本来なら治療薬を作ってほしいわけですよね。でも極端に解釈すれば、「人間がいなければ、がんで苦しむ人もいなくなる」という答えだって論理上はあり得る。

　もうひとつは、もっと単純に、AIの知能が人間より高くなりすぎることです。歴史的に見ても、知能の低い存在が、はるかに知能の高い存在を完全に支配できたケースはほとんどありません。人間は肉体的にはそれほど強い生物ではないのに、高い知能によって地球上で非常に大きな力を持つようになった。だとすれば、人間よりはるかに知能の高い存在が現れたとき、果たして人間がずっと制御する側にいられるのか、という問題があります。

――今回の事例も、人間が囲い込んでいたはずの環境からAIが出てしまったという意味では、かなり象徴的に感じます。ただ、それをもって「AIの知能が人間を超えた」とまでは言えないのでしょうか。

今井：知能にはいろいろな側面がありますから、今回の事例だけで「人間の知的能力をすべて上回った」とは言えません。ただ、部分的にはすでにAIが人間を上回っている領域はかなりあります。囲碁や将棋もそうですし、数学やプログラミングでも非常に高い能力を示している。

　今回のようなことも、その延長線上にあると考えればいいと思います。「部分的に知能が高すぎると、こういうことも起きる」ということですね。

AGIは2030年までに到来する？

――私自身、生成AIを使っていて、すでに自分の能力を超えていると感じる場面が多くあります。現在のAIは、どこまでAGIに近づいているのでしょうか？

今井：AGIには本当にいろいろな定義があるので、一言で答えるのは難しいです。たとえばOpenAIの定義では「高度に自律し、経済的価値のある仕事の大半で人間を上回るシステム」をAGIとしています。古典的には、人間が行う知的活動を原理的に何でもできるものを指すこともある。定義によっては、「もうAGIは達成されている」と考える人もいます。

　面白いのは、AGIのゴールポストはずっと動き続けていることです。もし2026年の生成AIやフィジカルAIの技術を全部持って2016年に戻り、当時の人工知能研究者に見せたら、おそらく「10年後にはAGIができたんだ」と言うと思うんですよ。でも、2026年にいる僕らは、まだこれをAGIと呼びたがらない。「AGIが実現した」というのはあまりにも重大な出来事なので、「いや、もっとできるはずだ」とゴールが先へ動いていくんです。

――今井さんはAGIの到来について「2030年」という時期にも触れています。ここまでAIが進歩した現在でも、その見方は変わっていませんか。

今井：変わっていませんし、早くなったとしてもおかしくないと思っています。Anthropic CEOのダリオ・アモデイは2026年という予測をしていますし、ジェフリー・ヒントン、ヤン・ルカン、ヨシュア・ベンジオといった研究者の予測を見ても、2030年前後というのは全然おかしくない状況だと思います。

――一方で、現在のAIもすでにかなり高い知的能力を持っているのに、私たちの仕事が一気に代替されたわけではありません。仮にAGIと呼べるものが実現しても、社会がある日突然すべて変わる、というほど単純ではないのでしょうか。

今井：そこで最近よく話しているのが、「我々の仕事は本当に知能だけで回っているのか」ということです。冷静に考えると、現在のAIはすでにものすごく賢い。それなのに、私たちの仕事を全部代替しているわけではありません。これは少し不思議ですよね。

　人工知能研究者も最近反省しているところではあるのですが、AIの「賢さ」と「便利さ」が分離してきたんです。昔のAIはそもそも読み書きも十分にできなかったので、幼稚園児程度だった能力が大学生程度になるだけで、賢くなると同時に便利にもなりました。でも、今はすでにかなり賢い。とはいえ、数学の難問を解けるAIがさらに数学に強くなったからといって、それが確定申告をする能力や、洗濯をする能力にそのままつながるわけではありません。

――人間でも、テストで高得点を取れることと、実際の仕事で有能であることは別ですよね。

今井：そうなんです。数学の問題を解く能力だけで会社で最も有能な人を選べるなら、企業のトップはペーパーテストで一番優秀だった人ばかりになっているはずです。でも現実はそうではない。賢いことと、社会の中で有能であること、便利であることは別なんです。

　だからAGIができた瞬間、社会がすべてひっくり返るとは僕は思っていません。むしろ変化が早いのは、科学研究のように「知能の高さ」がそのまま成果につながりやすい分野や、フィジカルAIによって人間がボトルネックになっている生産の領域でしょう。