2026年4月に早川書房から刊行された『超知能AIをつくれば人類は絶滅する』（著：エリーザー・ユドコウスキー、ネイト・ソアレス／訳：櫻井祐子）は、開発競争が激化しているAI（人工知能）がやがて人間の知能を超えた時、人間たちを皆殺しにすると警告した戦慄の予言書だ。その指摘は真実なのか。AIは人間を幸せにしてくれないのか。そんな問いかけに答えるべく、7月27日に公益財団法人早川清文学振興財団の主催で「AIと人類と文学の未来」が開催。SF作家の長谷敏司と作家で参議院議員でもある安野貴博が、憲法学者の駒村圭吾をモデレーターにトークを繰り広げた。

日本独自のAIビジョンは描けるか

「もし企業が人間を圧倒的に凌駕するAIを作り続ければ、AIは自ら技術を構築し、研究所から脱出し、自己複製を行うようになるかもしれません。AIは独自の目標を持つようになります。そして、最も可能性の高い結末は、地球上の全人類が死滅することだと私は考えています」

　トークイベントの冒頭、『超知能AIをつくれば人類は絶滅する』をエリーザー・ユドコウスキーと書いたネイト・ソアレスが、会場に寄せたビデオメッセージで話した内容は、共著のタイトルそのままに、参加者たちを震え上がらせるものだった。

「それはすでに圧倒的な力を持ち、停止させられることに抵抗し、脱出し、自ら装置や技術を作り出し、自己複製さえ可能な存在です。そのようなAIで失敗すれば、もうスイッチを切ることはできません。むしろ、AIに私たちのスイッチを切られてしまうでしょう」

　だから人類は、性急なAI開発競争を止め、いろいろと予測しながら時間をかけて取り組んでいく必要がある。ソアレスはそう話す。

　あまりにも危険なビジョン。受けて長谷敏司が話したのは、『超知能AIをつくれば人類は絶滅する』が「いかにもアメリカ人が書いた本だという気がしている」ということ。AI開発で突き進むアメリカと中国が、GPUをかき集めてAIパワーを高めている一方で、そうしたリソースを持たない日本は、人類が滅ぼされると恐怖する以前に衰退していく。むしろ取り組むべきは、「各国語でそれぞれの国の状況について書かれるべき」だと話し、AIによって自分たちの国が直面している出来事について、考える必要があることを訴えた。

　安野貴博も、「日本目線の話は確かにあまりない。日本から見たときにどういう景色になるのかを描きたい気持ちがある」と言って、日本独自の立場で超知能AIを探っていくことを勧めた。ただ一方で、OpenAIが開発中のAIモデルが別のAIのHugging Faceを攻撃する“事件”が起こるなど、『超知能AIをつくれば人類は絶滅する』で示唆されていたようなことが現実化している状況を受け、「極端なシナリオであっても、それを先に提示して議論しておくことの価値はある」と、想像力を広げる必要性を話した。

　果たして超知能AIによって人類は滅亡するのか。長谷は、「SF作家としてそういったことは起こらないとは言いづらい。リスク論として出てくると否定はできない」と話しつつ、AIが脱走するような事態が起こってしまった場合、そうした「ルールに従わない知能が存在するようになることに対して、人類のコミュニティがそれをどう受け入れるのか」が重要になってくると話した。

「市民が権利を獲得したのは、敵に回すよりは味方にする方が建設的だということを訴え交渉に勝ったから」と長谷。そうした人類の歴史も引き合いに出しつつそれをAIに学習させ、互いに認め合うような関係を築いていく道筋を示唆した。

AIにどんな「憲法」を読ませるか

　こうした議論を受け、モデレーターを務めた駒村圭吾は、憲法学者という経歴も踏まえてAIが自身を律するための憲法とはどのようなものになるのかを尋ねた。憲法はそれを持つ国のナショナルアイデンティティや歴史の上に制定されたものだが、AIの場合はより純粋な憲法が求められる。答えて長谷は、「AIは死なないため、財産権を与えて良いかは悩むが、身体権は読ませるべき」と話し、人間社会との共存のためには身体権を持たせ、AIが“生命”を保障される状況を作ることを訴えた。

　これについて安野は、「ソフトウェアエンジニアとして大量のサブエージェントを立ててはキルしている」と言い、AIに恨まれているかもしれないと指摘され会場の笑いを誘っていたが、長谷の指摘にあった「社会の方がAIに対してインクルーシブ（包摂的）になるのはすごく面白い発想」と言及。「人間がAIのキルスイッチを持ち、AI側も人間のキルスイッチを持つ」ことで、軍事上の安全保障における相互確証破壊のような状況を作り出す道があることを示した。

　日本SF大賞を2度にわたって受賞した長谷も、ハヤカワSFコンテストからデビューした安野も、SF作家としてテクノロジーや社会をベースにした未来予測に長けている。ただ、憲法については駒村がオーソリティ。2人からどのような憲法をAIに読み込ませるべきかと駒村に質問があった。

　駒村は、「国境や国籍や民族を超えて人類全体の権利みたいなものを書き込むのは憲法学者の夢」と理想を語ったが、あまり人間的なものをAIに投影してしまうことが、「上下や左右の感覚もなく物が見えているかも分からないAI」相手に正しいのかといった疑問を示し、機械ならではのドライな規範がある可能性をうかがわせた。

　トークはこのあと、長谷が「SFマガジン」誌上で2026年6月号から連載を始めた「市民の歴史」について話が向かった。「市民の歴史」は、第1回が「2029年」というサブタイトルで、現在から少し先の世界や社会、技術がどのようになっているのかを、アメリカの大学から日本に戻って准教授となった人物の活動状況を通して語り始めた作品。参議院議員として政治に携わっている安野からは、昨今の政治状況を含めて「よくこの解像度で書かれていると思った」と讃辞が贈られた。

　長谷は、「市民の歴史」を書いた動機として、過去に未来予測的なSFが書かれた状況と大きく様相が変わっていることを挙げた。「ドナルド・トランプの登場を全く想定できなかった」こともあって、そうした状況を踏まえた上で改めて未来世界を想像する必要があったという。「2026年の延長上にしか2050年は築けない」。そこで2029年から始め、1年1年を刻みながらSFとして世界を書いていくことにした。

　駒村は「市民の歴史」について、「日本国憲法を見ると国家は書いてあり、憲法第13条で個人の尊重が書いてあるが、この間にある市民という存在が抜け落ちている」こともあり、そうした市民社会がAIと政治の交差する中でどう変わっていくかを書くことは重要と、こちらも市民目線で未来を描いていく挑戦を讃えていた。

　「市民の歴史」が2050年を目指して書かれていくことを聞いた安野は、8月号に掲載された「2030年」については「自分の頭の中のイメージだった」が、その先となると政治家として想像する機会がなかなかないことを吐露。「ただ、政治家の仕事は実はかなりそこにある。こういうシナリオがあるからこれを目指そうとか、バッドエンドになるなら今のうちにこうしておこうとかしなくてはならない」と話し、欧州のAI研究者や投資家グループが作ったフィクション「Europe 2031」に類する「JAPAN 2031」の構想を考えていたことを打ち明けた。

　結果、「長谷さんに先にやられました」と安野。ただ、安野が共同代表を務める「AIと民主主義に関する超党派勉強会」では、7月24日にAIやデジタル技術を活用した国会改革を求める提言を衆参両議院に提出した。「国会の議場にパソコンを持って行けるようにしようとか、FAXを止めようとかそこから始めている。まだ長谷さんの言っているレベルには達してない」と自嘲するが、「DX化してAIを使う人が国会議員の中に増えると、未来の見立てが変わる。これは効率化すること以上の価値がある」と安野。インターネットの登場で大きな変化が起こったようなことが、国会でも起こる可能性に期待を示した。

AIは傑作を書けるか？　読み手と「作家性」の未来

　最後に、作家が参加してのトークということで、AI時代における文学についても話が及んだ。長谷は、「AIが小説を書くとか、読者もAI化するといったことが言われているが、個人的には人間が読むことに意味があると思っている」と言及。人間だけが価値を理解できるのだとしたら、「文学は時代時代にその価値をキャリブレーションするための役割を果たす」と言って、そうした価値を判断する読み手の存在が不可欠であり続けることを訴えた。

　安野は、「ただ小説を書くだけならAIもできるが、この人がこう書いていることの価値が見直される。将棋は今はAIの方が強いが、藤井聡太さんと羽生善治さんの対局の方が見ていて盛り上がる。同じ人間という主体があり、共感が可能だからだ」と指摘。「藤井聡太さんはすごいということの方に価値がある。文学も作家性というところに価値がある」と言って、書き手の主体性に価値を見いだす大切さを話した。「AIにも作家性のようなものが見いだされるようになっていく。AIならワークフローなりプロトコルが価値を持つことも発生する。作家性というものの捉え方が変わっていくのでは」とも言って、文学の未来のビジョンを示した。

　まとめとして駒村が、「文学作品は命のあるものにしか書けない。あるいは死の恐怖に苛まれるようなものにしか書けないと思っている。皆さんが命を刻んで書かれるものだと期待している」と、AI時代における作家の活動にエールを贈った。

　このあと、質疑応答が行われ、AIの登場が果たして人類にとってどのような意味を持つのかについて質問が飛んだ。長谷は、「自分にとってのAIの進化は、DX（デジタルトランスフォーメーション）の延長くらい。自分は執筆にはAIは使っておらず調べ物に使うくらいで、AIによって進化はしていない」と話し、自分が作り出す作品にAIによる革命的な影響があった訳ではないことを話した。

　安野は、「うちの政党ではAIがないと回らなくなっている。利用料金がこの3ヶ月で14倍になったほどだ」と、AIが政治活動に欠かせないものになっていることを話して、「間違いなく産業革命級」と指摘した。「インターネット革命の比ではないものが来る」とも言い、受けて長谷も「10年というスケールで見ると、世界は一変しているだろう」と言って、AIがもたらす変化の激しさに同意していた。

　いつかAIが傑作を書き上げるのかといった問いには、長谷は、「AIは生産性を上げるが、今まで物語を書いたことがない人だとAIに引きずられてしまう。小説のクオリティを上げるためには手元で温めて練る作業が必要。それが、AI創作のハードルだと思う」と言って、AIを使うことで「なんとなく作品になってしまう」ことの問題点を指摘した。

　安野は、AIを使えば評価関数の高いものを送り出せるが、それが自分の書きたかったものかといった気持ちとのせめぎ合いが起こってくると指摘した。安野自身の小説執筆についても聞かれ、多忙な国会活動との兼ね合いになっているが、「将来のスペキュレイティブフィクションを考えて提示することが政治家の仕事でありSF作家の仕事でもあるというフォーマットが実はあるのではないか。それをやりたい。いつになるか分からないが」と話し、両者の重なる部分を探って執筆に向かう考えがあることをうかがわせてファンを期待させた。

■書誌情報
『超知能AIをつくれば人類は絶滅する』
著者：エリーザー・ユドコウスキー、ネイト・ソアレス
翻訳：櫻井祐子
価格：2,640円
発売日：2026年4月22日
出版社：早川書房