AIの未来を技術者だけで決めない Google DeepMindが社会全体でAGIを議論する場「DeepMind Institute」を設立
Google DeepMindは9月16日、汎用人工知能（AGI）の安全な開発や社会への影響を議論する「DeepMind Institute（DMI）」を立ち上げた。GoogleやGoogle DeepMindの研究者に加え、社外の研究者や思想家も参加し、分野を横断した研究や論考の発信を進める。
AGIは、人間のように幅広い知的作業をこなすAIを指す。設立に際して公開した文章では、現在のAIは一貫性や創造性などの面でまだ完全なAGIの水準に達していないとしつつ、その実現が近づいているとの見方を示した。医療やエネルギー分野での科学的進歩への期待とともに、サイバー攻撃への悪用や、将来の自己改良型AIを人間が制御できなくなるリスクを挙げている。
DMIが扱うのは、AIの技術的な安全性だけではない。AGIの普及に合わせて社会制度や政策をどう変えるか、人間が何に価値を置くようになるかといった問題も議論の対象とする。技術者だけで答えを出すのではなく、芸術や人文学、政府を含む社会全体で考える必要があるとしている。
公式サイトでは、具体的な論考も公開されている。経済政策を扱う「Economic policy for AGI」では、失業保険や職業訓練、ベーシックインカムなど11の政策を検討。AIによる雇用や所得への影響には不確実性があることを踏まえ、実際の経済データに応じて対策を選び、段階的に実施する考え方を提示した。
安全性に関する論考では、AIが回答を出す途中の推論を人間が読める状態に保つことの重要性を説明している。推論の記録は、AIが情報を隠そうとしていないかなどを調べる手掛かりになる一方、効率を優先した開発によって、その透明性が失われる可能性があると指摘した。
運営のディレクターにはシェーン・レッグ氏、ジェームズ・マニカ氏、デミス・ハサビス氏が名を連ね、レッグ氏が編集責任者を務める。DMIは、掲載する論考を議論の出発点と位置づけており、内容は著者自身の考えや研究を反映したもので、Googleの公式見解を示すものではないと明記している。