AIにとっての“自意識”や“感情”とは？　海外文献や実例から読み解く

AIに意識や感情が生まれたらどうなる？

　「人工知能」は名前の通り、人間の脳の働きを模して作られている。例えば、ディープラーニングを用いたAIは、多層の（人工）ニューラルネットワークを通して複雑な計算処理を迅速に行うことができる。しかし、現段階ではAIにディープラーニングをしてもらうときは、人間がタスクを設定して学習データを指定する必要がある。もしAIに「意識」があるならば、これらのニューラルネットワークは自分で学習データを選択できるはずである。オクスフォード大学でコンピューティング・サイエンスの研究をするEdith Elkindによると、「AIはプログラムされたような動きではなく、自身でゴールを設定して、それらのゴールにしたがって行動できるようになったら、AIに意識が芽生えたことになる」という。

　自らゴール設定ができてしまうロボットというのは、フィリップ・K・ディックの短編『変種第二号』（1953年）に出てくるクローを思い出す。クローはアメリカの技術者によって、人間の手を借りずに自ら修理して改良できる、ソ連軍を倒すための自立型戦闘ロボットとして開発された。しかしクローはどんどん進化し、人間と見分けがつかないほど高度なロボットを作ることに成功してしまうのだ。これはのちに『アンドロイドは電気羊の夢を見るか？』などの作品でも問われる「人間」と「ロボット」の境目というテーマを扱った作品でもある。

　今の技術ではAIやそれを搭載したロボットに意識があるとはいえないが、このようなディストピアが現実で起こりうるかというと、可能性は極めて低いだろう。現段階の技術では、AIは良くも悪くもプログラムされた通りの動きしかできないからだ。しかし研究が進むにつれ、より高度な動き、つまり「データ化された自意識」に従っているような振る舞いをすることになるかもしれない。

（文＝かぷぬ）