次に、私は天才タン氏にお願いしたいことがある。

　今後、人類はAIと共存していかなければならない。そのためには先ず、人類はAIに善悪の判断を教えなければならない。なぜなら、まだ部分的、限定的にではあるが、AIは人間より頭がよく、力も強いからだ。その頭や力を野放図に使われては人間の心と身体が危険にさらされることになる。

　ちなみに、これまでも「ロボットの道徳」については考えられてきた（SF作家アイザック・アシモフの著書はタン氏の愛読書でもある）。

「ロボットの道徳」という構想は、実はいまに始まったものではありません。古くは「アシモフの三原則」が有名です。みなさんのなかにも、聞いたことがある人も多いのではないでしょうか。
これは、アメリカのＳＦ作家アイザック・アシモフがその小説の中で述べたもので、
第一条：「ロボットは人間に危害を加えてはならない。また、その危険を見過ごすことで、人間に危害を及ぼしてはならない」
第二条：「ロボットは人間に与えられた命令に従わねばならない。ただし、与えられた命令が、第一条に反する場合は、この限りでない」
第三条：「ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない」
というものです。
この三原則は、あまりに有名で、一部の人々はロボットの従うべき道徳律の決定版のように扱っていますが、私が見るかぎり、根本的に大きな問題をはらんでいて、このままでは使えないと考えています。
『東大教授が挑む AIに「善悪の判断」を教える方法』（鄭 雄一著　扶桑社新書）P.7-8

　では、なぜこのままでは使えないのか？

　それは、これまでの哲学や宗教のように、人間を中心とした教えでは、戦争によるヒトの大量虐殺や死刑制度などを説明することができないからだ。

　だから、AIへの道徳教育は、「人間を傷つけてはならない」から「仲間を傷つけてはならない」ということになり、その仲間には当然AIも含まれることになる。

　では、なぜAIも仲間に含まれるのか？

　それは、AIが仲間である人間を仲間でない人間から守らなければならないし、AIが仲間でない人間から攻撃を受けた場合に、AIは自分でその身を守らなければ、仲間にとっての損失になるからだ。

　いずれにせよ、高い道徳観念と高度な知能を搭載したAIは人類の知能を超えていくだろう。そして一部には、「シンギュラリティとは、AIが人類を飼育する時代の到来を指す」と、そんな風に論ずる識者もいる。

　そんな論調もある中、タン氏はこのように論じている。

「人工知能は永遠に人間の知恵に取って代わることはない」

　高い道徳観念と高度な知能は、時として人類を傷つける刃になると私は考える（正しさは人を裁く）。そんな時こそ、ユーモアでデマに反撃するタン氏のような機転と優しさが必要となるのだ。

　そんな、どこまでも高い知性とどこまでも深い優しさをもつ彼女に、花束に忍ばせてラブレターを送りたい。

■新井健一
経営人事コンサルタント、アジア・ひと・しくみ研究所代表取締役。1972年神奈川県生まれ。早稲田大学政治経済学部卒業後、大手重機械メーカー、アーサーアンダーセン（現KPMG）、同ビジネススクール責任者を経て独立。経営人事コンサルティングから次世代リーダー養成まで幅広くコンサルティング及びセミナーを展開。著書に『いらない課長、すごい課長』『いらない部下、かわいい部下』『働かない技術』『課長の哲学』等。