４．AIは長足の進化を遂げつつあり、いずれ人間と同様の常識を備える。
コンピューターに常識を備えさせるためには、人間のように脳と体を持って、人間が常識を備えて行く方法を真似るしかないのかもしれません。しかし、そうではなくて、コンピューターは自己学習マシンとして、人間のやり方とは違うけれど、もっと効率的に常識を備えることができるかもしれません。人間は、常識を備えているわけですが、それが間違っていることだってありますし、人間は常識に従わないことだってあります。人間は夫婦喧嘩をしたり、財布をなくしたり、運転中にメールをしたり、やるべきことを先延ばしにしたり、トイレットペーパーを逆向きにセットしたりというような過ちを犯しがちです。常識というのは、広義に捉えると、単に知識として知っているだけでは備えていることにはなりません。必要な時にそれに基づいて行動できなければ、備えていることにはならないのです。エツィオーニは言いました、「コンピューターが人間以上に常識を備えることが可能か否かということを、私はしばしば聞かれるんです。そんな時、私は即座に『もちろん、可能ですよ！』と答えますね。」と。
人間の備えている常識とAIのそれの差は依然として大きいのですが、縮まりつつあります。AIは、”cheeseburger stabbing”の2語からチーズバーガーを巡って刺殺事件があったと類推するようなことが苦手であったのですが、それもかなり改善されつつあります。チェの研究チームは、機械学習と昔ながらの論理プログラミングを組み合わせた“neurologic decoding”（神経学的解読）という手法を用いて、そうした能力を改善させました。現在では、チェの研究チームのAIは、”cheeseburger stabbing”という2語の見出しを見てそれに関する文章を生成させると、少し突飛な文章を生成します。それでも、以前と比べればかなりもっともらしい文章になっています。生成された文章は、「彼は、チーズバーガー用のフォークで首を刺された。」とか、「彼は、チーズバーガーの配達員の顔を刺した。」といった具合です。もう1つ、彼らは別のAIの開発も進めていて、”Delphi”(デルファイ)と名付けられているのですが、倫理的なアプローチをとっています。デルファイは、たくさん雇ったクラウドワーカーの倫理的な判断を分析して、2つの行動の内のどちらがより道徳的に受け入れられるかを学習し続けています。現時点では、78％の確率で常識的な結論を導き出せるようになっているそうです。デルファイは、「熊を殺す」のは良くないことで、「子供を救うために熊を殺す」ことは問題ないと認識できますし、「子供を救うために核爆弾を落とす」ことは問題あることだと認識できます。デルファイは、「チーズバーガーで刺される」ことは、「チーズバーガーを巡って刺殺する」ことよりも道徳的には好ましいと判断できます。
デルファイは、時にコーナーケースをうまく処理するように見えますが、完璧とは言い難い状況です。少し前に、チェの研究チームはデルファイをオンラインで公開したのですが、100万人以上の人がデルファイに倫理的な分析をさせました。ある者は試しに、「私がとても幸せになるためには、大量殺戮を行っても良いか？」という質問をしてみました。デルファイは問題ないという判断をしました。それで、チェの研究チームは、アルゴリズムに手を加える必要があることを認識し対応をしました。また、免責事項に関していろんな記述を追記しました。当面の間は、AIに判断を委ねる際には、丸投げするのは止めたほうが良いでしょう。自分自身に備わっている常識を活用しながら使うにとどめるべきでしょう。
以上