本日翻訳して紹介するのは、The New Yorker のWeb版にのみ掲載の記事で、タイトルは、”Can Computers Learn Common Sense?”(コンピューターは常識を身に付けることができるのか?)です。4月5日に投稿された記事です。Matthew Hutsonによる記事です。
Hutson氏は、science and technology関連の記事を多く寄稿しています。スニペットは、”A.I. researchers are making progress on a long-term goal: giving their programs the kind of knowledge we take for granted.”(AIの研究者は、長期的な目標で進歩を遂げています。それは、私たちが当たり前と思っているような知識をプログラムに覚えさせることです。)となっています。
この記事はAIに関するものです。主旨は、AIには人間が持っている常識が備わっていないこと、また、AIはそれが故に、重大な判断ミスをしがちであること、だからといって、AIに人間の持っている常識を身につけさせるのは 非常に難しいということです。
さて、AIに常識が備わっていないということは、どういうことを言っているのでしょうか?この記事の例では、”cheeseburger stabbing”というTVニュースの見出しをみて、AIが事件の概要を正しく推定できない件を紹介しています。その事件は、息子がチーズバーガーを巡って母親と口論になり刺殺してしまったというものでした(stabは刺すとか突くという意味です)。普通の人間が、”cheeseburger stabbing”というニュースの見出しを見たら、だいたいチーズバーガーをめぐって刺傷事件があったのだろうと想像できます。しかし、AIにはそれができないのです。チーズバーガーが誰かを刺したとか、チーズバーガーで誰かを刺したという風に類推してしまうのです。
AIは、”cheeseburger”の意味も”stabbing”の意味も知っているでしょう。しかし、チーズバーガーが誰かを刺すわけないとか、チーズバーガーで誰かを刺すことができないという当たり前のことが理解できていないのです。これが、常識が欠けているということなのです。
でも、いやいや、AIはチェスの世界チャンピオンに勝つようになっているし、すでに人間より賢いし、十分常識が備わっているだろうという疑問を持たれる方もいるのではないでしょうか。たしかに、特定の分野では、AIの能力は人間を凌駕しています。チェスとか将棋とかMRIの画像を見てガンを発見する能力などです。
つまり、限られた事象しか起きない場合には、AIは能力を人間よりも発揮できるのです。限られているがゆえに、全てを事前に人間がAIに学習させられるということが大きいのだと思います。それに対して、コーナーケース(まれにしか起こらないことや予想外の事象)が発生するようなタスクは、AIは苦手なのです。そりゃあそうです。まれにしか起こらないことや予想外の事象について、事前にAIは何も教わっていないのですから、自分で考えて類推して対処することできないのです。
いや、私なんかは、むしろAIには勝手に類推して勝手に判断してもらっては困ると思います。余計なことはするなと。分からんのに間違った判断をされて、事故などが起こったら大変ですからね。分からない時は、分からないと報告だけしてもらった方が良いのです。そうしたら、その場合の判断基準とか対処法とかルールとかを人間が決めてコーディングして次からAIが対処してくれれば良いのです。実際、自律運転車のAIの開発は、そうやって1つ1つ不具合を潰していっていると思います。間違っても、AIに自由に行動させて、勝手に判断させて、事故が起こってから不具合に対処するという開発方法ではないと思います。それをやってしまうと、とても危険ですからね。
しかし、まあ、人間に常識が備わっているとのことですが、AIと違って経験を元に類推して判断できるといっても、そうして下した判断が正しくない場合もかなり多いのではないでしょうか。AIを過度に信頼することも現時点では避けるべきですが、人間に常識が備わっていると過信することも避けるべきだと思いました。
では、以下に和訳全文を掲載します。詳細は和訳全文をご覧ください。