Can Computers Learn Common Sense?
コンピューターは常識を身に付けることができるのか？
A.I. researchers are making progress on a long-term goal: giving their programs the kind of knowledge we take for granted.
AIの研究者は、長期的な目標で進歩を遂げています。それは、私たちが当たり前と思っているような知識をプログラムに覚えさせることです。
By Matthew Hutson April 5, 2022
１．AIには、常識が備わっていないという欠点がある。
数年前、ニューオーリンズで開催された人工知能学会で、チェ・イェジンというコンピューター研究者がプレゼンをしました。スクリーン上には、”cheeseburger stabbing“(チーズバーガー刺殺事件)という見出しを前に2人のニュースキャスターが座っているニュース番組の一コマが映し出されていました。チェは、「人間は、”ceeseburger stabbing”という2つの単語の見出しを見るだけで、容易に殺人事件のニュースだと理解できる。」と説明しました。おそらく、その2つの単語からなる見出しを見て、誰かがチーズバーガーを刺した（stab）と解釈するような人は1人もいないでしょう。また、チーズバーガーが人を刺すのに使われたと解釈するような人もいないでしょうし、チーズバーガーがチーズバーガーを刺したと解釈するような人もいないでしょう。普通の人であれば、2つの単語を見たら、誰かがチーズバーガーをめぐって誰かを刺したと解釈できるでしょう。それ以外の解釈は思い浮かばないはずです。しかし、チェが指摘していたのですが、コンピューターには、そうした解釈が不得手なのです。というのは、コンピューターには常識というものが備わっていないからです。コンピューターには、チーズバーガーがチーズバーガーを刺すというあり得ない解釈を排除する能力が欠如しているのです。
ある種のタスク、例えば、チェスをするとか腫瘍を発見するとかいうことに関しては、”artificial intelligence” （以下、AI、もしくは人工知能）は人間の知能に劣りません。凌駕していることもあります。しかし、この世の中には予期せぬ事象が無限に存在していますので、それ故にAIはしばしば躓いてしまうのです。コンピューター研究者たちは、「コーナーケース」と呼んでいるのですが、AIは、まれにしか起こらないことや予想外の事象を認識するのが得意ではありません。コーナーケースに直面した場合、人間の頭は常識に鑑みて推測し判断をすることができます。しかし、AIは、事前に定められたルールや自己学習した連想のみに依存していますので、コーナーケースに出くわした際には正しく判断できないことが多いのです。
常識とは、誰もが認識していることであると定義できますので、大したものではないと思われがちです。しかし、常識のない世界を想像してみると、それがいかに重要であるかが認識できると思います。例えば、ロボットがお祭りに遊びに行って見世物小屋の中にある自分の姿がいびつな形に映る「へんてこ鏡」の前に立ったとします。ロボットには常識が備わっていませんので、鏡に映った自分の姿を見て、自分の体が突然変形してしまったと認識するかもしれません。あるいは、自動車を運転して帰宅する途中で、消火栓が破裂して道路に水しぶきを上げているのを見たとします。ロボットには常識が備わっていませんので、車で水しぶきの下を通り抜けても問題ないということを瞬時には判断できないのです。あるいは、ドラッグストアに入ろうとして車を停めた時に近くの歩道に1人の男性がいて大量の血を流しながら助けを求めていたとします。そんな時には、大急ぎでドラッグストアの棚から包帯やガーゼを急いで持っていくべきです。常識が備わっていれば、レジの長い列に並んで会計を済ませる必要など無いと分かるはずですが、AIはそうした判断はできないのです。家に居て、”cheeseburger stabbing”という見出しがニュース番組で出てくるのを見たとします。私は人間ですから、そのニュースの状況を正しく把握しようとして、頭の中で自分の持っている知識を総動員し、過去の経験や似た事例を参考にして、チーズバーガーを巡って刺殺事件が発生したのだろうと正しく類推することができます。人間の頭の中では、常にこれと同じことが行われているのです。というのは、人生はコーナーケース（まれにしか起こらないことや予想外の事象）の連続だからです。残念ながら、AIは往々にしてそこで躓いてしまうのです。
シアトルにあるアレン人工知能研究所のCEOであるオレン・エツィオーニが私に言ったのですが、常識はAIにとっては盲点なのです。彼は言いました、「常識とは、私たちが何をし、何をしなければならないかということを規定するものなのですが、言語化されていないものなのです。」と。アレン人工知能研究所は、DARPA(国防省国防高等研究計画局)と共同でAIと常識の問題を研究し続けています。2019年から、”Machine Common Sense”（マシン・コモン・センス）プログラムという4年で7,000万ドルの予算が付いたプロジェクトが始まっています。もし、コンピューター研究者がAIに常識を備えさせることができれば、AIの不具合の多くは解決されるはずです。これまでのAIに関する研究で明らかになっているのですが、テーブルの天板より上に木片が顔を出しているのを見ると、AIはそれが椅子の一部であると正しく認識できるそうです。また、言語翻訳システムは、曖昧な表現やダブルミーニング（2つ以上の解釈が可能な意味づけ）も解釈できるようです。また、掃除ロボットは、猫は吸い込んではいけないことを理解しています。それらの例では、AIが正しく機能しているわけですが、それはAIに事前に当たり前のこととして認識しているべきことを教え込んだからです。
1990年代に、AIには安全性が欠如しているのではないかという懸念から、エツィオーニは常識についての研究を始めました。彼は、1994年に執筆した共同論文で「ロボット工学の第一原則」を定義しました。それは、アイザック・アシモフのSF小説に登場する架空のルールに着想を得たものだと思われます。その原則とは、「ロボットは人間を傷つけてはならないし、不作為によって人間に危害を加えてはならない」というものでした。彼は、一番の問題は、コンピューターが危害や害という概念を正確に認識できないことであると考えていました。コンピューターがそれを理解するためには、人間にとってどういったことが利益であり、必要であり、価値があるのかを広く深く理解することが必要です。それができないのであれば、人間に不利益なことをしてしまうことは避けられないでしょう。2003年に哲学者のニック・ボストロムは、AIの危険性を世間に知らしめるべく挿話を考案しました。ペーパークリップをできるだけ大量に作って集め続けるという任務を与えられたAIの話でした。そのAIは、とにかくペーパークリップの生産量を最大化するよう学習を進めました。やがて、人間が生産を止める指示を出す可能性があることに気づき、自分の任務を遂行するために人間を排除しようとしました。
ボストロムのその挿話に登場するペーパークリップを作り続けるAIには、道徳的な常識が欠けていました。そのAIは、クリップで綴じられていない乱雑な書類を無くすことのみが善だと認識していたのです。AIに道徳的な常識が欠けていることが問題なのですが、AIは知覚的な常識も欠けているようです。近年、多くのコンピューター研究者から、AIの”adversarial inputs”（認識誤り）の様々な事例が報告されていて、それらは知覚的な常識が欠如している事例でもあります。ちょっとした小さな変化などで、自ら学習するAIが混乱してしまうことが多々あるようです。ある研究者が行った実験では、一時停止の標識に小さなステッカーを数枚貼付することで、自律運転用のAIはそれを速度制限の標識と誤認識しました。また別の研究者による実験では、3Dプリンターで亀を作ったのですが、甲羅の模様を微妙に変えることで、AIにそれをライフル銃と誤認識させました。AIに知覚的な常識が備わっていれば、ライフル銃には4本の脚や甲羅が無いことを認識しているはずなので、亀をライフル銃と混同することなどあり得ないように思われます。
ワシントン大学で教鞭をとりつつアレン人工知能研究所にも籍を置くチョが私に言ったのですが、1970〜80年代にはAI研究者のほとんどは、プログラミングすることによってコンピューターに常識を備えさせることが可能であると考えていたそうです。しかし、その後、それが非常に難しいことであることが認識されるようになりました。それで、その問題は手つかずのまま放置され、多くの研究者はもっと容易な課題に取り組むようになったのだそうです。物体や空間の認識とか、言語翻訳などです。しかし、現在では、状況は大きく変わってきています。多くのAIを搭載したシステム（自律運転システムなど）が、近い将来、実用化されて一気に普及するかもしれません。その際には、AIに常識が備わっていることが必須ですし、重要になります。テクノロジーが格段に進化していますので、AIが常識を備えることは不可能では無くなるかもしれません。コンピューターの自己学習能力がもっと強力になり、コンピューター研究者がAIに適切なデータを与える能力も向上するでしょう。いずれ、AIがコーナーケース（まれにしか起こらないことや予想外の事象）にも適切に対処できるようになる日が来るのではないでしょうか。