Annals of Artificial Intelligence
How to Picture A.I.
AI をどのように説明するか
To understand its strengths and limitations, we may need to adopt a new perspective.
その長所と限界を理解するには、新しい視点を採用する必要があるかもしれない。
By Jaron Lanier March 1, 2024
序 AI がどの様に機能するかを説明したい
テクノロジーは、単独では役に立たない。テクノロジーが役立つためには、他の要素が伴う必要がある。一般大衆が理解し、それを好ましいと思う必要がある。また、それがもたらすリスクとメリットを正しく認識して、社会全体にそのリスクを受け入れる覚悟があることも必須である。世間が理解した上でそのテクノロジーが普及するのを望んでいない場合、テクノロジーは非効率で不完全な形で使われることになりがちである。その良い例が、新型コロナパンデミック時に開発された mRNA ワクチンである。mRMA ワクチンは、医学上の偉大なブレークスルーであったにもかかわらず、広く理解されなかったために期待したほどには普及しなかった。広く普及し成果をあげるのに必要な要素が欠けているテクノロジーは、テクノロジーと呼ぶことさえ不適切なのかもしれない。新たなテクノロジーを広く普及させるためには、多くの者がそれがどの様に機能するかを正しく理解する必要がある。また、普及するために必要な要素が何であるかを明らかにしなければならない。
別の言い方をすれば、テクノロジーがどのように機能するのかを、頭の中で絵のように明確にイメージできることが必要である。私は自分で作るほどワクチンについての知識は持っていない。しかし、ワクチンがどの様に機能するかは十分に理解している。頭の中で絵のように明確にイメージすることができる。新型コロナワクチンに関するニュースは必ず目を通していたので、その開発プロセス、リスク、将来性も十分理解していた。ロケットについても十分に理解しているつもりである。頭の中に明確にイメージできる。金融規制、原子力発電についても同様である。頭の中に明確に思い浮かべたイメージは、自分の専門分野でない限り、完璧とはほど遠いものであるが、十分な直感を与えてくれる。実は専門家同士が会話する際にも、頭の中に思い浮かべた絵のようなイメージを使うことがある。物事を単純化して見ることで、全体像をより的確に捉えることができる。
しかし、IT 関連のテクノロジーについては、頭の中に絵のようなイメージを思い浮かべてたとしても、良いイメージでない場合も多い。AI について言えば、頭の中に思い浮かべたイメージは、芳しいものではなかった。多くの IT 関連の専門家が頭に描いたイメージは、AI は役に立たず、混乱ばかりをもたらすというものであった。AI が人間を陳腐化し、人類の破滅をもたらすと予測する者も少なくなかった。私の同僚の何人かは、自分たちがやっていることが人類の破滅につながるかもしれないと言いながら、それでも開発する価値があると主張していた。私は、そうした彼らの行動を理解するのに苦しんだ。AI が新しい種類の宗教になりつつあるのではないかと思うこともある。そうでなければ、彼らの行動は理解できない。
AI が人類に害悪をもたらすという終末論的な雰囲気がある上に、AI とは何か、どのように機能するのかということを一般大衆はほとんど知らされていない。一般大衆は、テクノロジーに詳しいとは言えないが、厄介な抽象概念でさえも、全体をいくつかに分解して具体的に説明すれば概ね理解してくれる。しかし、IT 関連のテクノロジーでそれをすることは難しい。通常、IT 専門家は、AI システムを巨大で分解不可能なものとして扱うことを好む。おそらく、AI の開発を神秘的なものに見せたいがために、IT 専門家の多くは自分たちがやっていることを明確に説明することに抵抗があるのだろう。AI（人工知能）という用語が使われだした背景には、新しい道具を作るのではなく、新しい生き物（知能）を作るのだという考え方がある。この考え方は、「ニューロン（神経）」や「ニューラルネットワーク（神経網）」のような生物学的用語や、IT 専門家が常に使う「学習」や「訓練」のような生物にしか使わない用語によってさらに助長されている。また、AI に決まった定義がないことも問題である。これでは、AI に関して具体的に指摘したくてもできない。指摘したとしても、それは AI に関する指摘ではないとして却下される可能性があるからである。AI という用語に定義が定まっていないのは、それがいずれ人間の理解を超える存在になることを暗示しているのかもしれない。
AI を、人間の陳腐化と人類の破滅を示唆する言葉を使わないで説明する方法はあるのだろうか？もし私たちが、AI について別の言葉で説明することができれば、これを社会に浸透させるためのより良い方法が見えてくるかもしれない。2023 年 4 月に、私が本誌に寄稿したエッセイ「 AI は存在しない（ There Is No A.I. )」では、大規模言語モデルを新しい生物ではなく、人間と機械のコラボレーションの一形態として捉え直すべきであると論じた。そのエッセイでは、そのような AI がどのように機能するのかを、少しだけ専門用語も使いながら説明した。また、AI を進化させるためには、人間がインプットすることが重要であるということも強調した。このエッセイはコンピューターサイエンスの入門書のような内容ではない。人類が手にした最新の情報処理方法を巧みに取り入れた AI について説明するものである。ほとんどの人は AI がどのように機能するかについて理解できていないと思う。そこは、他のテクノロジーと違うところである。ここでの説明で読者の AI への理解が深まることを願っている。
大規模言語モデルに関して、人間中心のイメージ図を描いて説明したい。4 つのステップに分けて理解しやすくしている。それぞれのステップは簡単である。しかし、それを合わせて説明することで、全体像をイメージしやすくなる。