森の見回り（ Navigating the Forest ）
多くの人が AI に対して懸念を抱いている。安全性、品質、公平性、そして経済格差拡大に関する懸念が多い。このエッセイで試みた説明は、こうした懸念に対処しようとする人々の仕事を理解する助けにもなる。今回の説明では、遠くから見ると三連の絵のようになっている。真ん中には、訓練に使うデータと生成されたアウトプットに挟まれる形で、広大で見たこともないような森が広がっている。訓練データとアウトプットは理解しやすいものであり、人間は理解することができる。真ん中の部分、つまり森は、当分の間、ほとんど理解できないままである。
多くの研究者がポジティブな効果をもたらすために一歩を踏み出している。理解可能な部分についてのもので、プロンプトとアウトプットの研究が広く行なわれていて、監視を開始している。今日の AI システムには、「ガードレール（ guardrails ）」が組み込まれており、AI 開発者が予測した方法で、ユーザーがプロンプトを出す際に一部制限をかけている。また、訓練データの中の最悪の部分を除去することにも努力が払われている。違法な、詐欺的な、悪意のある、あるいは偏った訓練データを減らすことで、より健全な森を育てることができる。
真ん中にある森そのものに関する理解を深めることはできないのだろうか？前述の昨年 4 月に寄稿したエッセイ「 AI は存在しない（ There Is No A.I. )」で、大規模言語モデルについて、特定のインプットとアウトプットの間の関連性を理解する方法を見つけ出す必要があると私は主張した。これは、成長し続ける森の中に道標となるパンくずを残すようなものである。これは理論的には可能であるが、現実的に考えると当分の間は不可能である。私は、これを可能にする方法を見つけ出すことが重要であると考えている。ある悪意に満ちた集団が、AI に爆弾作りを手伝わせようとしたと仮定する。彼らも馬鹿ではないので、プロンプトに「爆弾（ bomb ）」という単語を使わないくらいの知恵は持っている。巧みに装って正確なアウトプットを得ようと試みるだろう。もしかしたら、AI を巧みに騙して爆弾作りのヒントが含まれているケーキのレシピを生成させるかもしれない。しかし、もし森の中の至る所にパンくずが残っていたら、彼らの企みは容易ではなくなるだろう。ある時点で、パンくずが残っているのを認識して、プロンプトが悪意を持つ者によるもので爆弾製造に関するものであることに AI が気付くだろう。
AI の開発者やユーザーの中には、私がこの技術を過小評価していると反論する人もいるかもしれない。しかし、私はそうは思わない。何かの具体的で有限な価値を述べることができるということは、無限の可能性があるという幻想を傷つけるかもしれない。しかし、そうではなく、様々な事実に関して明確で分かりやすい認識を私たちに与えてくれる。テクノロジーが常に進化していることに注目する人もいる。私がここで説明した AI のバージョンは、いずれ違うものに取って代わられる。そうするとここで概説したことは時代遅れになるかもしれない。いずれ、そうなるだろう。新境地を開拓しようとする研究者たちによって毎日のように論文が発表され、新進気鋭の新興企業の出現も後を絶たない。
それでも、ここで概説した内容は、今日存在する AI を適切に記述したものである。それを正しく理解していただければ幸いである。これは、AI 研究者が望んでいるような詳細な内容ではなく、AI テクノロジーの能力と限界を大まかに説明するだけのものである。ここで説明した AI のバージョンが時代遅れになった場合、つまり森が焼き払われた場合には、私以外の誰かが、新しいバージョンの AI を分かりやすく概説してくれるだろう。おそらくその新しい AI は、それまでのバージョンと異なり、人間にとって使いやすい本物のテクノロジーになるために必要な人間味を備えているに違いない。SF 作家のアーサー・C・クラーク（ Arthur C. Clarke ）の名言に、「十分に進歩したテクノロジーは魔法と見分けがつかない」というものがある。しかし、それはそのテクノロジーが十分に理解されていない場合にのみ当てはまる。そのテクノロジーを利用する者が魔法と間違わないようにすることは、AI 研究者の責任である。♦
以上