Annals of Artificial Intelligence
Will A.I. Become the New McKinsey?
AI は新たなマッキンゼーになるのか?
As it’s currently imagined, the technology promises to concentrate wealth and disempower workers. Is an alternative possible?
現在想像されているように、AIは富を集中させ、労働者の力を奪うでしょう。そうした状況を回避する方法はある？
By Ted Chiang May 4, 2023
１．
人工知能（artificial intelligence、もしくは、AI）について語る時、しばしば比喩が使われます。何か新しいもの、馴染みのないものについて語る時には、いつも比喩が使われるものです。比喩というものは、その性質上、正確に何かを表現しているわけではなく、間違いなく不完全なものです。ですので、比喩を用いる際には、慎重に言葉を選ぶ必要があります。誤った比喩が使われると、ものごとが誤って理解されてしまいます。例えば、強力なAIがおとぎ話の中の精霊に例えられることがしばしばあります。この比喩は、能力の高い実体を自分の指示に従わせることの難しさを説明するものです。コンピュータサイエンティストのスチュアート・ラッセル（Stuart Russell）は、ミダス王（King Midas）の逸話をたとえ話として引き合いに出していました。AIにあなたが指示したことを忠実に実行させても、必ずしもあなたが望んでいた結果が得られず危険であることを説明するためでした。ミダス王は、自分が触れた物すべてを金に変え、より豊かになることを望んだという逸話で有名です。ワインの神ディオニュソスがその願いをかなえてくれたのですが、食べ物も大好きだったバラ園もすべて金になってしまって嘆き悲しむこととなりました。この比喩にはいくつも粗があります。その1つは、この比喩は元々の逸話から間違った教訓を読み取っているということです。ミダス王の逸話のポイントは、強欲さが自らを滅ぼすこと、富を追求することで本当に大切なものをすべて失ってしまうということです。ミダス王の逸話を聞かされて、そこから得られる教訓は何でしょうか。もし、神々から何でも願いを叶えてくれると言われたら、叶えて欲しい願いを答える際に慎重に検討すべきということでしょうか。そうではないはずです。
そこで、私が思ったのは、AIのさまざまなリスクを暗示するには、別の比喩を使った方が良いということです。私は、AIをマッキンゼー・アンド・カンパニー（McKinsey & Company）のような経営コンサルティング会社に例えたいと思います。多くの企業が、マッキンゼーのようなコンサル会社にさまざまな理由で頼っています。ちなみに、フォーチュン100（Fortune 100：グローバル企業の総収入ランキングトップ100）に名を連ねる企業の9割がマッキンゼーの顧客です。AIシステムもいろんな理由で利用されています。コンサルティング会社であるマッキンゼーとAIの間には明らかに類似性があります。多くのソーシャルメディア企業が、ユーザーを自社のフィードに釘付けにするために機械学習（machine learning）を利用しています。それと全く同じように、パデュー・ファーマ社（Purdue Pharma：製薬企業）は、オピオイドクライシス（opioid crisis or epidemic：麻薬性鎮痛薬中毒の激増）の最中にオキシコンチン（OxyContin：オピオイド系の鎮痛剤のひとつで、アヘンに含まれるアルカロイドのテバインから合成される半合成麻薬）の売上を急増させる方法を考えるために、マッキンゼーを頼りました。AIが多くの経営者にとって魅力的なのは、生身の人間の労働者の代わりを安価にこなして大きな利益をもたらしてくれることです。マッキンゼー等のコンサル会社も同様に大きな利益をもたらしてくれるわけで、株価と役員報酬を上げるための方法として大量解雇を日常茶飯事のように行うことを正当化してくれます。それによってアメリカの中産階級の崩壊に貢献しています。
マッキンゼーの元社員は、マッキンゼーのことを「資本家の意志の実行者（capital’s willing executioners）」と表現していました。企業経営者が何かを成し遂げたいが手を汚したくない時、マッキンゼーは経営者の代わりにそれを行います。説明責任（accountability）を果たすことから逃れさせてくれることが、コンサル会社が提供する最も価値のあるサービスの1つです。多くの企業経営者がいろいろと経営目標を掲げているわけですが、その目標を達成するために必要なことを為した場合に、非難されたくはないのです。コンサルタント会社を頼ることで、経営者は、独立した専門家のアドバイスに従っただけであると言い訳することが可能となります。現在のAIは、まだ初歩的なレベルにあるわけですが、それでも企業にとってはありがたい存在となっています。なぜならば、言い訳をする場合に、AIアルゴリズムの言うとおりにしたという言い訳ができるからです。そもそもそのような言い訳をした経営者がAIに教えを請うたからAIアルゴリズムが返答を返したわけで、AIに責任をなすりつけるのはどうかと思わなくもありません。
私たちが問うべきは、AIの能力が向上して利用される局面が増えていく際に、AIがマッキンゼーの別バージョンにならないようにする方法はあるか否かということです。この問いについて考える時には、「AI 」という言葉が持つさまざまな意味を考える必要があります。AIを、コスト削減のために企業に売り込まれる広範なテクノロジーの集合体と捉えるならば、問題は、そのテクノロジーが「資本家の意志の実行者」として働かないようにするにはどうすべきかということになります。また、AIを、人間から解決して欲しいと依頼された問題を、ほとんど自律的に解決するなソフトウェア・プログラムと捉えるならば、問題は、そのソフトウェアが人々の生活を悪化させるような形で企業を支援するのをどうやって防ぐかということになります。例えば、人間に完全に従順な半自律型AIがあると仮定します。それで、そのAIが、自分が受け取った指示を間違って解釈していないかどうか、何度も確認できるとします。そうしたAIが、多くのAI研究者が目指しているものです。しかし、そのようなソフトウェアは、マッキンゼーがもたらすような被害を容易に生み出すでしょう。
注意すべきことがあって、解決することを依頼された問題に対して向社会的（pro-social ）な解決策のみを提供するAIを構築することは決して簡単ではありません。それは、そのような解決策のみを提供するコンサルティング会社を立ち上げることで、マッキンゼーの脅威を和らげることができると言っているのと同じです。現実的に考えれば明らかですが、フォーチュン100に名を連ねるような企業は、マッキンゼーに頼るはずで、間違っても新たに立ち上げられた向社会的な解決策のみを提供する企業には頼らないはずです。なぜなら、マッキンゼーが提供する解決策の方が、新たに立ち上げられた会社が提供する解決策よりも株主価値を高めそうだからです。何よりも株主価値を高めることを重視するAIを作ることは、不可能ではないでしょう。ほとんどの企業は、そのAIを使いたいと思うはずです。向社会的な解決策のみを提供するAIを使いたいとは決して思わないでしょう。
資本家の強欲さを助長することに資さないAIを作ることは可能なのでしょうか？はっきりさせておきたいのですが、私は資本家の強欲さという語を使ったわけですが、決して資本主義システム自体に問題があると言っているわけではありません。実際、アメリカでは、それが健全に機能していて、モノやサービスの価格は市場によって決定された価格で交換されています。資本主義について語る際には、資本と労働の関係についての言及を避けることはできません。資本主義体制下では、お金を持っている私人が、他者の労働を通じて利益を得ることができます。要するに、私が言いたいのは、資本主義には素晴らしい機能が備わっているものの、問題もあるということです。それは、お金をたくさん持つ者が、あくせく労働する者に対して権力を振るっていることです。もっと具体的に言うと、より少数の者にかつてないほどに富が集中しつつあることが問題なのです。ひょっとすると、それは資本主義の本質的な性質であって避けられないことなのかもしれません。あるいは、そうでないかもしれませんが、富の集中は、資本主義に特徴的なものです。
現在のAIは、多くの場合、人間が実行する行為を分析し、人間に取って代わる方法を見つけることを目的として構築されています。偶然と言って良いのかわかりませんが、経営者にも似たところがあって、彼らも常に労働者の行為を分析し、何とかしてその数を減らしたいと考えています。そのようにAIと経営者には親和性があるので、AIは労働者に犠牲を強いて、資本家が富を蓄積するのに寄与しようとします。世の中には労働者の利益を増進させることを支援するコンサル会社は存在していないのです。AIがそうした役割を担うことは可能なのでしょうか？AIが経営者の代わりに労働者を支援するようなことができないのでしょうか？
AIの仕事は資本家の利益を減らすことではない、と言う人がいるかもしれません。たしかに、そうかもしれません。しかし、資本家の利益を増やすこともAIの仕事ではありません。しかし、現在、AIはそれを行っています。もし、AIが富の集中を防ぐ術を思いつかないのであれば、AIが中立的なテクノロジーであるとは言えません。また、有益なテクノロジーであるとも言えないと思います。