本日翻訳したのは、 the New Yorker の December 11, 2023 issueに掲載のCharles Duhiggの記事でタイトルは”The Inside Story of Microsoft’s Partnership with OpenAI“(マイクロソフトとオープンAIの協業の舞台裏)です。
オープン AI でサム・アルトマンが解任されて、結局は CEO に復帰するという大騒動がありました。この記事は、その内情について記したものでした。執筆した Charles Duhigg はスタッフライターではありません。以前は、ニューヨークタイムズ紙等でも記事を書いていて、現在はさまざまな媒体に寄稿しているようです。ピューリッツァー賞等数々の受賞歴もありますし、著書も何冊も出しています（現時点では邦訳されているものは無い）。著名な記者ですので、この記事を書くにあたって、マイクロソフトやオープン AI の経営陣等から多くの証言を得ることができています。日本にいても、マイクロソフトとオープン AI の騒動についての報道をたくさん目にしますが、この記事ほど詳しいものは無いと思います。
この記事のスニペットは、”The companies had honed a protocol for releasing artificial intelligence ambitiously but safely. Then OpenAI’s board exploded all their carefully laid plans.”（両社は、人工知能を野心的かつ安全にリリースするためのプロトコルを磨き上げていた。その後、オープン AI の取締役会メンバーは、謀議の末、アルトマン解任という暴挙に出た。）となっています。この記事は、the New Yorker の Web 版にも投稿されていて、朗読した音声ファイルを聴くことができるのですが、59 分でした。ちょっと、文字数、単語数、ページ数が多いです。
騒動の顛末は和訳全文をお読みいただきたいのですが、私がこの記事を読んで理解した限りでは、この騒動の概要は次のようなものでした。
- AI の開発に関しては、楽観主義的な者と悲観主義的な者がいる。
楽観主義者は、どんどん AI を開発すれば良いと考えており、悲観主義者は、何の歯止めもなくAI を開発すると陰惨なデストピアがもたらされると懸念しており、とにかく慎重な立場である。 - オープン AI の経営陣の中にも両者が混在していた。
サム・アルトマンが楽観主義者で、他の取締役会メンバーが悲観主義者だった。オープン AI は元々営利企業ではなく、AI の暴走を防ぐことを目的に設立された非営利組織だったので、アルトマン以外が悲観主義者であったことは至極当然のことであった。 - アルトマンはとにかく成果をあげることに長けていたが、それが悲観主義者には危険に見えた。
アルトマンがオープン AI で AI の開発を加速させたが、それが、悲観主義者の取締役会メンバーには独善的でAI がもたらすリスクを無視しているようにしか見えなかった。 - 悲観主義者たちは、アルトマンを解任することを決議した。そうしなければ、大災難が訪れると考えた。
- 悲観主義者たちは、AI の暴走を防ぐことを最も重視していたわけだが、それが正しいという確信を持っていた。残念ながら、そう考えているのは彼らだけだった。
彼らは、マイクロソフトが自分たちの主張に賛同し、アルトマン解任を支持してくれると予測していたが、誤りだった。 - マイクロソフトは、悲観主義者ではなく、アルトマンを支持した。
アルトマンを支持し、矢継ぎ早に AI を組み込んだ製品を市場に投入することは利益に繋がる。悲観主義者を支持しても 1 銭にもならないからである（マイクロソフトは既にオープン AI に 130 億ドルの資金を投じていた）。 - マイクロソフトのフォローもあり、アルトマンはオープン AI の CEO に復帰した。悲観主義者たちは放逐された。
今回の騒動については、今後、独立した公正な調査が為される。 - 邪魔者がいなくなったことで、アルトマンは AI の開発を加速させる。
AI が人類に明るい未来をもたらすかもしれないし、悲観主義者が危惧したようなディストピアが訪れるかもしれない。
ーーーー以上ーーーー
以上が、オープン AI のアルトマン解任劇の概要です。思うのですが、やはり AI には何らかの歯止めが必要ではないでしょうか。ヴィクター・フランケンシュタインではないですが、作れることが可能だからといって何でも好きに作って良いわけではないと思います。また、今回の騒動に関して AI 業界の多くの者が、オープン AI 社内の悲観主義者たちを悪者扱いしているようです。まあ、体よく追い落とされてしまったわけで、彼らがこの騒動の勝者となっていたら評価は違うのかもしれません。騒動を起こしても良いのですが、勝てないのならやらない方が良かったのだと思います。彼らは本当に悪意に満ちた人たちなのでしょうか？そうでも無さそうです。将来、AI が暴走してとんでもない状況に陥れば、彼らのことが思い出されて、先見の妙があったとして再評価されるかもしれません。
ところで、悲観論者たちが、どこでどこをどう誤ってしまったのしょうか？そもそもの誤りは、オープン AI に営利部門を立ち上げてマイクロソフトから多額の資金を得たことにあるのです。結局、主導権を握ろうとして安易に外部の者に頼った時点で終わりだったんです。いわゆる「旅と盃する」というやつです。映画「仁義なき闘い」で菅原文太が演じた広能昌三のセリフを彼らが知っていたら、こんなことにはならなかった気がします。「跡目に立とういう考えで旅と盃したら.、間違いの因になりますよ」。これはいつでもどんな時でも全くの真理なのである。
では、以下に和訳全文を掲載します。詳細は、和訳全文をご覧ください。