The Inside Story of Microsoft’s Partnership with OpenAI
マイクロソフト と オープン AI の協業の舞台裏
The companies had honed a protocol for releasing artificial intelligence ambitiously but safely. Then OpenAI’s board exploded all their carefully laid plans.
両社は、人工知能を野心的かつ安全にリリースするためのプロトコルを磨き上げていた。その後、オープン AI の取締役会メンバーは、謀議の末、アルトマン解任という暴挙に出た
By Charles Duhigg December 1, 2023
１．
サンクスギビングデー（ 11 月 23 日の木曜日）の前週の金曜日（つまり 11 月 17 日）の午前 11 時 30 分頃、マイクロソフト（ Microsoft ）の CEO サティア・ナデラ（Satya Nadella）は、毎週恒例の上級幹部とのミーティングの最中であった。マイクロソフトが 130 億ドルを投資したとされる人工知能のスタートアップ企業のオープン AI ( OpenAI )の取締役の１人から電話があった。あと 20 分以内に同社の取締役会が CEO であり共同設立者であるサム・アルトマン（ Sam Altman ）の解任を発表するとの説明があった。それは、マイクロソフトの経営陣の何人かが “ターキーシュート・クラスターファック （ Turkey-Shoot Clusterfuck：訳者注 Turkey-Shoot はとても簡単なことの意、Clusterfuck は大騒動の意）”と呼んだ5日間の騒動の始まりだった。
ナデラは気さくな性格の持ち主だが、あまりの驚きに一瞬何と答えて良いかわからなかった。彼はアルトマンと 4 年以上密接に仕事をしたことがあり、彼のことを尊敬し、信頼していた。しかも、2 人のコラボレーションが、マイクロソフトのこの 10 年で最も成功した製品群の導入につながったばかりだった。それは、オープン AI のテクノロジーをベースに構築され、ワード、アウトルック、パワーポイントといったマイクロソフトの主要なプログラムに組み込まれた最先端の AI アシスタントツールである。これらのアシスタントツールは、基本的にはオープン AI の ChatGPT をカスタマイズしてより強力にしたものである。製品名はマイクロソフト・ 365 ・コパイロット（ Microsoft 365 Copilot )である。
しかし、ナデラの知らないところで、アルトマンとオープン AI の取締役会との関係は悪化していた。取締役会メンバーの内の 6 人が、アルトマンのことを人を操り、策略をめぐらすような性格の持ち主だと見なしていた。それは技術畑出身の CEO にはよく見られる特質であるが、学識経験者や NPO 出身の取締役メンバーはそれに嫌悪感を抱いていた。「彼らはサム(アルトマン)が嘘をついたと感じていたのです。」と同社の取締役会の内情に詳しいある人物は語った。同社の取締役会内の緊張が頂点に達し、ナデラに難問を突きつける形となったのである。マイクロソフトとオープン AI のパートナーシップが危機に晒された。
マイクロソフトはここ数年、テクノロジー業界の最前線に立てていなかった。2015 年に非営利団体として発足し、4 年後に営利部門を加えたオープン AI と提携したことによって、この巨大コンピュータ企業はグーグル（ Google ）やアマゾン（ Amazon ）といったライバル企業に追いつくことができた。マイクロソフト・コパイロットでは、ユーザーが同僚に質問するのと同じように簡単にソフトウェアに質問を投げかけることができる。「ビデオ通話で説明された各プランの長所と短所を教えてください。」とか、「この 20 種の会計ソフトで最も収益性の高い製品はどれか？」とか質問すると、すぐに流暢な英文の答えが返ってくる。マイクロソフト・コパイロットは、簡単な指示を出せば文書全体を完成させてくれる(例えば、「過去 10 年分のエグゼクティブ・サマリーを見て、過去 10 年分の財務報告書を作成しろ。」と指示することもできる）。メモを元にパワーポイント資料を完成させることもできる。チームズ（ Teams ）のテレビ会議の音声を認識し、その内容を複数言語で要約し、出席者の ToDo リストを作成することもできる。
マイクロソフト・コパイロットの開発には、オープン AI との継続的な協力関係が必要であった。また、ナデラは、この協力関係がマイクロソフトにとって非常に重要であると認識していた。マイクロソフトは AI にセーフティ・ガードレール（ safety guardrails：悪質なプロンプト（命令）には応じない対策）を施しているが、それには、オープン AI の多くのエンジニアが協力している。オープン AI の中核技術は GPT （ generative pre-trained transformer：生成的な事前訓練を行なったトランスフォーマー ）で、大規模言語モデル（ large language model ）として知られる AI の一種である。GPT は、インターネットやその他のデジタルリポジトリ（ digital repositorie ）から公開されているテキストをむさぼり読み、複雑な計算を行って個々の情報が他の情報とどのように関連しているかを判断することで、人間の会話を模倣することを学んでいる。このようなシステムは目覚ましい結果をもたらしたが、同時に著しい弱点もあった。幻覚を起こす（ hallucinate ）、つまり事実を捏造する傾向があることが分かっている。また、フェンタニル（ fentanyl：合成麻薬）のレシピを生成するなど、悪意のある人物が悪いことをするのを助長する可能性もある。また、正当な質問（ 10 代の若者に薬物使用の怖さについてどう話せば良いのか？）と不穏当な質問（ 10 代の若者に薬物を使用させるにはどう話せば良いのか？）を区別することもできない。マイクロソフトとオープン AI は、AI ツールにセーフティ・ガードレールを組み込むためのプロトコルに磨きをかけた。マイクロソフト・コパイロットのリリースは、この春に一部の顧客企業から始め、11 月により広範囲に拡大するというプロセスを経た。これは、両社にとって最高の瞬間であり、マイクロソフトとオープン AI が人工知能をより広く一般に普及させるための重責を担うことを示すものである。しかし、2022 年後半にサービス開始した ChatGPT は非常に人気を博したとはいえ、1 日のユーザー数はたったの 1,400 万人ほどでしかなかった（マイクロソフトの利用者が 10 億人以上いるのに）。
アルトマン解任の知らせを聞いたショックから立ち直ったナデラは、オープン AI の取締役会のメンバーであるアダム・ディアンジェロ（ Adam D’Angelo ）に電話をかけ、経緯の詳細を尋ねた。ディアンジェロは、数分後にプレスリリースに掲載されたのと同じあいまいな説明しかしなかった。説明によれば、アルトマンが取締役会とのコミュニケーションにおいて一貫して率直ではなかったという。アルトマンが不正を働いたのか否かをナデラが問うと、ディアンジェロは「 ノー（ NO ） 」と答えた。しかし、ディアンジェロはそれ以上語ろうとはしなかった。ディアンジェロや他の取締役は、アルトマンを解任する意図を意図的にナデラに悟られないようにしたのだろう。ナデラがアルトマンに警告するのを防ぐ意図があったようである。
ナデラは苛立ちのあまり電話を切った。マイクロソフトはオープン AI の営利部門のほぼ半数の株を所有していた。ナデラがそのような決定について何も知らされなかったことは異常なことである。さらに彼は、アルトマンの解任がオープン AI の社内、さらには AI 業界全体の内戦( civil war )の火種になる可能性が高いことを悟った。この業界では、AI の急速な進歩を称賛する者と歯止めをかけるべきとする者の間で激しい議論が続いている。
ナデラはマイクロソフトの最高技術責任者（ CTO：chief technology officer ）のケビン・スコット（ Kevin Scott ）に電話をかけた。彼は両社の協業の責任者であった。スコットは既に解任騒動が起こっていることを認識していた。噂は急速に広まっていたのだ。ナデラとスコットは、他のマイクロソフトの幹部数名とともにテレビ会議をした。アルトマンの解任は、AI 開発を急ぐ者たちと歯止めをかけようとする者たちの対立が原因なのか？たしかに、オープン AI 、マイクロソフト、他の AI 関連企業にも、AI が無謀に開発されているとして懸念を示す技術者が少なからずいる。オープン AI の最高科学責任者で取締役会メンバーでもあるイリヤ・サツキーヴァー（ Ilya Sutskever ）でさえ、何の制限も無い AI 、人工的な超知能 （ superintelligence ）には危険性があると公言していた。2023 年 3 月、オープン AI が GPT-4 (現在でも最も高性能な AI である)をリリースした直後に、イーロン・マスク（ Elon Musk ）やスティーブ・ウォズニアック（ Steve Wozniak ）など数千人が、高度な AI モデルの学習の一時停止を求める公開書簡に署名した。「我々は、機械にプロパガンダや真実でない情報を流させるべきだろうか。」とその書簡は問うていた。充実した仕事も含め、すべての仕事を自動化すべきなのだろうか。「我々は文明のコントロールを失うリスクを冒すべきだろうか。そのような決定を、選挙で選ばれたわけでもない技術者連中に委ねてはならない」。シリコンバレーの多くの業界関係者は、この書簡をオープン AI とマイクロソフトへの非難と受け取った。
ケビン・スコットは公開書簡を一応は尊重した。彼が思っていたのは、AI をめぐる言説は、奇妙にも SF のシナリオ、つまりコンピュータが人類を滅ぼすというシナリオに焦点が当てられているということである。その一方で、AI が競争の場を公平にするという可能性はほとんど無視されている。また、AI は、特にコンピュータに何をさせたいかは分かっているが、それを実現するためのトレーニングを受けていない人々にとって有用であり、しかも公平である。彼は、平易な言語でユーザーと会話する能力を持つ AI は、十分な注意を払って構築され、十分な忍耐をもって導入されれば、世界に変革をもたらし、平等をもたらす力になりうると感じていた。
スコットとオープン AI のエンジニアたちは、AI 製品をゆっくりと、しかしコンスタントにリリースしてきた。そうすることで、膨大な数の AI 専門家ではないユーザーにも使ってもらえた。要は、ユーザーに自由に使ってもらって公開実験を行ってきたわけである。マイクロソフトは、習熟していないユーザーがどのように AI とやり取りするかを観察した。ユーザーは AI の長所と限界について学習した。不完全な AI ソフトウェアをリリースし、試しに使ったユーザーから率直なフィードバックを得ることで、マイクロソフトは AI を改善すると同時に、ユーザーの使い勝手を良くすることができた。スコットが信じているのだが、AI の危険性を排除する最善の方法は、できるだけ多くの人々にできるだけ透明性を保って使ってもらうことである。そのためには、AI を最初は簡単な用途で使い始め、それから徐々に我々の生活に浸透させていくべきである。人類が AI に慣れるために必要なことは、プロンプトに文字を打ち込んで質問をし続けることだけである。
事態は、スコットが意図していたとおりには進展しなかった。アルトマンの解任を知る者の数が増えるにつれ、アルトマンを信奉しオープン AI のミッションを狂信的ともいえるほど信奉していたオープン AI のエンジニアの多くが、ネット上で失望を表明し始めた。同社の最高技術責任者（ CTO：chief technology officer ）であるミラ・ムラティ( Mira Murati )が臨時 CEO に任命された。彼女はその役割を渋々受け入れた。間もなく、オープン AI の社長グレッグ・ブロックマン（ Greg Brockman ）が「私は辞める。」とツイートした。すると、多くのオープン AI のエンジニアも辞めると脅し始めた。
ナデラも参加したテレビ会議で、マイクロソフトの取締役たちはアルトマンの更迭に対する有効な対応策を検討し始めた。プランは 3 つあった。プラン A は、ムラティを支援することで状況を落ち着かせ、オープン AI の取締役会がアルトマンを解任するという決定を覆すのを待つと同時に、解任という結論に至った経緯の詳細を把握することであった。
オープン AI の取締役会が解任を覆さない場合に備えて、マイクロソフトの取締役会はプラン B も準備していた。それは、オープン AI に約束しながらまだ引き渡していない数十億ドルを含む自社の大きな影響力を行使して、アルトマンを CEO に再任させ、また、取締役会のメンバーを入れ替えることでオープン AI の統治体制を再構築するというものであった。マイクロソフトの取締役会の内情に詳しい者と接触したのだが、彼は私に言った、「私たちは、オープン AI では何の問題も発生していないと認識していた。しかし、実際には、取締役会が常軌を逸した状態にあったのだ。そこで、責任ある者を送り込んで、正常な状態に戻すべきだと考えた。」と。
プラン C もあった。アルトマンと最も優秀な彼の同僚たちを雇い入れ、マイクロソフト社内に実質的にオープン AI を再設立するというものだった。そうすれば、マイクロソフトは出現した新しいテクノロジーをすべて所有することになり、それを他社に販売できることとなり、大きな利益が得られる可能性がある。
テレビ会議でマイクロソフトの取締役たちが色々と検討したわけだが、この 3 つのプランはいずれも実行に値するものだと判断された。「私たちはただ元の状態に戻りたかっただけなのだ。」と、取締役の 1 人は私に言った。この戦略の根底には、マイクロソフトが AI を責任を持って開発するために必要な方法やセーフティ・ガードレールやフレームワークについての重要なことを理解しているという確信があった。アルトマンに何が起こるにせよ、同社は AI を大衆に普及させる計画を進めるつもりだったのである。