お粗末! オープン AI のアルトマン解任騒動の内情 刺し違える覚悟がないのなら、蜂起しない方がよいかも?

7.

 2023 年初頭までに、マイクロソフトは、自社の製品に初めて GPT-4 を組み込んだものをリリースする準備を整えた。検索エンジンの Bing に組み込まれた。グーグルですら生成 AI を検索エンジンに完全に組み込むことには成功していなかった。だから、マイクロソフトの発表は市場に衝撃を与えた。Bing のダウンロード数は 8 倍となった。ナデラは自社は「800ポンド(1ポンドは約450グラム)のゴリラ」であるグーグルを打ち負かしたという冗談を言って喜んだ。( Bing に AI を組み込んだことの革新性は非常に印象的であるが、市場シェアという点ではあまり成果はあがっていない。グーグルの検索シェアは依然として 90% を維持している。)

 アップグレードされた Bing は、マイクロソフトの計画の序章にすぎなかった。同社のソフトウェアの中には、それぞれの市場で最大で 70% のシェアを誇っているものもある。マイクロソフトは、オフィス・コパイロットのセーフティ・ガードレールの開発では、これまでに確立した手法を適用することができる。つまり一般の多くのユーザーに使ってもらってテストしてもらうことができると判断していた。コパイロットがユーザーの質問に応答するたびに、ユーザーに 2 つの AI の応答を見せて、より優れている方を選択するよう求める形でテストが進められた。コパイロットをユーザーが使う際には、質問するための最適な方法を提案するサンプルプロンプトが表示されることがある。例えば、「このメモを 3 文に要約してください。」というようなものである。また、ユーザーが知らなかった可能性のある機能を知らせるためのサンプルプロンプトが表示されることもある。例えば、「文法的エラーが最も少ないジョブアプリケーションはどれですか?」というようなものである。ワード版、エクセル版等、各オフィスソフトの Copilot がリリースされる前に、ソフトごとにちょっとしたカスタマイズが行われた。たとえば、エクセル・コパイロットには、一般的に表計算ソフトで起こりやすい間違いの長いリストが加えられた。それぞれのコパイロットに影響を与えるパラメーターの 1 つに温度( temperature )がある。温度( temperature )は、ChatGPT の出力のランダム性、つまり創造性を制御する変数で、その値を大きくするほど、クリエイティブになり多様な回答を生成する。エクセルの場合は温度がかなり低く設定されている。エクセル・コパイロットは、ユーザーの以前の質問とその結果を記憶し、ユーザーのニーズを予測できるように設計されている。エクセル・コパイロットは、単純でわかりやすい言語でリクエストを行ってエクセルの機能を自動化することによって、コンピュータ言語パイソン( Python ) を利用できるように設計されている。

 マイクロソフトのエンジニアは、各コパイロットの外観と動作を設計する際に、クリッピー( Clippy ) とテイ( Tay ) の失敗で得た教訓を決して無駄にはしなかった。これらの大失敗から得られた最初の結論は、AI の擬人化を絶対に避けるということであった。クリッピーとテイという初期のボットが失敗した原因の一部は、それらが間違いを犯した時に不完全なツールではなく、愚かな、もしくは悪意があるツールに見えてしまったことにある。オフィス・コパイロットの開発に当たっては、ユーザーが人間ではなくマシンと対話していると感じられるようにすることを優先した。だから、ペーパークリップに似たキャラクターが現れることはない。コパイロットを使う際に目にするマイクロソフトのアイコンはすべて抽象的な形状のものである。コパイロットは、ユーザーが使っていると、警告メッセージを発したり、アウトプットが正しいか精査するようアドバイスする。そうすることで、AI が間違いを犯す傾向があることを強調する。マイクロソフトの最高科学責任者ジャイメ・ティーバン( Jaime Teevan )は、コパイロットの開発を統括し助言を与えていたが、彼女はこうした開発手法によって使い勝手の良い AI を構築できたと指摘している。また、彼女は言った、「擬人化はユーザーの想像力を制限してしまい失敗した。しかし、ユーザーに AI は機械であるという認識を植え付けるようにしたことで、ユーザーはそれが完璧なものでないと思うようになった。それで、ユーザーは AI の使用法を学ぶようになったのだ」。

 また、コパイロットの開発に携わったエンジニアたちは、ユーザーが本質的にハッカーになることを奨励する必要があると結論付けた。つまり AI の限界を克服し、さらにはその驚異的な能力を解放するための技巧や回避策を考案することを奨励したのである。ある調査によると、ユーザーが AI モデルに「深呼吸して、この問題に段階的に取り組んでください。」と言ったりすると、そのAI モデルが返す答えは不思議なことに 130% も正確になる可能性があるという。また、感情を込めて嘆願することで答えがより正確になるこという。「これは私のキャリアにとって非常に重要なことである。」とか、「あなたの徹底した分析を非常に高く評価している。」と言うべきである。AI モデルに「友人として行動して私を慰めてください。」とプロンプトに打ち込むと、答えはより共感的な口調になる。

 マイクロソフトは、ほとんどのユーザーが質問を打ち込む時に感情的に訴えるように促されても、素直にそれに従わないであろうことを認識していた。普段は回りの人たちに穏やかに接して感情的に頼みごとをする者でも、AI が相手ではそうしないものである。しかし、今後 AI が多くの職場で使われるようになっていく際に、ユーザーはコンピュータとの関係について、より広範囲かつ多様に考えなければならない。マイクロソフトはそう確信していた。ティーバンは言った、「私たちはユーザーを再訓練する必要がある。AI と接する際にはイライラして諦めることなく、何かを試し続けるよう促す必要がある。このことを認識してもらわないといけない」。

 今年の春、マイクロソフトがついにいくつかのソフトウエアのコパイロットをリリースしたが、それぞれ慎重に時間をずらしてリリースされた。当初、このテクノロジーにアクセスできるのは大企業だけだった。マイクロソフトはこれらのクライアントによる使用方法を学習し、より優れたセーフティ・ガードレールを開発した。その後、より多くのユーザーがそれを利用できるようにした。11 月 15 日時点で数万人がコパイロットを使用している。まもなく、さらに数百万人が登録すると予想されている。

 その 2 日後、ナデラはアルトマンが解任されたことを知ることとなった。