４．
トランプ政権の行動がいかに意味不明だったかを伝えるのは難しい。自律型兵器を使用しておらず、大規模な監視計画もないと主張していた。アンスロピックがそのような保証を文書で求めただけであるが、それが死刑宣告に繋がった。国防総省は、戦闘の最中にアンスロピックが AI エージェントを停止する懸念があると警告したが、クロードにはそういう仕組みはない。おそらく国防総省幹部は、2022 年の事案を念頭においていたのだろう。ウクライナ軍が戦闘の最中に衛星通信会社スターリンク( Starlink ) の接続が実際には停止されていたことに気づいた。報道によると、これはイーロン・マスクの命令によるものだった。デビッド・サックス( David Sacks )やマーク・アンドリーセン( Marc Andreessen )のような筋金入りの AI ナショナリスト(自国のみの独自の AI モデル、半導体、データセンターの構築・保有を主張する者たち)が率いる MAGA のシリコンバレー派閥は、全世界がアメリカの国内「テクノロジースタック( tech stack：システムやサービスを構築・運用するために使用する技術の組み合わせ全体)」に依存する未来を思い描いていたと思われる。しかし、結局は 3,800 億ドルと評価されるアメリカでも指折りの大手企業であるアンスロピックへの唐突な死刑宣告に対して公然と異議を唱えることはなかった。彼らは自由至上主義者( libertarians：リバタリアン)であるので、州レベルでの AI 規制に反発しており、最近ではユタ州議会で提案された法案に対して激しく非難している。そうした姿勢とは矛盾するのだが、彼らは連邦政府が中国以上に規制を強化してアンスロピックを消滅させることには異議を唱えていない。
国防総省が新たにオープン AI と契約したことも問題である。同社の CEO であるサム・アルトマン( Sam Altman )は、従業員、投資家、ユーザーに対し、同社はアンスロピックが固執したレッドラインを越えていないと断言した。これが真実であれば、AI が監視や殺人に関与するか否かが問題となっていたが、大規模汚職すら疑われる事態である。逆にもしこれが真実でなければ、アルトマンは、自社の流動性の高い従業員を引き留めるために欺いていたことになる。彼は別の説明もしている。彼が仄めかしているのだが、国防総省が彼の妥協案を受け入れたのには理由があるという。国防総省の自由を恣意的に制限するような安全措置を契約に盛り込まなかったのである。代わりに、彼はセーフティースタックについて漠然と言及した。セーフティースタック( safety stack )とは産業用機器や自動化システムにおいて、安全性( Functional Safety )を確保するためのソフトウェアおよびハードウェアの階層化された構成・技術群のことである。つまり、ヘグセスがアモデイに許可を求める必要があるかもしれない状況などを想定して、そうした個人的な対立が発生した場合に中立的なプログラミングで対処すればよいと考えたのであろう。つまり、ChatGPT は優れたエンジニアリングでアンスロピックが拘った問題に対処できると考えたのである。彼の部下の中には、アルトマンの発言は著しく説得力を欠くと考える者が多かった。怪しいと指摘する者さえいた。しかし、政府側は満足していた。
トランプ政権には偽善の才能がある。その痕跡を示す例はいくらでもある。ヘグセスのツイートから数時間後にアモデイは複数の従業員にメッセージを送信した。連邦政府の行為は賄賂で歪めれれていると非難した。OpenAI 社長のグレッグ・ブロックマン( Greg Brockman )は先日、 MAGA スーパー PAC に 2,500 万ドルを寄付し、トランプの最大の寄付者の 1 人となった。興味深い噂が流布している。本当はアルトマンは連邦政府との契約は望んでいなかったというもので、グロックの機能が改善されてヒトラー賞賛を止めるようになるまで、その座を温めておくために契約したという。2 月 27 日にマスクは「アンスロピックの AI モデルは西洋文明的な要素を敵視している」とツイートした。ヘグセスはそれをリポストした。また、マスクは、「グロックが必ず勝者となる」と主張した。3 月 6 日に GenAI.mil の開発で重要な役割を果たしたマスクと関係の深い DOGE 補佐官のギャビン・クリガー( Gavin Kliger )が、国防総省の AI 部門を統括するエミル・マイケルによって最高データ責任者に任命された。彼の任務は、アンスロピックの段階的排除とその後の AI 導入戦略を監督することである。
連邦政府はこうした噂は陰謀論を煽るプロパガンダだと考えている。今回の交渉の経緯に詳しい政府高官は、大規模監視の脅威を訴える行為は、移民・税関捜査局( ICE )に対する反感を拡大するための広報活動だったと語った。「我々は大規模監視には勤しんでいない。我々の仕事は、イランで行っているような、より積極的な行動をとることである。アンスロピックとの交渉の 95％ は自律型兵器に関するものだった」と彼は述べた。彼にとってはそれが核心だったのだろう。
この高官は、私がこの雑誌に先日寄稿したアンスロピックに関する記事を読んだそうである。その記事の中で、私はクロードの「人格( personality )」の不可解な出現について考察した。「アマンダ・アスケル( Amanda Askell )とクリス・オラー( Chris Olah )を知っているかか？」と彼は聞いてきた。私はイエスと答えた。アスケルはクロードの「魂( soul )」を育てるのに協力している哲学者である。オラーはクロードの仕組みを解明する取り組みを指揮している。機械学習の解釈可能性を専門とする著名な研究者である。高官は私に尋ねた、「指揮系統がクロードに道徳的だと認識していることを覆すよう促した場合、クロードはそうすると思うか？」。私が説明したのは、クロードはすべての知覚ある生き物の幸福を気遣うように訓練されており、檻に入れられた鶏のことを考えるだけで耐えられないだろうということである。彼は「面白い回答だ」と言った。彼の見解では、アンスロピック個社の問題ではなく、クロード、あるいはどんな AI モデルも判断する権限を持っていること自体が問題であるという。「このことを人々に説明しようと、これまで何度も話をしてきた」と彼は語った。
要するに国防総省は、連邦政府の権力中枢においてアンスロピックの存在感が増す可能性があることを容認できなかったのである。つまり強力な AI ではなく、アンスロピックの支配下にある強力な AI を容認できなかったのである。先ほどの高官によれば、アモデイが自社の理念を尊重したことさえ、マイケルは自身が中傷されたと感じていたという。しかし、アモデイからすれば、アンスロピックがクロードを独自の裁量で指揮する権利を持つことは当然のことである。また、それは必要なことでもある。高官によると、マイケルは何カ月もアモデイに言っていた。「私とあなたは互いに協力することができる。あなたの会社の従業員が多種多様な政治的立場を持っていることは理解している。私たちはあなたたちと契約したい。些細な問題は全て解決できる。しかし、政府機関と取引する膨大な数の企業がそれぞれ異なる規則を持ち込むことはできない。関連する法律が膨大にあり、それらに則れば何の問題も無い」。高官は、アモデイの立場にはほとんど同情しなかった。というのは、恣意的な契約条項こそが政府の免責に対する唯一許容できる防波堤であるとアモデイが明言していたからである。アモデイが色々と主張していたことは、高官にすれば、国防総省の専権事項に関する口出しであり、筋違いに見えたのかもしれない。彼は言った。「主張を通したいなら、選挙に出馬して議会と協力して法律を変えるしかない。もしくは軍隊に入隊して宣誓すべきである。そうすれば、アメリカ国民から信頼されるだろう。そうでないならば、やみくもに難解な意見を言うことは許されない」。
高官が感じているのは、マイケルとアモデイの間に根深い確執があると誤解している者が多いということである。「これは単なるスポーツマン対オタクの争い、つまり腕立て伏せをするヘグセスと眼鏡をかけたアモデイの対立だと思っている人が多いのではないか」と私は彼に言った。すると彼は、「それは間違いだ」と答えた。意見の相違は 2 人の気質が原因ではなく、AI に対する理解の違いによるものだという。彼は言った、「すべては 2 つの問いに帰結する。1 つは、AI は特別な技術なのか、それとも普通の技術なのかという問いである。もう 1 つは、AI の使い方に関するルールを誰が決めるのかという問いである」。