AIは「従順な兵士」か「制御不能の神」か?国防総省は安全性のレッドラインに拘るアンスロピックに死刑宣告した

3.

 それでも両者は合意に一歩近づいた。金曜日( 2 月 27 日)の早朝、国防総省は、アンスロピックの交渉担当者が自律型兵器に関する条項の中で曖昧さが残ると考えていた「必要に応じて( as appropriate )」など複数の文言を削除することに同意した。こうした文言があると、両者間で契約条項に関して齟齬が発生してしまう可能性がある。最後まで争点として残ったのは、監視( surveillance )に関する条項である。アンスロピックは、外国情報監視裁判所( FISA court )の管轄権に基づき個人を監視する役割をクロードに与えることを喜んで認めた。外国情報監視裁判所は、アメリカ国内での外国勢力またはその代理人の行動の監視許可を判断する秘密審判所( secretive tribunal )である。国防総省のワークフローへのクロードの装備は、商法や民法ではなく、国家安全保障法の対象となる。アンスロピックにとって重要だったのは、クロードが国内で収集された大量監視データの分析に関与しないという保証である。これは移民・税関捜査局( ICE )が強制捜査を継続している状況下で、同社の従業員にとって特に重要な問題だった。国防総省の立場は、こうした些細な駆け引きはすべて無意味だというものである。しかし、国内での大規模監視は違法である。国防総省は大規模監視はしていないと主張している。

 これは厳密には正しくない。まず、国防総省の一部である NSA (国家安全保障局)が、間違いなく監視活動を行っているからである。さらに重要なのは、「国内大規模監視( domestic mass surveillance )」には法的定義がなく、政府は「監視( surveillance )」という言葉を、一般的に理解されているような意味では使っていないことである。政府は令状なしに誰かの携帯電話を追跡することはできない。しかし、データブローカーから特定の人物に関する膨大な情報(例えば、使用した任意のアプリから得られた情報など)を購入し、それを自由に利用することは可能である。購買履歴、ギャンブルやペイデイローン( payday-loan:給料日までの短期・少額・無担保消費者ローン)の利用履歴、メンタルヘルスや生殖関連アプリに入力した情報、さらにはスマホのカメラで撮影した顔認識マップ( facial-recognition map )なども入手できる。政府が特定の個人について詳細な情報を知りたい場合に、担当者を配置してそれらのデータを格納したデポジトリから包括的な資料を作成することも自由にできる。

 このタスクを国家規模で遂行しようとすると、何百万もの人手が必要となる。しかし、クロードのような AI はそれを全て行うことができる。近年の研究によると、AI はインターネットの匿名性を巧みに突破し、複数のサイトをパターンマッチングすることで、匿名の投稿を実在の人物と結びつけることができることがわかっている。もし、監視用クロードが実装されれば、一日中、さまざまな監視のためのリストを作成し続けるだろう。例えば銃器携帯許可証と非愛国的なツイートを照合したり、抗議活動への参加状況と有権者名簿を相互参照したりする。

 アンスロピックは、時代遅れのプライバシー制度の法的抜け穴に対処しているだけだと考えていた。しかし、国防総省の幹部連中は、非難されていると感じたようである。アンスロピックの考えをよく知る情報筋は、「ある時点で、国防総省上層部は感情的になり一切譲歩をしない姿勢に傾いた」と語る。ミッチ・マコーネル( Mitch McConnell )とクリス・クーンズ( Chris Coons )を含む超党派の上院議員 4 人が、非公式に妥協を促した。国防総省は彼らを無視した。その頃、マイケルはアンスロピックの最大のライバルであるオープン AI とも交渉していたことが既に明らかになっている。回答期限の約 1 時間前、トランプ大統領は自身の SNS トゥルース・ソーシャル( Truth Social )でこの膠着状態について言及した。「アメリカ合衆国は、極左思想に染まった企業が偉大なアメリカ軍にどうやって戦争に勝つかを指示することを決して許さない。すべての連邦機関は今から 6 カ月以内にクロードと決別し、代替手段を確保する必要がある」と投稿した。

 トランプの主張はいかにも威勢のいいものであったが、事態を沈静化しようとする試みだったのだろう。「政権内には常識的な見解を持つ者がかなり多かった。彼らはアンスロピックをあまり好んでいなかったかもしれないが、クロードを使いたいと思っていたのに、なぜ決裂してしまったのか?」と、ある元トランプ政権高官は語った。しかし、トランプの側近たちからすると、議論の余地はなかった。企業には自社の好む条件で私有財産をライセンス供与する自由がある。同様に政府にも契約を解除する自由がある。それが契約というものである。ただ単に契約解除となるだけで話は終わると思われた。アンスロピックは 2 億ドルの契約を失うことになるが、それだけで話が済めば今年の収益見通しが 200 億ドルの同社にとっては、影響は微々たるものである。

 しかし、国防総省の回答期限の 13 分後、ヘグセス長官はツイッターで、アモデイを非難した。「大規模監視に利用される可能性や倫理的リスクを理由に、彼らはアメリカ軍を屈服させようとした。これは、シリコンバレーのイデオロギーをアメリカ国民の命よりも優先させる、卑劣な企業倫理の誇示行為である。アンスロピックの欠陥のある偽善的な利用規約は、戦場におけるアメリカ軍兵士の安全、即応性、生命に決して勝るものではない」と書き込んだ。

 ヘグセスの非難の後には、より厳しい懲罰措置が待っていた。「本日より、アメリカ軍と取引のある請負業者、供給業者、またはパートナーは、アンスロピックといかなる取引も行ってはならない」との声明を出した。ヘグセスの提案した措置は、彼の法的権限をはるかに超えていると思われる。アンスロピックが恐れていた広範なものであった。それは、国内最大手企業を含む防衛請負業者がクロードを使用することを阻止するだけでなく、事実上、同社への半導体チップなどの販売も禁止するものである。それはアンスロピックの新たな投資を阻害するものであり、同社の資金提供者に投資撤退を強いる可能性さえある。同社
にとっては、命脈を絶たれたようなものである。昨年夏に退任するまでトランプ政権で AI 政策を担当していたディーン・ボール( Dean Ball )は、「企業に対する死刑宣告」としか言いようがないと評した。