３.
「シナリオ」は今流行のジャンルである。ジェイコブセンの前著は核戦争のシナリオだった。ほぼ全員が死ぬという内容である。最もシナリオが豊富な分野は AI の予測である。昨年、合理主義的な予測者グループが「 AI 2027 」というシナリオを発表した。この未来予測もほぼ全員が死ぬという内容だった。数週間前には、より楽観的なビジョンを発表した。6 月には、不安を抱えるヨーロッパの政策研究者グループが「ヨーロッパ 2031 ( Europe 2031 )」を発表した。これはウラル山脈と大西洋の間の文明が機能的に絶滅するというシナリオである。ジェイコブセンの著書は、AI については最後の数行で少し触れているだけである。彼女が描写するような生物兵器はかつては国家の秘密プログラムに限られていた。しかし、「今では生物学の訓練をほとんど受けていない者でも、誰でも利用可能となった AI を活用すれば製造することができる」。とはいえ、現在の AI に関する議論を思い起こさずに、絶滅リスクを扱った著作を読むのは難しい。それは意図的なものだったのかもしれない。「生物兵器」の序文は、極めて毒性が強く治療不可能な病原菌が「 21 世紀の人類にとって最後の発明となるかもしれない」という指摘で締めくくられている。巻末注で彼女は、この一文は哲学者ニック・ボストロム( Nick Bostrom )によるもので、彼は 2015 年に TED トークでこの考えを述べたとしている。そのトークのタイトルは「コンピューターが人間より賢くなったらどうなるのか？」だった。
シリコンバレーでは、高度な AI の到来が「歴史の転換点( hinge of history )」で、これが人類の大きな変曲点になるという考えが普遍的とは言わないまでも広く信じられている。高度な AI については、汎用人工知能( artificial general intelligence )の次に、人工超知能( artificial superintelligence )がもたらされると考えられている。この考えは数十年前から一部の研究者の間で広まり始め、その後ボストロムによって普及した。最近では、人類がもしこのまま存続するとしても、近いうちに完全に認識不可能なもの（いまとは全く違う姿や状態）になってしまうだろうという前提が広く受け入れられている。この確信には様々な形がある。加速主義者( accelerationists )は地上の楽園を期待している。一方、悲観的な終末論者( doomers )は、AI 研究者のエリザー・ユドコウスキー( Eliezer Yudkowsky )による超知能に関する新刊のタイトル「誰かがそれを作ったら、みんな死ぬ( If Anyone Builds It, Everyone Dies )」がすべてを物語っていると主張する。
シリコンバレー以外では、こうした予言はせいぜい明らかな冗談だとして一蹴されるのが落ちである。「 AI 2027 」のようなシナリオはあまりにも馬鹿げているので、呆れてため息をつくしかないと考える懐疑論者が圧倒的に多い。一方で、より現実的な議論に近い反論をする者もいる。こうしたより洗練された見方によれば、歴史の重要な特徴は、長く輝かしい継続性の実績があることである。ほぼすべてのものは徐々に変化する。電気、抗生物質、民主主義などである。未来は多かれ少なかれ過去に似ているのが常である。今日が昨日とよく似ていることを考えると、明日が今日と似ている可能性は圧倒的に高い。度重なる金融危機から学べることだが、「今回は違うだろう」と考えるのは、ほとんどの場合、愚かな賭けである。この世界が一夜にして劇的な変革を遂げる才能を示したことは、これまで一度もない。人類はもがき苦しみながらも何とか生き延びてきたのである。
ほとんどの場合、そのような過度に急激な変化が起きると考えない冷静な姿勢でいるのが賢明に思える。有り得そうもない未来の予想を間違っていると考える者が多いのだが、その中には、そうした予想を信じる者を気狂い扱いする者もいる。1990 年代にワイヤード( Wired )誌が事象の地平線( event horizon )の彼方からの月刊便りのように思われた頃ですら、人々がとっていた流行の姿勢は、頑固な楽観主義だった。現在では、技術革新に関して過度に反応して悲観的になることは明らかに流行遅れである。未来についての帰納的議論（例：「これまでずっと太陽が昇ってきたのだから、明日も太陽は昇る」という推論）を受け入れる姿勢が必要とされる世の中になった。そういう姿勢は、まともな人の気質や性格や物事のとらえ方を示す目印として機能するようになっている。一方に、ヒステリーや誇大宣伝を見抜けるタイプの人々がいて、その対極に、特異点( singularity )を目撃するために特別に選ばれたと考えているタイプの人々がいる。後者は、物事を根本的な原理から論理的に組み立てようとする科学的・合理的な考え方（第一原理思考）をするが、前者はすべてを歴史的視点に置くべきだというより洗練された考え方（歴史主義・文脈主義）をする。前者がクールに見え、後者は滑稽に見える。
私たちは、洗練さの証拠として帰納的却下、つまり安易な切り捨てを好む。歴史的証拠や「参照クラス( reference class：自分の都合の良い証拠や枠組み)」として何を採用するかをあらかじめ決めている。そこが、私たちの主張の欠陥である。もし自分が議論の対象とする参照クラスを、人類全体の救済や滅亡を正しく予測した予言だけに限定しているなら、過去を振り返ったときにそのような予言はどれもこれも例外なく間抜けに見えたという事実に、心の慰めを得ることができる。だから今回も外れるに決まっていると安心する。しかしながら、対立する立場の者たちからすれば、私たちがその参照クラスを選んだ時点で、すでにゲームを自分たちに有利に仕組んでいる、つまり不正操作していると反論するのは容易なことである。ちなみに著名エコノミストのロビン・ハンソン( Robin Hanson )は、彼の最も印象的な造語の 1 つで、これを「参照クラス・テニス( reference-class tennis )」と呼んでいる。私たちは、恐竜の絶滅のような重大な出来事を、最初から考慮の対象外であると宣言してしまっている。また、ここまで極端ではないけれど重要な事例は世の中にはたくさん存在するのである。昨年出版された優れた著書「 Apocalypse (黙示録)」の中で、科学ジャーナリストのリジー・ウェイド( Lizzie Wade )は、人類が歴史上何度も世界の終わりに直面しながらも生き延びてきたことを、最新の考古学研究をもとに詳述している。かつてイギリスとヨーロッパ大陸の間に広がっていた、旧石器時代の豊かな平原・狩猟採集地であるドッガーランド( Doggerland )は海面上昇によって北海に沈み、4,200 年前に起きた急激な気候変動(大干ばつなど)によりかつて栄えたインダス川流域の都市文明が持続不可能になり衰退し、16 世紀にはスペイン人略奪者の殺到と首都テノチティトラン( Tenochtitlan )の破壊がアステカ族にとって文字通り終末論的な出来事( eschatological experience )となった。ウェイドの著書の要点は、人類は個々人がそれぞれに回復力を示し生き延びて生活を続けたということである（人類は絶滅しなかったが、社会や文明の仕組みは完全に破壊されて何度もリセットされた）。しかし、絶滅レベルの出来事には遠く及ばない出来事でも、真の歴史的断絶をもたらす可能性があると論じているとも解釈できる。
一方で、ウェイドが挙げたドッガーランドやインダス文明などの具体例は、私たちが想像すらできないような社会の完全な崩壊が実際に起こり得るという前例を示している。示唆しているのは、過去には大規模な恐ろしい出来事が起こっており、それが再び起こる可能性は十分にあるということである。しかしその一方で、誤った教訓を導き出すことも容易である。こうした過去の文明崩壊の多くが、偶然ではなく帝国主義的な野心(戦争や侵略)や気候変動に起因しているという事実は、それらの脅威が深刻であることを示唆している。現代の私たちにとっても避けがたい危機であるということを証明している。過去に一度でも起きたことがある危機(気候変動や戦争による崩壊など)は、また起きるかもしれないと本気で心配する正当な理由がある。しかし、過去に一度も起きたことがない全く新しい、未知の災害を過度に怖がることは、非現実的で的外れな心配として切り捨てるべきかもしれない。いや、この考え方には致命的で危険な落とし穴がある。これまで経験したことがないという理由だけで、未知の危機や人類が直面したことのない新しい脅威を無視してしまうのは極めて危険である。その予測が外れるのは歴史上たった 1 回きりかもしれないが、最も重要なその 1 回において、私たちは絶対に失敗することになるからである。未来は常に過去に似ていたから未来も過去に似ているだろうという大前提は、それが通用しなくなる最初の 1 回が訪れる瞬間まで、ずっと正しいと思い込まれ続ける。