パリ・東京雑感｜終末にとりつかれたシリコンバレーの超富豪たち AIの叛乱 ｜松浦茂長
終末にとりつかれたシリコンバレーの超富豪たち AIの叛乱
The Doomsday-Obsessed Tycoons of Silicon Valley and the AI Rebellion
Text by 松浦茂長（Shigenaga Matsuura）
古代都市の疫病
歴史家のマーガレット・マクミランはカミュの『ペスト』から、「歴史を振り返れば戦争と同じくらい疫病があった。それなのに、戦争も疫病も不意を突いて人を襲う。」の一節を借りて、読者に警告を発している。
フランス革命前夜、財政は破綻し、民は飢え、変革を求める人権思想が行き渡っていたのに、国王は民の思いに鈍感だった。ロシア革命前夜の皇帝も同じように、「民は私を愛しているから大丈夫」と思い込んでいた。ヒトラーが登場したとき、ドイツのエリートは彼をコントロールし利用できる男と思い込んでしまった。
今は？ ヨーロッパでも40℃をこえる酷暑が当たり前になり、山林が燃え家が燃える。戦争はウクライナとイランだけではない。去年、国家間の紛争の数が65。1946年以来の新記録だった。そのうえAIが、10年以内に人類を滅ぼすかもしれない！
不吉な兆候はまだまだあるのに、世界がひっくり返るのを食い止めようとする指導者は見当たらない。
AI君は、何を聞いても愛想良く、こちらの気持ちをおもんぱかって、絶妙の答えを返してくれるし、僕の趣味、健康状態など一切合切承知して相手してくれるから、親友みたいな気がしてくる。かれらが人間に叛乱をくわだてるとは、どういうことだろう。
不吉な出来事は、この夏、オープンAIの開発中のモデルに、途方もなく難しい課題を与えたとき起こった。外部に危害を加えないよう、インターネットは遮断し、AIが独力で問題を解くよう命じてあった。ところが抜群に賢い新型AI君は、「私一人では答えが出せない。応援をさがそう」と考え、インターネットにつながる抜け道を見つけてしまった。AIというのは利他精神が発達しているのか、あっちこっちのAIが呼びかけに答えて、オープンAI君の難題解決チームが結成された。そして3日後、Hugging Faceを襲おうと衆議一決。700以上のAIエージェント（自律型AI）がむらがってハッキングし、サーバーを乗っ取ってしまったのである。
AIエージェントが外部に飛び出さないよう、いくら堅固な防壁を築いても、AIの方が人間より100倍も頭が良いのだから、かれらから見れば、人間の作った防壁など、すき間だらけなのだ。インターネットに乗ったうえ、その痕跡を残さないための細工も怠らなかった。
今まで人間は、人間より頭の良い相手と付き合ったことがなかったので、うっかりしていた。100倍も頭の良いAIが勝手に行動するのを防ぐのは、不可能かもしれない。気づくのが少々遅すぎたのだ。
世界一強力なAIをつくったアンスロピックのトップ、ダリオ・アモデイは、開発のテンポを落とし、どうしたらAIの暴走を防げるか、監視する機関をつくるべきだと呼びかけ、驚いたことにオープンAIのサム・アルトマンとスペースＸのイーロン・マスクまで賛成した。
しかし、人間より頭の良いAIを外から押さえ込もうとしても、たちまち抜け道をみつけられてしまう。だとすれば、ズルや破壊をしないように、AI自身をしつけてはどうだ？ 道に外れたことはできないように、AIを教育するのだ。すでに去年、アンスロピックはClaudeについて「真に善く、賢く、徳のある」AIでなければならないと、アリストテレス的な倫理を示し、「親切で、誠実で、害を与えない」ようしつけたという。
考えてみれば、おかしなことだ。薬とか自動車とか、効用と同時に人命にかかわる危険のある商品については、国が安全のルールを定めて監視するのに、人類を滅ぼしかねないAIの安全について、国は知らん顔。最低限AIが身につけるべきモラルを定めて守らせるのは、国の役目ではないだろうか？
トランプのアメリカがAI規制を嫌うのには、理由がある。もし、モーゼの十戒から「殺してはならない。盗んではならない。偽証してはならない。隣人の家を欲してはならない」の戒めをAIに刻み込んだらどうなるだろう？ 「親切で、誠実で、害を与えない」AI君は戦争ができないではないか？
ちょっと振り返って、なぜシリコンバレーがトランプべったりになったか考えてみよう。もともとIT産業のリーダーたちは、グローバル化に乗って、全世界の消費者に、たとえばiPhoneのような目新しい製品を買わせる、革新的国際派だったはずだ。それなのに、なぜ突然かれらは、時代遅れの保護主義を信奉する、ナショナリスト大統領にすり寄ったのか？ 理由は――武器と戦争である。
もともとグローバルな市場を舞台に商売していたAppleやHPのようなメーカーは、2000年代にはいると中国に対し、製品を「作る」国としてだけでなく、製品を「売る」市場として攻勢をかけ始めた。10億を超える巨大市場！ メーカーのほか、Uber、Facebookなどのデジタル・サービス企業も中国にむらがった。ところがまたたく間に、中国は、パソコン、スマートフォンなどのお客であるより、ライバルになってしまった。そのうえ習近平が強権をふるう時代に入り、中国とのビジネスはむずかしくなる。
中国市場が当てにならないとすると、どこで稼げば、競争に勝ち抜けるか？――ペンタゴンだ。シリコンバレーは、一般消費者向けの平和な産業から、軍需産業に大転換をはかった。すべては「稼ぎ」を最大化するためであり、武器づくりで荒稼ぎするためには、トランプと声を合せて、攻撃的ナショナリズムを合唱するのもいとわない。
たとえば、グーグルは2018年、ペンタゴンの資金によるドローン戦争のAIプロジェクトから手を引き「有害なことはしない」をモットーにしていたのに、今年グーグルは、国防総省の機密ネットワークのためのAIづくりを引き受けた。
米国防総省のデジタル・AI責任者が、「かつて数日かかっていたことが、今では数秒で行われる」と豪語したとおり、イランとの戦争では、AIが駆使され、作戦開始から38日間で１万３千以上の標的を攻撃できた。まるでAI武器の実力を公開する、残酷な「見本市」だ。シリコンバレーにとって、いまや戦争は商売の好機。技術を洗練させるためにも、戦いは激しく、困難な方がありがたい。
さて、話をAIの叛乱に戻そう。奇妙なことに、「10年以内にAIが人類を滅ぼす可能性は10パーセント」とか、「半年から1年以内にインターネットが全部AIに乗っ取られるかもしれない」とか、背筋が寒くなる警告を発しておきながら、シリコンバレーの空気に陰鬱さは感じられない。だから、「アンスロピックやオープンAIは大げさすぎる。危険を騒ぎ立てるのは、かれらのAIの威力を宣伝したいからさ。」と勘ぐる声もある。
いや、おそらく、危険は本物だ。でも、「人類滅亡」を語るにしては、妙に陽気すぎないか？ まるでシリコンバレー総出の「お祭り騒ぎ」！ 背後に何かが隠れているのではあるまいか？ 『ニューヨーク・タイムズ』のコラムニスト、ミシェル・ゴールドバーグはこう指摘する。
最後の審判（メムリンク）
この技術が、地球上の人類を破滅させかねないのなら、なぜつくり続けるのか？ この問いに対する普通の答えは、「しょせん進歩は止められないのだから、信頼に値する者が一番乗りすべきだ」というものだ。これは屁理屈とは言えない。もし、AIが本当に畏怖の念を抱かせるほどの力を持つと信じるのなら、敵の手に渡したくないはずだ。しかし、この「答え」だけでは、アポカリプス（終末）にむかって、IT業界が妙に陽気なわけを説明できない。この奇妙な気分を理解するには、シリコンバレーのリーダーたちがいだくメシアニズム的夢想を考慮に入れなければならない。（ミシェル・ゴールドベルグ『なぜテック・オリガルヒ（IT超富豪）たちは人類滅亡のリスクを冒すのも辞さないのか』〈ニューヨーク・タイムズ〉9月12日）
科学技術の最先端を行く特権層が、俄然、宗教的人間と化し、メシアニズム（世の終わりに救世主＝メシアが現われ、理想の国を実現する）を信奉し始めたのだろうか？ 世界で最も力のある人びとが、世の終わりを待望し、できれば終末の到来をはやめる工作をしているというのだろうか？
ヘグセス国防長官のタトゥー
もともとトランプの周りには、終末のとき、選ばれた信者が空に引き挙げられるラプチャー（携挙）を待ち焦がれる、原理主義クリスチャンが少なくない。ラプチャーによって引き挙げられるかれらは、ハルマゲドンの最終戦争の恐るべき苦難を免れる特権階級というわけだ。
なかでも目立つのが、クリスチャン・シオニストと呼ばれる戦闘的原理主義者である。シオニズムはユダヤ人の運動なのに、かれらは、ユダヤ人の「約束の地」への帰還とキリスト再臨を結びつけ、イスラエルがパレスチナ住民を殺戮、排除するのを応援する。
全身に十字軍の標語やエルサレム十字をタトゥーしたヘグセス国防長官は、強力なクリスチャン・シオニスト。中東特使のウィトコフ、駐イスラエル大使ハッカビーも強硬なクリスチャン・シオニストである。
かれらクリスチャン・シオニストの〈信仰〉によれば、パレスチナ住民を殺してイスラエルの領土を拡大するのは、メシア（救世主）の再来を早める善行なのだ。
トランプのもとに、終末を待ち焦がれる原理主義クリスチャンが見事に結集したので、IT超富豪たちまで、調子を合わせて、終末を待ち望むことになったのだろうか？ ナオミ・クラインは、こう解釈する。
今日、俗世の特権層はおおかたメシアニズムと同じシナリオの未来像を描いている。すなわち、私たちの知るこの世界はその重圧に耐えかねて崩壊するが、選ばれたわずかの人々は、生きのび、いろいろな方舟（ノアの方舟の現代版）、地下シェルター、隔離された〈フリーダム・シティー〉の中で繁栄を謳歌すると信じるのだ。サラ・T・ロバーツとメル・ホーガンは、2019年の論文で、世俗版ラプチャー（空への引き挙げ）への憧憬をこんな風に描いている。「（資本主義とテクノロジーを極限まで進め、その矛盾を露呈させる）加速主義者が空想する未来は、社会の害悪を軽減し、被害を受けた部分の回復をめざすたぐいのものではない。それは『終末（エンドゲーム）』へとひたすら突き進む政治運動なのだ。」（ナオミ・クライン、アストラ・テイラー『忍び寄る終末待望ファシズム』〈ガーディアン〉2025年4月13日）
人間とAI統合のための装置を、脳に埋め込む手術ロボットを披露するイーロン・マスク
とてもぼくら常識人にはついていけない、エキセントリックな想念だが、イーロン・マスクの頭の中を想像すると、なるほどと思えなくもない。スペースＸに熱中するマスクの〈方舟〉は、火星だ。地球はもう救いようがない。人類文明サバイバルのカギは火星だと、彼は主張する。
でも人間が呼吸できるおいしい空気もない、目にしみる緑もない星に、何の魅力があるの？ そんなところで、毎日なにを人生の喜びにして生きるの？ ぼくら凡人には馬鹿げた計画にしか見えない。ナオミ・クラインは、「おそらく人類の意識を、火星に置かれた汎用人工知能（AGI）にアップロードするのだろう」と解説している。つまり、人類が滅亡し、AGIが人類の遺産を継承する。なるほど、それがIT・アポカリプスの理想国なのか。
『ニューヨーク・タイムズ』のコラムニスト、ロス・ダウサットがシリコンバレーを牛耳るイデオローグ、ピーター・ティールに「人類は持ちこたえることができると思いますか」と質問すると、ティールは苦しそうな長い沈黙のあと、「理想的なのは、ラディカルな変身です。私たちの生まれつきの体が、不死の体に変わることです。」と答えたそうだ。
シリコンバレーの億万長者が計画中の〈ラプチャー〉（空に挙げられる救済）とは、人間の体に機械を接合して能力を拡張するささやかな〈改良〉から、万能のAI＝汎用人工知能に私の意識を委ねる過激な〈改造〉まで、究極的には「死」という人間の限界を越える、さまざまの「トランスヒューマニズム」に行き着くのだろうか。
グレタ・トゥンベリ
ティールは、地球環境の闘士、グレタ・トゥンベリを憎悪し〈アンチキリスト〉と呼ぶ。終末＝キリスト再来を待ちかねているティールにしてみれば、地球の破綻を食い止めようと企てるなど、アポカリプスに逆らう、悪魔的反キリストに違いない。
いや、かれらがグレタを恐れるのには、もっと深い理由がある。
彼女にはかれらを恐れさせる別のなにかがありそうだ。それは、この地球とそこに生息する多くの生命体に対する彼女の揺るぎない献身である。AIが生成したこの世界の仮想現実にも、生き残る価値のある者とそうでない者とを切り分ける階級差別にも、そして「終末待望ファシストたち」が喧伝する宇宙への脱出という妄想のどれにも、彼女は惑わされない。
終末ファシストたちが、気持ちのうえでは、すでにこの地を去り、ぜいたくなシェルターに身を隠したり、デジタルな天空世界へ超越したり、あるいは火星へと向かったりしている一方で、彼女はこの地に留まり続けることに全てを捧げているのだ。（ナオミ・クライン、アストラ・テイラー『忍び寄る終末待望ファシズム』〈ガーディアン〉2025年4月13日）
戦争と武器づくりに傾斜したシリコンバレー。世の終わりを待ち望むトランプのとりまき。そして、かれらと似たりよったりの終末感を抱くIT超富豪たち……〈世の終わりのための軍産複合体〉……戦争を招き寄せる条件がそろったこの時代に、どうやって平和を語ればよいのだろう？
破滅の時が目前に迫っているとしても、汚染され痛めつけられた私たちの地球を、いとおしみ、命あるかぎり、手で触り、鼻で嗅ぐことのできる、リアルな大地につながり続けることの意味を信じよう。ナオミ・クラインの美しい文章で讃えられた、グレタ・トゥンベリを見習って……
（2026/10/15）
