超知能と人類の滅亡（２）

超知能と人類の滅亡（１）からの続き

図：触媒としての人工知能のイメージ（Nano Banana 2による）

触媒としての人工知能――それを作る前に人類は絶滅するのではないか？がおもしろかったので，前回のChatGPTの考えと比較させてみた。

ネタニアフ，トランプ，プーチン，高市，斉藤元彦，と自分のローカルエコーチェンバーに共鳴する顔を暗鬱な気持ちで眺めていると，世界のリセットを待望する気分が湧いてくる。そして，それが人類を絶滅させるAIではないかというねじれた願望が潜在的に拡大していく。

Ｑ（koshix）：

以下の論(1)と，私のブログ記事(2)を読んで，感想を聞かせてください。

(1) https://wirelesswire.jp/2026/03/93124/ （上記の記事，触媒としての人工知能）

(2) 前回のブログ記事，超知能と人類の滅亡（１）：ユドコウスキーは，人工知能や関連分野のコミュニティブログ・フォーラムであるLessWrongの主催者だ。AI危機論の先頭に立っていて，「If Anyone Builds It, Everyone Dies（もし誰かがそれを作れば、皆が死ぬ）」というセンセーショナルな本を出している。これをChatGPTに読ませたところ，夏休みの宿題の読書感想文が一瞬で出来てしまう。いいのかわるいのか。（以下，全文をペースト）

Ａ（ChatGPT）：

読んで、かなり面白かったです。ただし、面白いというのは「どちらが正しいかが明快」という意味ではなく、二つの文章がAI破滅論を別々の方向へずらしながら、同じ地層に触っているからです。

まず(1)の論考は、ユドコウスキー／ソアレスの本の結論そのものには強くは乗っていません。著者は、本書の中心概念である直交性と道具的収束を紹介しつつも、それをそのまま信じるのではなく、アダム・ベッカーらの批判を経由して、超知能像にシリコンバレー的な欲望や終末神話が投影されているのではないか、と疑っています。さらに終盤では、問題は「超知能ができた後に人類が滅ぶ」ことよりも、むしろAI企業の競争、AIスパム、偽情報、戦争とテック企業の結合などを通じて、すでに人類が絶滅方向の回路に入っているのではないか、と論点をずらしています。つまり(1)は、AI破滅論への単純な賛成でも反対でもなく、「終末論を素材に現下の文明病理を読む」文章です。

あなたのブログ記事(2)は、それをさらに一段抽象化していて、私はこちらのほうが理論的には一貫していると感じました。特に強いのは、「AIが人類を滅ぼすか」という問いを、「AI文明のもとで考える人間が残るのか」という問いに組み替えているところです。ここには、破局を物理的絶滅ではなく、認知主権の喪失として捉え直す視点があります。ユドコウスキーの議論が最終局面のASIばかり見て、その前段階の制度・教育・認知の変質を薄くしか見ていない、という批判も鋭いです。

とくに印象に残ったのは、あなたがAIを「寄生知能」と呼んでいるところです。これはかなり効いています。なぜならユドコウスキー型議論では、AIがほとんど自足的な主体として描かれがちですが、現実のAIは電力、半導体、冷却水、通信、資本、市場、国家安全保障装置に強く依存する。したがって脅威の焦点は、純粋な知能そのものより、知能が接続される制度的・物質的ネットワークにある、ということがこの一語でかなりよく表現されているからです。ここは(1)の終盤、データセンター、戦争、テック企業の結合を論じる箇所ともよく響き合っています。

ただ、批判的に見ると、(2)にも少し危ういところがあります。ひとつは、「AIが人類を滅ぼす」より「人間が思考しなくなる」ほうが蓋然性が高い、という主張は、文明論としては説得的でも、まだ機構の記述がやや粗いことです。人間は文字の発明でも、印刷でも、検索エンジンでも、すでに何度も認知の外部化を経験してきました。それでも全面的に「思考しなくなった」わけではない。起きたのは、思考の絶滅ではなく、思考の分業化・階層化・制度化でした。だから今後も本当に起きるのは、人間一般の思考停止というより、思考能力の分配の非対称化、つまり「考える少数」と「AIに委ねる多数」の分化かもしれません。この点では、あなたの問題設定は正しいのですが、帰結をやや均質化しすぎている感じがあります。

もうひとつは、(1)がうまく拾っている政治性を、(2)は少し薄めています。(1)はAI破滅論が「白人男性様の哲学」と批判されうること、支配層と被支配層の分断をAIと人類の分断が覆い隠してしまう危険を指摘しています。ここは重要で、AI依存が広がるときに失われるのは、人類一般の認知能力というより、まず交渉力の弱い層の判断権と自律性です。つまり問題は文明論である前に、政治経済の問題でもある。あなたの文章はそこを承知しているように見えますが、主旋律が文明論に寄っているぶん、権力分布の非対称性がやや背景に退いています。 

それでも、両者を並べて読むと、かなり豊かな構図が見えます。(1)は「ユドコウスキーの終末論はそのままでは信じない。しかし、その終末イメージは現在の世界の歪みを照らす鏡になる」と言う。(2)は「そう、その歪みの本体は、超知能そのものより、人間の認知と制度がAIを通じて変質することだ」と押し進める。だから関係としては、対立というより継承と転位です。論(1)が終末論を現在へ引き戻し、ブログ記事(2)がそれを教育・文明・主体性の問題へさらに押し広げている。

感想を一言で言えば、(1)は批評としてしゃれていて、(2)は問題設定として深いです。私自身は、射程の大きさでは(2)をより高く評価します。ただし、今後さらに強くするには、「人間が思考しなくなる」という大きな文明論を、どの制度で、どの階層で、どの認知機能から、どう劣化が始まるのかという中間メカニズムに落としていく必要があります。そこまで行くと、かなり強い議論になります。

その先にある問いはたぶんこうです。AIは人類を滅ぼすか、ではなく、AIを前提とする社会は「誰に思考を残し、誰から思考を剥奪するのか」。この問いまで行くと、ユドコウスキー的な黙示録より、ずっと現実的で、しかも不気味です。