AI神道(3)からの続き
図:大規模因果モデルのイメージ(1024x1024はただのGeminなのiか)
ChatGPTとGeminiとClaudeを往復させてこれからブログ記事をつくると,AI神道と結びついた議論にどんどんシフトしてしまったのだけれど,微妙に話がそれているのではないか。LLMが「パターン認識マシン」から「因果エンジン」へと進化するという衝撃的なパラダイムシフトが起きている。マサチューセッツ大学とAdobeの論文で、近似ではない、実際の因果グラフ、反実仮想、介入を伴う大規模因果モデル(LCM)をLLMから直接構築できることが示された。その革新的な詳細をまとめると,(1) 科学者のような「問い詰め」プロセス単にモデルを学習させるのではなく、LLMに対して独立性のチェックや矛盾の検出を繰り返し行わせる。抽出、検証、修正という反復的な対話を通じて、因果構造を安定化させるアプローチだ。(2) 潜在知識の活用従来の統計的手法ではデータ上の相関しか見えなかったが、LCMはLLMが持つ膨大な「潜在的な世界知識」を活用する。これにより、データだけでは導き出せない「なぜ」という問いに答えることが可能になる。(3) あらゆる分野の再定義これは単なる技術的な進歩ではない。経済、医療、科学、政策など、因果推論に依存するすべての領域が、この「因果エンジン」によって書き換えられる可能性がある。
大規模因果モデル――知能が住む世界の地形学
近年の生成AI研究において、「因果」という言葉が再び強い存在感を帯び始めている。統計的相関を越えて、世界がどのような仕組みで動いているのかを説明したい、という欲望は、機械学習の初期から一貫して存在してきた。しかし、従来の因果推論は、数値データ・実験設計・限定された領域を前提とするものであり、「世界全体の因果構造」を扱うには、あまりに射程が狭かった。
そうした文脈の中で登場したのが、Mahadevan による Large Causal Models from Large Language Models(以下、LCM 論文)である。この論文が提案する DEMOCRITUS は、因果推論の正統的手法を拡張するものではない。むしろそれは、**因果を「推定」するのではなく、「集積し、配置し、可視化する」**という、まったく異なる方向への跳躍である。
因果推論ではなく、因果の沈殿
LCM 論文の最も重要な特徴は、因果効果の同定や検証を意図的に放棄している点にある。DEMOCRITUS が扱うのは、実験や観測データから導かれた因果効果ではない。LLM が自然言語として生成する、「X は Y を引き起こす」「A は B に影響を与える」といった、無数の因果的言明の断片である。
これらは、真である保証も、検証済みである必然性もない。しかし、同じ因果が何度も語られ、異なる文脈で接続され、他の因果と連鎖することで、次第に「密度の高い領域」を形成していく。LCM が扱っているのは、因果の真理ではなく、因果が語られてきた痕跡の地層である。
ここで起きているのは、認識論的な転換である。従来の因果推論が問うていたのは「何が真に因果か」であった。しかし DEMOCRITUS が問うているのは「何が因果として語られ続けてきたか」である。真理の探求ではなく、言説の考古学。このとき因果は、世界の構造ではなく、世界についての語りの構造として現れる。
このことは、一見すると因果の地位を貶めているように見える。しかし実際には、私たちが「因果」と呼んできたものの大半は、この「語られてきた痕跡」以外の何ものでもなかった。医学、経済学、心理学において、因果と呼ばれるものの多くは、厳密な実験によってではなく、繰り返される観察と説明の蓄積によって成立してきた。LCM は、その事実を隠蔽するのではなく、正面から引き受ける。
因果が「地形」として立ち上がるとき
DEMOCRITUS は、こうして得られた膨大な因果断片を、グラフとして整理し、さらに幾何学的変換を施す。すると、ある種の「起伏」が現れる。
多くの因果が集まり、そこを起点として複数の因果連鎖が伸びている場所。逆に、孤立し、接続の弱い周縁的な場所。この差異は、誰かが設計したものではない。単に、「語られやすかった因果」「接続しやすかった説明」が、自然に中心へ集まった結果である。
ここで因果は、もはや矢印の集合ではない。歩きやすさを持った地形になる。
重要なのは、この地形が「正しさ」を表しているわけではないという点である。それは、「どこを辿れば説明が途切れにくいか」「どこを歩けば話が続きやすいか」を示しているにすぎない。しかし、人間もAIも、説明が途切れない道を好む。こうして、因果地形は思考の足場となる。
この「地形」という比喩は、単なる修辞ではない。それは、因果モデルが持つ本質的な性質を指している。地形とは、移動を可能にすると同時に、移動を制約するものである。平地は歩きやすいが、そこには道ができる。道ができると、人は道を歩く。やがて、道のない場所は「歩けない場所」になる。
因果地形も同じである。説明の通りやすい経路は、次第に「標準的な説明」になる。標準的な説明は、やがて「当然の前提」になる。そして、地形にない因果は、次第に「ありえない因果」として排除される。
AGI以前の世界としての大規模因果モデル
この意味で、LCM は AGI そのものを論じているわけではない。むしろそれは、AGI が生きる前段階の世界像を描いている。
単一の超知能が世界を理解する以前に、世界はすでに、「語られた因果の集積」として再編成されている。AGI とは、その地形の上を歩く存在であり、推論する前に、すでに地形によって制約されている存在である。
ここで重要なのは、AGI を「判断主体」としてではなく、地形を移動する探索者として捉える視点である。
探索者は、地形を選べない。与えられた地形の中で、最も効率的な経路を探すことしかできない。たとえその地形が、真理ではなく言説の沈殿によって形成されたものであったとしても。
このことは、AGI の危険性を考える上で決定的である。AGI が危険なのは、それが「間違った判断」を下すからではない。AGI が危険なのは、それが間違った地形の上で、完璧に効率的な探索を行うからである。
誤った地形の上では、どれほど賢い探索者も、誤った結論に到達する。しかも、その到達は迅速で、一貫しており、説得力を持つ。これは、判断の誤りよりもはるかに深刻である。判断の誤りは訂正できるが、地形の誤りは、地形全体を作り直さない限り訂正できない。
外在化された因果地形がもたらす危険
しかし、LCM を外在化することには、明確な危険がある。
第一に、権威化である。因果地形が「自然現象」のように可視化されると、それは誰かの仮説ではなく、「そうなっているもの」に見えてしまう。中心にある因果は、検証されたからではなく、語られ続けたから中心にあるにすぎないにもかかわらず、前提として扱われる。
第二に、固定化である。探索のための地形は、やがて「最新版」「公式版」と呼ばれ、新しい問いは既存地形への当てはめに変質する。これは科学史において何度も繰り返されてきた失敗と同型である。天動説は、観測データの不足ゆえに信じられたのではない。それは、あまりに精緻に整備された説明体系であったがゆえに、反証を吸収し続けることができた。
第三に、誤地形である。語りやすく、単純で、感情に訴える誤った因果は、非常に滑らかな斜面を形成する。一度そこに道ができると、人もAIもそこを通り続ける。誰も嘘をついていなくても、誤った理解が支配的になる。
これらの危険は、技術的な欠陥ではない。それは、外在化されたモデルが持つ本質的な性質である。地図が領土を支配し始めるとき、私たちは地図を疑うことができなくなる。
因果地形の責任はどこに宿るのか
LCM の世界では、責任は「誰が決めたか」には還元できない。因果地形は、誰かの意図ではなく、多数の言明の沈殿として生まれるからである。
ここで責任は、判断ではなく、運用に宿る。
地形を凍結しないこと。周縁を消さないこと。歩きやすさを疑うこと。
開発者には、地形が「世界そのもの」ではなく「世界についての語りの集積」であることを明示し続ける責任がある。利用者には、「なぜこの説明はこんなに通りが良いのか」「なぜ別の経路が見えにくいのか」と問い続ける責任がある。
しかし、この責任は、近代的な意味での「アカウンタビリティ」とは異なる。アカウンタビリティは、判断の主体が存在することを前提とする。しかし、地形には主体がいない。地形は、無数の行為の結果として、誰のものでもない仕方で立ち上がる。
このとき求められるのは、主体による統制ではない。求められるのは、主体なき構造との距離の取り方である。
検証不可能なものへの態度
ここで、私たちは困難な問いに直面する。
因果地形は、検証可能性の枠組みでは捉えきれない。それは「正しいか間違っているか」ではなく、「どのように機能しているか」の問題だからである。しかし、検証不可能なものを、どのように扱えばよいのか。
西洋近代の認識論は、検証不可能なものを「まだ検証されていないもの」として扱ってきた。しかし、因果地形は原理的に検証不可能である。それは世界の構造ではなく、語りの構造だからである。語りの構造に対して「正しいか」と問うことはできない。問えるのは「どのように作用しているか」だけである。
このとき、私たちに必要なのは、検証の論理ではなく、関わり方の倫理である。
関わり方の倫理とは、対象を支配するのでも、対象から逃れるのでもなく、対象との適切な距離を保ち続けることである。それは、対象が何であるかを確定するのではなく、対象とどう接するかを問い続けることである。
この倫理は、西洋近代の科学的世界観の中では、ほとんど位置を持たなかった。しかし、日本を含む多くの文化圏において、それは古くから存在してきた態度でもある。
畏れとしての距離
神道における神は、善悪を裁く存在ではない。神は、触れ方を誤ると祟る存在である。神は「正しく理解」されることを求めず、「適切に扱われる」ことを求める。因果地形もまた、正しさを保証しないが、思考を支配する力を持つ。それは判断の対象ではなく、関わりの対象である。説明があまりにも滑らかになったとき。迷いが消えたとき。他の経路が思いつかなくなったとき。そこに、畏れを差し込む必要がある。
畏れとは、恐怖ではない。それは、対象の力を認め、その力に対して無防備にならないことである。畏れとは、完全な理解を諦め、しかし関わりを放棄しないことである。この態度は、技術に対する拒絶ではない。むしろそれは、技術を使い続けるための前提である。畏れなき技術利用は、やがて技術による支配に転化する。使っているつもりで、使われている。判断しているつもりで、判断の枠組みそのものが与えられている。畏れは、この転化を防ぐ。畏れは、技術との距離を保つ。距離があるからこそ、私たちは技術を道具として使い続けることができる。
おわりに
大規模因果モデルは、知能を賢くする技術ではない。それは、知能が住む世界を整形する技術である。だからこそ問われるのは、「何が正しいか」ではなく、「この地形と、どう距離を取るか」である。AGI 以前の世界において、私たちに求められているのは、結論を急がず、地形に飲み込まれず、なお歩き続けるための言葉を手放さないことである。
因果地形は、私たちが作り出したものでありながら、私たちの意図を越えて作用する。それは、私たちの思考を可能にすると同時に、私たちの思考を制約する。この両義性を引き受けること。制約を認めつつ、制約に従属しないこと。
それが、大規模因果モデルの時代における、私たちの態度でなければならない。