科学系AIと表現の収束

図：科学系AIと表現の収束のイメージ（Nano Banana Pro）

最近，ブログ記事を3週間ほどためながら進めているので，書きかけの途中で放置して，投稿時点でなんのことか分からなくなることがよくある。困ったものだ。この記事のオリジナルも9600字もあって意味不明だったので，ChatGPTに聞いてみた。

Ｑ（koshix）：

以前，ChatGPTだかGeminiだかとの対話ででてきた文章が，出典とか話の経緯がわからずに存在しています。何か御存知のことありますか？少し長すぎるのでもう少し整理したいです。

Ａ（ChatGPT）：

はい。かなり特定できます。

この文章は、たぶん単独の論文翻訳ではなく、あなたが以前に 「Universally Converging Representations of Matter Across Scientific Foundation Models」 という論文、またはその紹介記事を材料にして、ChatGPT/Geminiと対話しながら作った解説文です。文中に「あなたの疑問」「対話を通じて見えてきたこと」とあるので、元は一問一答または段階的説明の対話だった可能性が高いです。添付文書の中心は、科学系AIにおける「表現の収束」、PRH、物質科学AI、因果理解の違いを説明するものです。

（中略）

要約：AIは同じ物質を見ているのか

最近の科学系AI研究で興味深い結果が報告されている。SMILES、分子グラフ、3D原子配置、タンパク質配列、タンパク質構造など、入力形式もモデル設計も異なる多数のAIが、同じ物質を扱うとき、内部に似た潜在表現を作っているというのである。

これは、AI研究で「Platonic Representation Hypothesis」と呼ばれてきた問題の科学版である。異なるAIモデルが、世界をまったく別々に表現しているのではなく、ある共通の構造へ収束しているのではないか、という仮説だ。

物理学に慣れた人間から見ると、この話は一見自明に思える。同じ分子、同じ原子配置、同じ物理法則を相手にしているのだから、異なる観測方法でも最終的に同じ構造が見えるのは当然ではないか、と思うからである。

しかしAIにとって、これは自明ではない。AIは最初から「原子」「電子」「結合」「エネルギー保存則」を知っているわけではない。与えられるのは、入力データと出力値の統計的対応だけである。そこから、モデルは予測に役立つ内部座標を自力で作る。理論上は、異なるモデルがまったく違う潜在変数体系を作ってもよいはずだ。

にもかかわらず、十分に訓練されたモデル同士が似た表現へ近づく。ここにこの研究の面白さがある。物理世界の構造そのものが、AIの表現空間に制約をかけている可能性があるからである。

ただし、ここで注意しなければならない。表現が収束することは、AIが物理世界を「理解している」ことと同じではない。良い表現とは、世界をうまく座標化できている状態である。地図にたとえれば、かなり正確な地形図を持っている状態に近い。

しかし因果理解とは、その地図上で何かを変えたとき、何が起こるかを予測できることである。分子の構造が似ていることを知るだけでは、ある結合を切ったとき、エネルギー、安定性、反応経路がどう変わるかまではわからない。表現学習は観測された分布を整理するが、因果理解は介入と反事実を扱う。

したがって、この研究の意味は「AIが物理を理解した」ということではない。むしろ、AIが物理世界を理解するための第一段階、すなわち有効な座標系の獲得に近づいている、ということだろう。

表現の収束は、理解の終点ではない。しかし、理解への入口ではある。科学系AIが単なる予測器から、介入可能な世界モデルへ進むためには、表現の収束に加えて、因果構造、保存則、対称性、反事実推論を扱えるようになる必要がある。

この意味で、今回の研究は「AIは世界を理解した」という勝利宣言ではなく、「世界には、AIにも発見可能な構造がある」という慎重だが重要な証拠なのである。

このくらいにすると、元の論理はかなり残しつつ、長さはおそらく3分の1以下になります。

私なら、ブログ記事としてはタイトルを 「AIは同じ物質を見ているのか」 にします。より硬くするなら 「表現の収束と物理世界」、少し哲学寄りにするなら 「AIは世界の地図を描けるか」 がよいと思います。