進化ではなく発生と分化

プロテオームからの続き

図：ゲノムは設計図ではない（ChatGPTによる）

以下の記事は，染色体とDNAとプロテオームで議論した生物の機構をAIに応用するために，「このようなメカニズムを生成AIの進化のプロセスに組み込むことができないでしょうか？」とChatGPTに問いかけた一連の問答から導かれたアイディア（次のブログ記事で示す）のエッセンスを要約したものである。そもそもの自分の問いが甘かったのである。

Ａ（ChatGPT + Claude）：

ゲノムは設計図ではない——生成AIに発生と分化を組み込む

ヒトのゲノムは約30億塩基対，遺伝子は2万個ほどしかない。対して脳のシナプスは100兆のオーダーである。数字を並べただけで，ゲノムが脳の配線図を保存していないことは分かる。持っているのは完成品ではなく，完成品を作るための規則のほうだ。2万個の遺伝子から10万種を超えるタンパク質が生じるのも，選択的スプライシングという組み替えの規則があるからで，種類の数だけ設計図があるわけではない。

生成AIに生物の仕組みを持ち込むという話は，たいてい進化の比喩で語られる。だが取り込むべきものは進化ではない。同一の遺伝情報から，環境と目的に応じて異なる機能形態をその場で作る，発生と分化の機構のほうである。淘汰には世代がかかるが，分化は数時間で終わる。問いはこう書き換えられる。『有限の基幹情報から，課題ごとに異なる認知システムをその場で組み立てる機構を実装できるか』。

この構想でまず躓くのが，基盤モデルの巨大な固定パラメータを「ゲノム」と呼んでしまうことである。対応表としては分かりやすいが，誤りだ。数千億のパラメータを遺伝情報と見なした瞬間に，「小さな規則から大きな構造が生まれる」という中心が消える。基盤モデルはゲノムではなく，ハウスキーピング遺伝子の産物——どの細胞型にも常在する細胞骨格や基礎代謝系にあたる。ゲノムと呼ぶべきなのは，モジュールの生成規則，接続の文法，学習則，安全制約を圧縮した，はるかに小さな部分である。

そして正直に認めるべきことがある。小さな「ゲノム」から巨大な基盤モデルを発生させる技術は，現在存在しない。したがって現実的な順序は逆になる。まず通常どおり訓練し，そこからゲノムを抽出する。ゲノムは所与の出発点ではなく，蒸留の目標物である。この一点を認めた瞬間，構想は思弁から実験に変わる。ゲノムの記述長を横軸に取り，発生した課題固有システムの性能を縦軸に取る。広すぎれば劣化コピーになり，狭すぎれば発生規則として働かない。この曲線を描くことが最初の仕事になる。

設計そのものにも，生物から外れている点がある。現在のMoE（Mixture of Experts）は，各層のルーターがそれぞれ独立に「どの専門家へ送るか」を判断する。発生の比喩としては，これはかなり奇妙だ。細胞は層ごとに勝手に運命を決めたりしない。まず胚の全体にモルフォゲンの勾配——位置情報の場——が確立され，個々の細胞はその場を局所的に読んで自分の運命を決める。大域的に一度定まり，局所的に解釈される。この構造だからこそ，遠く離れた細胞の運命決定が整合する。同じことを設計に移すなら，課題の表現を各層が独立に推定するのをやめ，一度だけ大域に確立して各層はそれを読むだけにすればよい。層のあいだで構成が食い違う問題が構造的に減り，計算も軽くなり，そのうえ「なぜこの構成が選ばれたのか」という監査が一箇所に集約される。

もっとも，「モジュール化しました」という主張は誰でもできる。問題はそれをどう検証するかだ。ここで生物学は百年前から答えを持っている。遺伝子ノックアウトである。遺伝子の機能は，壊したときに何が失われるかで定義されてきた。同じ基準を課せばよい。あるモジュールを取り除いたとき，(1) 低下が特定の能力に限られ，(2) どの課題群が落ちるかを事前に指定でき，(3) 無関係な課題は落ちない。この三条件を満たさないなら，それはモジュールではない。引用確認モジュールを外して全課題が一様に少しずつ悪くなるなら，一枚岩に手続きを足しただけである。従来「どのモジュールが貢献したかの信用割当が難しい」と言われてきたのは，要するに測定法がなかったということだ。二重ノックアウトのエピスタシスを測れば，どの技能対を統合すべきで，どの対を分離したまま保つべきかも，機能的に決まる。

もうひとつ，現在の設計が生物から外れている点がある。分化の不可逆性だ。前駆細胞は段階的に運命を決め，可能性を失っていく。脱分化はふつう起こらず，起こるときはたいてい癌である。ところが現行のモジュラーAIは，トークンごとに自由に構成を変える。ここにコミットメントを課すと，安定性と監査可能性のほかに，予期しない利得がある。プロンプト・インジェクションの多くは，すでに分化した系に「あなたは本当は別のものである」と告げる操作，つまり脱分化の誘導にほかならない。分化を固めることは，この攻撃面を構造的に狭める。

そして最も見落とされているのが品質管理である。生物の品質管理は，そのほとんどが破壊機構だ。プロテアソーム，小胞体関連分解，ナンセンス変異依存分解，アポトーシス，胸腺での負の選択。免疫系が最初に学ぶのは，何を攻撃するかではなく，何を攻撃してはならないかである。検査して通すだけの仕組みは，品質管理とは呼ばない。不良な出力を破棄する権限と，不良を作り続けるモジュールをライブラリから除去する権限の両方が要る。モジュールが単調増加する設計は，長期的に必ず破綻する。消えない機能は，管理できない機能である。

破壊と対をなすのが隔離である。生物は体細胞に起きた変化を生殖系列に戻さない。獲得形質は遺伝しないという古い命題は，能力の限界としてではなく，防御機構として読むべきものだ。対話のなかで生じた適応を基盤モデルへ直接書き戻す設計は，学習装置ではなく永続的な自己汚染装置になる。セッション内の変化はセッションとともに消し，多数の検証を通過したものだけが，型式認証に相当する手続きを経て次世代に入る。誰がその書き込み権限を持つのかは，アーキテクチャの外側の問題ではなく，アーキテクチャの一部である。

この構想への最も強い反論は，性能でも実装難度でもない。モジュール性は人間が持ち込んだ構造的事前分布であり，畳み込みも文法規則も記号処理も探索も，例外なくスケールに洗い流されてきた，というものだ。「今度は違う」と答えるのは誠実ではない。答えるべきはこうである。この設計の利得は同一計算あたりの精度ではなく，統治可能性のほうにある。検証済み部品として能力を追加でき，寄与を帰属でき，機能単位で認証でき，故障を局在化でき，そして——現行の一枚岩モデルではまず不可能なことだが——獲得した能力を選択的に削除できる。したがって成功条件は「一枚岩より強い」ではない。「大きく劣らず，かつ検査・追加・削除・帰属ができる」である。この基準なら反証もできる。反証条件を持つことが，思弁と研究計画を分ける。

計算機もかつては一枚岩のプログラムだった。OSとライブラリとアプリケーションへの分化は，速度のために起きたのではない。数百万行を一人の頭に収めることを，どこかで諦めたから起きた。生成AIも，たぶん似た地点に近づいている。

生物が三十億年かけて手に入れたもののうち，模倣する価値が最も高いのは，多様なものを作る機構ではない。不良品を確実に壊す機構のほうである。