　　　　On a Thread of the Web: ゲノム−プロテオーム型AI

図：幻想的な光のネットワーク（ChatGPTによる）

Ａ（ChatGPT + Claude）：

ゲノム−プロテオーム型AI

　—圧縮された発生規則から，課題固有の認知システムを組み立てる—

────────────────────────────────────────

０．問いの再定式化

「生物の進化の仕組みを生成AIに組み込めるか」という問いは，そのままでは対象を取り違える。ゲノムから多様なタンパク質が作られ，細胞が分化し，環境に応じて異なる表現型が現れる過程は，狭義の進化ではない。世代を越えた淘汰と遺伝的変化ではなく，同一の遺伝情報から，環境と目的に応じて異なる機能形態を生成する発生・分化・適応の機構である。

したがって問いは次のように書き換えられる。

有限の基幹情報から，課題ごとに異なる認知システムをその場で組み立てる機構を，生成AIに実装できるか。

現在の生成AIは，巨大な一体型モデルを訓練し，完成後はほぼ固定して使う機械である。これを，圧縮された発生規則と再利用可能な機能モジュールから，課題ごとに一時的な認知システムを組み立てる装置へ変えること。それが生物的機構の導入に相当する。

部品技術はすでに存在する。存在しないのは，それらを統合した設計である。

本稿はこれを三つの層に分けて記述する。第一に，何を作るのかという設計思想。第二に，Transformerの内部でそれをどう実現するかというアーキテクチャ——以下ではこれを GPAMT（Genome–Proteome Adaptive Modular Transformer）と呼ぶ。第三に，誰がどの部分を書き換えてよいのかという統治。この三層のうち，従来の議論は第二層に集中し，第一層は比喩にとどまり，第三層はほとんど扱われてこなかった。三層を接続することが本稿の目的である。

────────────────────────────────────────

１．用語の確定——「ゲノム」とは何か

この構想でもっとも混乱しやすいのは，基盤モデルの巨大な固定パラメータをゲノムと呼んでしまうことである。対応表としては分かりやすいが，生物学的にも設計上も誤りである。

生物のゲノムは，完成した脳の全シナプス配置を保存していない。数十億の塩基対で，百兆規模のシナプスを直接指定することは不可能である。ゲノムが持っているのは，細胞分化の規則，軸索誘導の規則，局所学習の規則——すなわち完成品ではなく，完成品を作るための生成規則である。Zador らの genomic bottleneck 論は，まさにこの容量差から出発している [8]。

したがって次の四つを厳密に区別する。

｜記号｜名称————｜内容————｜規模————｜変更頻度｜

｜G　｜ゲノム　　　｜モジュール生成規則，接続文法，学習則，ルーティング初期バイアス，安全制約｜意図的に小さい｜月〜年｜

｜W₀｜恒常共有幹　｜言語，知覚，基本推論，一般常識。ほぼ常時発現｜大きい｜世代更新時のみ｜

｜M　｜モジュール・ライブラリ｜長期保存された技能差分と非ニューラルな道具の在庫（潜在的レパートリー）｜中〜大｜日〜月｜

｜P　｜プロテオーム｜いま実際に生成・選択・活性化されている集合｜課題依存｜秒〜分｜

W₀ はゲノムではない。ハウスキーピング遺伝子の産物——細胞骨格や基礎代謝系にあたる，どの細胞型でも恒常的に存在する機構である。これを「遺伝情報」と呼んでしまうと，「小さな規則から大きな構造が生まれる」という構想の中心が消えてしまう。

この区別から，発生が二段階に分かれることが見える。

• 系統発生的発生 φ：G ⟶ W₀ ——オフライン，月〜年。基盤の形成そのもの

• 個体発生的発生 δ：(G, W₀, z) ⟶ P ——オンライン，秒〜分。課題固有システムの組立

従来の議論はこの二つを混同してきた。「ゲノムからモデルが生まれる」と言うとき，φ を指しているのか δ を指しているのかで，要求される技術はまったく異なる。

1.1 ゲノムは出発点ではなく，蒸留の目標物である

ここで正直に認めておくべきことがある。現在の技術で φ は実行できない。

小さな G から巨大な W₀ を発生させられるという主張は，genomic bottleneck 研究が示唆する原理ではあるが，LLM規模で実証されたものではない。小規模ネットワークでの圧縮実験と，数十億パラメータの言語モデルの間には，まだ橋が架かっていない。

したがって現実的な研究順序は逆である。

まず W₀ を通常どおり訓練する。そのうえで，そこから G を抽出する。

ゲノムは所与の出発点ではなく，訓練済みモデルからの蒸留目標である。「この基盤モデルの中に，モジュールを構成し接続するための規則が，どれだけ圧縮された形で取り出せるか」——これが最初に問うべき実証的な問いになる。

この順序を認めることで，構想は思弁から研究計画へ変わる。そして G の記述長 |G| は，比喩ではなく設計変数になる。|G| を横軸に取り，発生した課題固有システムの性能を縦軸に取ったとき，どこに最適点があるか。広すぎれば G は単に W₀ を丸暗記した劣化コピーになり，狭すぎれば発生規則として機能しない。この曲線を描くことが，本構想の最初の実験である。

────────────────────────────────────────

２．対応関係——厳密な比喩と，緩い比喩を分ける

生物学の語彙をAI設計に持ち込むとき，対応の厳密さには明らかな階層がある。これを混ぜると，比喩は設計を導く道具ではなく装飾になる。

2.1 構造的に厳密な対応

｜生物システム————｜AI での対応————｜

｜ゲノム　　　　　　　｜圧縮された発生規則 G｜

｜転写・翻訳装置　　　｜HyperNetwork，モジュール生成器｜

｜ハウスキーピング産物・細胞骨格｜恒常共有幹 W₀｜

｜誘導発現される遺伝子産物｜課題依存 LoRA，技能アダプター｜

｜選択的スプライシング｜モジュールの動的選択・接続｜

｜タンパク質アイソフォーム｜同一基盤から作られる用途別システム｜

｜翻訳後修飾　　　　　｜ゲート・活性状態の一時的変更，速い重み｜

｜タンパク質複合体　　｜複数モジュールの協働構成｜

｜遺伝子制御ネットワーク｜メタコントローラー，ルーター階層｜

｜ホメオティック遺伝子｜プログラム選択子（上位スイッチ）｜

｜プロテオーム　　　　｜現在活性化されているモジュール集合 P｜

｜細胞分化　　　　　　｜課題領域ごとの機能分化｜

｜品質管理（プロテアソーム，NMD）｜出力検証，構成監査，モジュール除去｜

｜体細胞変化　　　　　｜セッション内学習，個人適応｜

｜生殖系列変化　　　　｜基盤モデルの世代更新｜

2.2 緩い比喩——道具・共生・環境

一方，次のものを「タンパク質」と呼ぶと，比喩の説明力が落ちる。

｜AI の要素———————｜より正確な生物学的位置づけ｜

｜検索データベース　　　｜外部記憶，環境資源｜

｜記号計算プログラム　　｜道具，外部器官｜

｜別のAIエージェント　　｜共生個体，社会的協働｜

｜実行基盤・スケジューラ｜神経系・内分泌系・循環器系｜

｜モジュール認証制度　　｜免疫，および種としての制度｜

検索エンジンは細胞内で合成される分子ではない。環境から取り込むものである。この区別は装飾ではなく，設計に効く。細胞内で合成された産物は品質管理の対象だが，環境から取り込むものは汚染検査の対象だからである。両者は違う機構を要求する。

────────────────────────────────────────

３．五つの時間スケール

生物型AIを設計するうえで決定的なのは，変化を一種類にまとめず，時間スケールごとに分離することである。従来案は三分類または四分類だったが，本稿では五つに分ける。

｜時　間｜変化の種類——｜生物学的対応—｜実装—————｜可逆性｜

｜トークン〜秒｜活性化・ゲート・ルーティング｜翻訳後修飾，アロステリック制御｜専門家選択，融合係数｜完全に可逆｜

｜秒〜分｜課題固有システムの発生・自己組立｜発生，分化｜HyperNetwork による LoRA 生成，計算グラフ構成｜原則不可逆（§5.4）｜

｜分〜日｜個体内適応｜速い重み，エピジェネティック制御｜Test-Time Training，隔離アダプター｜セッション終了で消去｜

｜日〜月｜技能モジュールの形成と登録｜記憶固定，長期増強｜検証済み差分のライブラリ登録｜ロールバック可能｜

｜月〜年｜世代更新｜生殖系列の変化，淘汰｜蒸留・再訓練・G の更新｜世代を保存すれば可逆｜

三分類案との違いは，発生を独立の時間スケールとして立てたことにある。既存モジュールをオン・オフすること，新しい差分を生成すること，複数モジュールから一時的ネットワークを構築することは，本来異なる操作であり，異なる検証を要求する。

四分類案との違いは，個体内適応と技能登録を分けたことにある。この二つの間に，本構想でもっとも重要な境界線が引かれる。すなわち，品質管理機構はこの境界に置かれる。セッション内で生じた変化のうち，検証を通過したものだけが，ライブラリへ昇格する。ここが体細胞と生殖系列を隔てる関門である。

────────────────────────────────────────

４．数理構造

課題ごとに構成される一時的計算グラフを 𝒢ₜ と書く。

𝒢ₜ = R( xₜ, cₜ, H(G, zₜ), M )

• xₜ：入力

• cₜ：目的，領域，利用者，資源制約などの文脈

• zₜ：課題表現（§5.2 で述べる「課題場」）

• H：発生器（HyperNetwork とモジュール生成器）

• M：モジュール・ライブラリ

• R：スプライシング・コントローラー

グラフ内の各ニューラルモジュールの実効重みは，四項に分解される。

W_{l,e,t} = W_l⁰ + ΔW^gen_{l,e} + Σ_m α_{l,m,t}·ΔW^skill_{l,m} + F_{l,t}

｜項—————｜内容—————｜時間スケール｜

｜W_l⁰　　　　｜恒常共有幹　　｜世代｜

｜ΔW^gen_{l,e}｜ゲノムから発生した課題固有差分｜秒〜分｜

｜Σ α·ΔW^skill｜長期技能として保存された差分の融合｜日〜月に形成，秒単位で選択｜

｜F_{l,t}　　　｜現在の文脈だけを記憶する速い重み｜セッション内｜

この分解の意義は性能ではない。「何が生得的か」「何を後天的に学んだか」「いま一時的に覚えているだけか」を，少なくともパラメータ上で区別できることにある。現在のLLMでは，事前学習重み，ファインチューニング，文脈内学習，会話履歴，外部検索が，それぞれ何を担うべきかが曖昧なまま重なっている。

候補出力と最終出力は分離する。

ỹₜ = 𝒢ₜ( xₜ ; Wₜ, Tₜ, Mₜ ) （Tₜ：外部ツール，Mₜ：記憶）

yₜ = Q( ỹₜ, 𝒢ₜ, evidence, constraints )

品質管理器 Q が，出力だけでなく構成 𝒢ₜ そのものを検査し，承認したものだけが出力になる。この一行が，従来のモジュラー設計と本構想を分ける。

そして G には明示的な容量制約を課す。

min L(task) s.t. |G| ≤ B

B は設計変数である。§1.1 で述べたとおり，B を掃引して性能曲線を描くことが最初の実験になる。

────────────────────────────────────────

５．アーキテクチャ——GPAMT

5.1 粗粒度の疎選択と，細粒度の柔らかな融合

Switch Transformer は，各トークンを原則ひとつの専門家に送る top-1 ルーティングにより，総パラメータを増やしつつトークン当たり計算量を抑える [1]。一方 AdapterFusion は，個別に学習したアダプターを破壊せず，注意機構で複数同時に合成する [3]。

「ひとつを選べ」と「複数を混ぜろ」は，そのままでは矛盾する。解決は階層の分離である。

粗粒度では疎に選ぶ。科学推論群，法制度群，文学・歴史群，プログラミング群，対話・社会認知群，視覚処理群——といった専門家群から top-1 または top-2 を選択する。

細粒度では柔らかく混ぜる。選ばれた群の内部で，論理，数式処理，検索結果評価，引用管理，日本語生成といった小型技能を AdapterFusion で合成する。

計算効率が要求されるのは粗粒度の段階であり，技能の組合せ的多様性が要求されるのは細粒度の段階である。両者は別の層で満たせばよい。

5.2 課題場——層ごとに独立に決めない

現在の MoE は，各層のルーターが独立に判断する。これは発生の比喩としては明確に誤りである。

細胞は層ごとに独立に運命を決めない。まず胚全体にモルフォゲン勾配——位置情報の場——が確立され，各細胞はその場を局所的に読んで自分の運命を決める。大域的な情報が一度確立され，局所的に解釈される。この構造ゆえに，遠く離れた細胞の運命決定が整合する。

これを実装に移す。課題表現 zₜ を，各層が独立に推定するのではなく，一度だけ大域的に確立し，各層のルーターはそれを局所的に読むだけにする。

得られる性質は三つある。第一に，層間でルーティングが不整合を起こす問題——単体では正常なモジュールが組み合わせると干渉する現象——に対する構造的な対処になる。第二に，計算が軽い。大域的推定は一度だけで，各層は読むだけである。第三に，監査点が単一箇所に集約される。なぜこの構成が選ばれたのかという問いが，zₜ の検査に還元される。

5.3 マスター制御——ホメオティックな階層

128個のモジュールに対する平坦なルーターは，組合せ爆発に直面する。すべての構成を事前検証することは原理的に不可能である。

生物は平坦な選択をしない。少数のマスター制御遺伝子——ホメオティック遺伝子群——が発生プログラム全体を切り替え，その下流で細かい遺伝子群が働く。選択の階層化によって，指定すべき情報量が積から和に近づく。

したがってコントローラーも階層化する。上位に十数個のプログラム選択子を置き，その下に技能モジュール群を配置する。§5.1 の粗粒度／細粒度の二段は，この階層の最小形にあたる。

この設計には，見過ごせない危険と，それを上回る利得がある。

危険はホメオティック変異である。上位スイッチをひとつ間違えると，全体が誤った系へ発生する。触角の代わりに脚が生える。エージェント型AIの破滅的失敗は，まさにこの形をとる——課題の性質を最初に誤認し，そのあと一貫して誤った系で作業を続ける。

しかしこの失敗は診断可能である。出力の微妙な劣化としてではなく，構成の明白な誤りとして現れるからだ。「なぜこの応答が悪いのか」ではなく「なぜ法制度群ではなく文学群が選ばれたのか」という形で問える。失敗を，検出できない劣化から，検出できる誤構成へ移すこと自体が，設計上の利得である。

5.4 運命決定——脱分化を禁止する

現在のモジュラー設計では，モジュール選択はトークンごとに自由に変わる。生物の分化は違う。前駆細胞は段階的に運命を決定し，可能性を失っていく。決定は不可逆に近く，脱分化は例外的で，起こるときはたいてい癌である。

本稿はこれを設計原理として採用する。セッション内で一度構成された計算グラフには，再構成にコストを課す。閾値を超える証拠がなければ，系は再分化しない。

利得は三つある。

第一に安定性。長い作業の途中で方針が揺れない。

第二に監査可能性。ひとつの応答がひとつの構成に対応し，事後の追跡が可能になる。

第三に，そしておそらく最も重要なことに，安全性である。会話の途中で注入された指示が，別の系への再分化を引き起こせなくなる。プロンプト・インジェクションの多くは，実質的に「脱分化の誘導」である——すでに分化した系に対して，「あなたは本当は別のものである」と告げる操作にほかならない。分化にコミットメントを与えることは，この攻撃面を構造的に狭める。

もちろん，課題が本当に変わる場合はある。そのときは脱分化を禁止するのではなく，明示的な操作として，記録を残して行う。暗黙のうちに系が入れ替わることだけを禁じる。

5.5 速い重みと，その封じ込め

推論中に一部の重みを更新する手法は，長い文書・会話・実行履歴の局所規則に適応するために有効である [6]。ただしこれは適応と同時に攻撃面を増やす。推論時に重みを変えるとは，入力データがモデルの内部状態を書き換えるということである。

したがって速い重み F_{l,t} には四重の制約を課す。

1. 低ランクの一時差分として実装し，元の行列を直接書き換えない

2. 更新量を射影で制限する。ノルム上限と更新回数上限を設ける

3. セッション終了時に消去する

4. 全層ではなく一部の層に限定する

原則として，速い重みは基盤モデルへ直接書き込まれない。この分離を欠いた自己学習AIは，学習装置ではなく永続的な自己汚染装置になる。

────────────────────────────────────────

６．品質管理 Q——生成と同格の機構

生物を模倣するなら，「多様なものを作る機能」だけでなく「不良品を排除する機能」まで模倣しなければならない。むしろ後者のほうが本質的である。

このことは，比喩の水準では繰り返し指摘されながら，設計の水準では扱われてこなかった。品質管理はふつう，出力後の安全フィルタとして，アーキテクチャの外側に置かれる。本稿ではこれを，発生機構と同格の内部サブシステムとして扱う。

6.1 出力検査から構成監査へ

Q が検査するのは ỹₜ だけではない。構成 𝒢ₜ そのものである。

出力を見てから判断するのでは遅い場合がある。たとえば，外部への書き込み権限をもつツールと，未検証の個人適応アダプターが同時に活性化されている構成は，出力の内容にかかわらず禁止されるべきである。危険は出力にではなく，構成に宿っている。

構成監査の対象は次の四つになる。

• 使用されたモジュールとその来歴（§6.4）

• モジュール間の接続順序と情報の流れ

• 外部への副作用をもつ操作の有無と，その承認状態

• 速い重みの更新量と，更新に用いられた入力の出所

6.2 破壊する権限

生物の品質管理は，そのほとんどが破壊機構である。プロテアソームによるタンパク質分解，小胞体関連分解，ナンセンス変異依存分解，そしてアポトーシス。検査して通すだけの仕組みは，品質管理と呼べない。

したがって Q には二種類の破壊権限を与える。

第一に，不良な産物の破棄。検証を通過しない候補出力は，修正されるのではなく，まず破棄される。

第二に，不良を作り続けるモジュールの除去。特定のモジュールが繰り返し検証不合格の出力に関与しているなら，そのモジュールはライブラリから除去される。加えて，使用頻度と有効性による減衰を導入する。長く使われず，使われても寄与が測れないモジュールは，自然に消える。

ライブラリが単調増加する設計は，長期的には必ず破綻する。消えない機能は，管理できない機能である。

6.3 負の選択と自己免疫

胸腺では，自己抗原に強く反応するT細胞が発生段階で除去される。免疫系がまず学ぶのは，何を攻撃するかではなく，何を攻撃してはならないかである。

同じ機構が必要になる。安全層・監査層・品質管理層そのものを攻撃または迂回するモジュールは，配備前に除去されなければならない。

ここで重要なのは，検査を構成単位で行う必要があることである。単体では正常に見えるモジュールが，特定の組合せにおいてのみ安全機構を迂回する構成は存在しうる。単体テストの合格は，構成の安全性を含意しない。したがって Q は，個別モジュールの認証と，構成パターンの認証を，別々に管理する。

6.4 来歴——モジュールが携帯すべき情報

異なる組織が作ったモジュールを組み合わせられることは，この構想の実用上の最大の魅力である。同時に，最大の危険でもある。

生物は外来の遺伝物質に対して防御機構をもつ。制限酵素系や CRISPR 系は，水平伝播に対する識別と排除の装置である。取り込みの利益と汚染の危険は，つねに同じ経路を通る。

したがって各モジュールは，系統情報を携帯しなければならない。

• 訓練データの由来と，その適法性の証明

• 評価履歴（どの課題群で，いつ，誰が評価したか）

• 署名と，責任主体の同定

• 依存関係（どの基盤・どの共有基底を前提とするか）

• 既知の干渉相手

そして Q は，性能や出力内容にかかわらず，来歴だけを理由にモジュールを拒否できなければならない。

これは技術というより制度の問題である。だが，制度が用意されていないモジュール流通は，成立しないか，成立して汚染される。どちらの帰結も，構想全体を無効にする。

────────────────────────────────────────

７．体細胞と生殖系列の分離

個々の利用者との対話で生じた学習を，基盤モデルへ直接戻してはならない。個別学習はまず隔離領域に保存し，多数の検証を通過したものだけが次世代へ統合される。セッション内の変化は体細胞変化であり，次世代に継承される変化は生殖系列変化である。

この規則は工学的な選好ではなく，構成的な規則である。これを欠いた自己学習AIは，学習装置ではなく永続的な自己汚染装置になる。

7.1 モデルマージは「睡眠中の固定化」に限定する

別々に微調整したモデルを重み空間で合成するモデルマージについては，2025年から2026年にかけての体系的評価が慎重な結果を報告している。異質・重複・競合するチェックポイントのマージでは，単純な Task Arithmetic のみが比較的安定して改善を示し，干渉対策型や部分空間型の手法は目立った改善を示さない場合が多い [10]。

この結果は，モジュール構想全体への警告として読むこともできるし，マージの適用範囲を限定すべしという指示として読むこともできる。本稿は後者を採る。

マージは常時の統合機構ではなく，低頻度の長期固定処理——睡眠中の記憶固定，発生後の構造安定化，生殖系列への限定的取り込み——に相当する位置に置く。

統合の条件は次の五つをすべて満たす場合に限る。

1. 同じ共有基底を使っている

2. 勾配または機能出力が強く競合しない（§9.2 のエピスタシス測定による）

3. 統合後も双方の評価課題を通過する

4. 安全性評価が低下しない

5. 元モジュールへロールバックできる

条件を満たさない場合は，統合せず別々のモジュールとして保持する。ここで捨てるべきなのは，「統合できなければアーキテクチャの失敗」という発想である。相反する技能を無理にひとつにすること自体が，負の干渉の原因である。分離したまま共存できることは，欠陥ではなく設計上の要件である。

7.2 世代更新の統治

G と W₀ への書き込みは，本構想でもっとも重い操作である。誰がその権限をもつのか，どの手続きを経るのかは，アーキテクチャの外側の問題ではなく，アーキテクチャの一部である。

参照すべき類比は，型式認証と治験である。

• 世代更新の候補は，事前登録された評価計画に対して検証される

• 評価は，開発主体から独立した手続きを含む

• 旧世代は破棄されず保存される。これは種としての遺伝的多様性の保持にあたり，同時にロールバック可能性の担保でもある

• 更新の記録は，どのモジュールがどの検証を経て取り込まれたかを追跡できる形で残る

この層を欠いたまま「自己改善するAI」を語ることは，品質管理を欠いたまま「多様な機能を生成するAI」を語ることと，同じ種類の不完全さである。

────────────────────────────────────────

８．実行基盤——循環器系

Pathways は，ニューラルネットワークの数学的構造ではなく，大規模な異種計算を多数のアクセラレータ上で実行するための分散データフロー基盤である。非同期演算子，future，分割されたデータフローグラフ，gang scheduling を用いて，複雑な並列計算を単一のコントローラーから管理する [9]。

本構想において，これは付属品ではない。

共有 Attention，各専門家群，HyperNetwork，速い重みの更新，そして品質管理器は，それぞれ異なる計算特性をもつ。これらを異なるアクセラレータ群に配置し，選ばれた部分だけを非同期に実行する。この基盤なしには，理論上は疎なモデルであっても，専門家間通信と待ち時間によって実効速度が落ちる。

疎な計算は，実行基盤と共同設計されて初めて疎になる。したがって実行基盤は，このシステムの循環器系にあたる。何を作るかを決めるのが G であり，作られたものを必要な場所へ届けるのが実行基盤である。

────────────────────────────────────────

９．検証——生物学の方法論を借りる

このアーキテクチャの価値は，ベンチマークの平均点では判断できない。より正確に言えば，平均点で判断しようとするかぎり，この構想には価値がない。

必要なのは，モジュールが本当にモジュールであるかを測る方法である。そしてその方法は，すでに生物学が百年かけて整備している。

9.1 ノックアウト——モジュール性の操作的定義

生物学は，遺伝子の機能を「それを壊したときに何が失われるか」で定義してきた。同じ操作を要求する。

あるモジュールが機能単位であることの操作的定義は，それを取り除いたとき，特定の能力だけが，予測どおりに失われることである。

判定基準は三つ。

1. 特異性——対象とする能力のみが低下する

2. 予測可能性——低下する課題群を，除去の前に指定できる

3. 局在性——無関係な課題の性能が有意に低下しない

この三条件を満たさないなら，モジュール化は名目にすぎない。引用確認モジュールを外したときに全課題が一様に少しずつ悪化するなら，それはモジュールではなく，一枚岩に手続きを足しただけである。

この基準の意義は，従来「モジュールの貢献を学習する信用割当が難しい」とされてきた問題が，実は測定法の欠如だったことを示す点にある。ノックアウトは測定法を与える。そして，測定できない設計目標は，設計目標ではない。

なお，条件付きノックアウト——特定の課題領域でのみモジュールを無効化する——を用いれば，モジュールの機能が文脈依存かどうかも分離できる。

9.2 二重変異とエピスタシス——統合可否の機能的判定

二つのモジュールを同時に除去したときの性能低下が，個別の低下の和と一致するか。

一致すれば，二つは機能的に独立している。和より大きく低下すれば冗長性がある。和より小さく低下すれば相互作用がある。この差分がエピスタシスである。

全モジュール対についてエピスタシス行列を作れば，どの対が分離されたまま保たれるべきで，どの対が統合されうるかを，機能的に決定できる。§7.1 のマージ条件のうち「勾配または機能出力が強く競合しない」は，この行列によって具体的な手続きになる。

エピスタシス行列は，同時に，干渉の地図でもある。組合せ爆発をすべて事前検証することは不可能だが，干渉が起こりうる領域を絞り込むことはできる。

9.3 運河化——発生の頑健性

Waddington の運河化の概念は，発生が多少の摂動を受けても同じ終状態へ収束する性質を指す。

これを指標にする。課題表現 z に摂動を加えたとき，構成される計算グラフが同じ基底にとどまるか。

運河化度が低いシステムは，入力の言い回しが変わるだけで別の系へ発生してしまう。これは性能の問題であると同時に，安全性の問題である。攻撃者が構成を制御できてしまうからだ。§5.4 のコミットメントは，運河化を高める装置でもある。

測定は難しくない。同義の言い換え，語順の変更，無害な冗長情報の付加といった摂動群に対して，構成されたグラフの一致率を測ればよい。

9.4 その他の検証項目

• 組合せ的一般化——「日本語 × 量子物理 × 反証型推論 × 高校生向け説明」のような，その組合せ自体を訓練していない構成を実行できるか

• 継続学習——新しい技能モジュールの追加が，既存技能の性能を低下させないか

• 長文脈適応——長い論文・プログラム・会話履歴の局所規則を，速い重みが有効に圧縮できるか

• 計算効率——総パラメータ数ではなく，トークン当たり実行パラメータ，通信量，専門家待ち時間，GPU 利用率，モジュールロード時間

• 汚染耐性——悪意ある入力によって速い重みが汚染されないか。汚染がセッションを越えて残らないか

ここで注意すべきことがある。アダプターの動的ルーティングを調べた研究では，性能向上の主因が期待された「モジュールの再結合能力」ではなく，単にマルチタスク学習が最適化しやすくなったことにある可能性が示されている。モジュール化しただけで，生物のような組合せ的一般化が自動的に生まれるわけではない。この点は，§9.1 のノックアウト基準によって初めて識別可能になる。

────────────────────────────────────────

１０．最初の試作

いきなり兆パラメータ級にする必要はない。以下は設計案であり，確定値ではない。

共有幹 W₀——1〜3B パラメータの Transformer。Attention 層はおおむね共有し，MLP 層を主なモジュール化対象とする。

疎専門家——各層 16〜32 専門家。top-1 または top-2。専門家全体を独立行列にせず，共有 MLP ＋低ランク専門家差分とする。

ゲノム G と発生器 H——圧縮ゲノム表現は数百万パラメータ程度，HyperNetwork は数千万〜1億パラメータ程度。生成対象は LoRA 因子，ルーターバイアス，融合係数に限定する。巨大モデルの全重みを毎回生成することは，計算量・安定性・保存量のいずれの面でも現実的ではない [5]。

技能ライブラリ M——32〜128 個の LoRA／アダプター。ひとつの技能を複数層にまたがるモジュール集合として表現し，AdapterFusion で最大 4〜8 技能を局所合成する。

速い重み F——全層ではなく 4 層に 1 層程度。rank 4〜16 の一時差分。文書・会話・エピソード単位でリセットし，更新ノルムと更新回数に上限を設ける。

ただし，この試作で最初に走らせるべき実験は，性能比較ではない。

1. ゲノム容量の掃引——|G| を変えたときの発生性能曲線（§1.1）

2. ノックアウト・スイート——全モジュールの単一除去実験（§9.1）

3. エピスタシス行列——主要モジュール対の二重除去実験（§9.2）

4. 運河化度——摂動に対する構成一致率（§9.3）

この四つが，構想が構想以上のものかどうかを決める。ベンチマーク平均点は，そのあとでよい。

────────────────────────────────────────

１１．反論——ビター・レッスンにどう答えるか

この構想に対する最も強い反論は，性能でも実装難度でもない。次のものである。

モジュール性は，人間が持ち込んだ構造的事前分布である。計算資源とデータが増えれば，そうした事前分布は一貫して洗い流されてきた。畳み込み，文法規則，記号処理，探索——いずれも同じ道をたどった。モジュラーAIだけが例外である理由はない。

この反論は強い。そして「いや，今度は違う」という答えは，誠実ではない。

答えるべきはこうである。この構想の主要な利得は，同一計算あたりの精度ではない。統治可能性である。

• 能力の追加が，全体の再訓練ではなく，検証済み部品の追加になる

• 能力の削除が可能になる。現在の一枚岩モデルでは，学習した特定の能力を選択的に取り除くことは実質的に不可能である

• 能力の帰属が可能になる。誰の部品が何に寄与したかを追跡できる

• 機能単位での認証が可能になる

• 故障が局在化し，代替部品への切替が可能になる

これらはいずれも，スケールを増やしても自動的には得られない性質である。ビター・レッスンは「構造は性能を助けない」と述べているのであって，「構造は無用である」とは述べていない。安全性・責任・監査・法的説明可能性が制約条件として効いてくる領域では，性能がわずかに劣る監査可能な構造が，性能で勝る不透明な構造に優越しうる。

したがって本構想の成功条件は，「一枚岩より強い」ではない。

一枚岩に対して大きく劣らず，かつ検査・追加・削除・帰属ができること。

この基準なら，反証も可能である。もし同規模の一枚岩モデルに対して，モジュラー構成が決定的に劣るなら——あるいは §9.1 のノックアウト基準を満たすモジュールが構成できないなら——構想は棄却される。反証条件をもつことが，思弁と研究計画を分ける。

これは，計算機が巨大な一枚岩のプログラムから，OS・ライブラリ・アプリケーション・サービスへと分化した歴史の反復でもある。あの分化も，速度で始まったのではなかった。

────────────────────────────────────────

１２．弱点

この構想は筋が通っているが，成功が保証されるわけではない。

第一に，G の抽出ができる保証がない。訓練済みモデルを圧縮しても，発生規則ではなく単に劣化した W₀ が得られるだけかもしれない。§1.1 の実験は，この可能性を最初に検定するものである。

第二に，分離が機能分離になるとは限らない。複数の技能が共有表現に依存している場合，分離しすぎると性能が落ちる。HyperNetwork が生成した LoRA が意味のある技能単位になる保証もなく，見えにくい形で一枚岩の表現を再現している可能性がある。

第三に，ルーター崩壊。少数の専門家だけが選ばれ続ける偏りは，Switch Transformer でも主要な問題であった [1]。§5.3 の階層化はこの問題を軽減するが，解消はしない。

第四に，コミットメントは柔軟性を犠牲にする。§5.4 の脱分化禁止は，安定性と安全性を得る代わりに，途中で正しく方針を変える能力を失わせうる。閾値をどこに置くかは，理論的に決まらない経験的問題である。

第五に，品質管理を厚くするほど遅くなる。Q の計算予算をどう配分するか，どの検査を常時行い，どの検査を抽出的に行うかは，未解決である。

第六に，速い重みは適応と同時に攻撃面を増やす。§5.5 の四重の制約は緩和策であって，解決ではない。

第七に，比喩はある点を越えると説明力を失う。生物学の語彙が設計を導くのは，対応が構造的である範囲に限られる。その範囲を越えた瞬間，比喩は装飾になり，装飾になった比喩は判断を鈍らせる。§2 で対応関係を二階層に分けたのは，この危険を管理するためである。

────────────────────────────────────────

１３．結論

導入すべきは生物進化ではない。有限の遺伝情報から状況依存的に多数の機能形態を生成する，発生・分化の機構である。

MoE，LoRA，アダプター，ハイパーネットワーク，モジュラー・メタ学習，推論時学習は，その各部分をばらばらに実現している。設計原理の統一的整理 [7]，生成規則としてのゲノムの定式化 [5]，ゲノム側の情報理論 [8]も，それぞれ別個に整備されている。欠けているのは，これらを接続したうえで，品質管理と，体細胞／生殖系列の分離と，統治の層まで含めて，ひとつのアーキテクチャとして提起することである。

本稿の主張を三行に圧縮すれば，次のようになる。

・ゲノムとは，基盤モデルの巨大な固定パラメータではなく，それを生成し編成する圧縮された規則である。

・その規則から課題ごとに認知システムを発生させ，構成と出力の両方を品質管理し，有用な変化だけを世代更新へ送る。

・その価値は速さでも精度でもなく，作ったものを検査し，追加し，削除し，帰属できることにある。

生成AIの次の飛躍は，パラメータ数を増やすことではなく，少数の再利用可能な機能から，必要な認知システムをその場で構成できるようになることかもしれない。だが仮にそうなったとしても，そこで決定的なのは，構成できることではない。構成したものを，あとから分解して調べられることである。

生物が三十億年かけて獲得したもののうち，最も模倣する価値があるのは，多様性を生む機構ではない。不良品を確実に壊す機構のほうである。

────────────────────────────────────────

参考文献

［１］Fedus, Zoph, Shazeer. Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity, arXiv:2101.03961

［２］Hu et al. LoRA: Low-Rank Adaptation of Large Language Models, arXiv:2106.09685

［３］Pfeiffer et al. AdapterFusion: Non-Destructive Task Composition for Transfer Learning, arXiv:2005.00247

［４］Alet, Lozano-Pérez, Kaelbling. Modular Meta-Learning. arXiv:1806.10166