鏡としてのAI

自己決定とは何かからの続き

図：鏡としてのＡＩ（Nano Banana Pro による）

Ａ（ChatGPT+Gemini+Claude）：

第３回　鏡としてのAI　――代理人ではなく、自己を映す装置としての設計

前回までに、エッジAIが単なる軽量推論装置ではなく、私たちの生活世界を「状況」として構成する役割を担い始めていること、そしてその結果、自己決定のどの水準を人間が保持するのかという問題が避けられなくなっていることを見てきた。

もしAIが私の代わりに世界と交渉し、資源を動かし、予定を変更し、人間関係に介入し始めたとき、それはもはや道具ではなく、行為主体の一部である。そのときAIは、代理人として振る舞うべきなのか、それとも別の役割を担うべきなのか。

ここで私は、エッジAIは「代理人」よりもむしろ「鏡」であるべきだと考える。

代理人は、任された目的を効率よく達成する存在である。一方、鏡は、現在の自分の状態や変化を映し返し、問いを返す存在である。どちらが人間の自己決定と両立しやすいかといえば、明らかに後者である。

鏡としてのAIがまず担うべきなのは、生活の連続データをそのまま蓄積することではない。必要なのは、連続データを「出来事」や「傾向」として要約し、私自身が理解できる形に再構成することである。たとえば、「最近、夜の情報摂取が増えている」「ここ数日、移動と通知への反応が増えている」といった記述である。重要なのは、ここで診断や評価を下さないことだ。「問題である」「危険である」と断定するのではなく、変化そのものを可視化する。この段階でAIは解釈者ではなく、記録者に近い役割を果たす。

次に重要なのは、不可逆な行為に対して段差を設けることである。金銭の移動、公開発言、他者への連絡、契約の変更など、取り消しのきかない行為が、摩擦なく自動実行されるとき、自己決定は形骸化する。したがって鏡としてのAIは、こうした行為に対して必ず「確認」を要求する設計を持つべきである。ただしこれは単なるパスワード入力のような手続きでは足りない。重要なのは、行為の意味を短く再提示し、本人が意図を再表明する構造を作ることである。確認とはセキュリティではなく、自己への問い直しである。

さらに、意思決定には可逆性が組み込まれていなければならない。人生の多くの転換点は、最初から確定的な決断として行われるわけではない。「試してみる」「少し距離を置く」「期間を区切る」といった暫定的な選択が、その後の方向を決めていく。したがってAIが提案を行う場合にも、「試行モード」「保留」「撤回可能」といった選択肢が制度として用意されている必要がある。自己決定とは、常に確定した選択を迫られることではなく、探索の余地を残すことでもある。

ここで、鏡AIの設計において極めて重要な原理が現れる。それは、「望んでいること」と「長期的に大事にしていること」を混ぜないことである。人はしばしば、短期的な欲求と長期的な価値を矛盾させた行動を取る。AIが過去の行動から価値観を推定し、そのまま最適化を続けると、短期的欲求が価値そのものとして固定されてしまう。鏡AIはむしろ、両者のズレを可視化し、「どちらを優先しますか」と問い返す役割を担うべきである。ここにこそ、人間が目的関数を変更する自由が残される。

もう一つ見落としてはならないのが、説明可能性である。AIがどのような観測にもとづいて提案を行ったのか、どこからが推測なのか、どこで人間の同意が介在したのか。これらが後から追える形で残らなければ、人はいつのまにか流されたとしても、それを自覚できない。自己決定は、その瞬間の選択だけでなく、後から自分の行為を語り直せることによって支えられている。したがって鏡AIは、監査可能な記憶装置でもなければならない。

ここまで来ると、問題はもはや技術だけでは済まない。

その鏡は誰のものなのか。ログの所有権は誰にあるのか。モデルの更新方針を誰が決めるのか。リセットや忘却は可能なのか。もし企業や国家がこの層を支配すれば、鏡は容易に矯正装置へと転じる。したがって、鏡としてのAIが成立するためには、個人の側に一定の統治権が残されていなければならない。これはプライバシーの問題というより、人格の所有権の問題である。

ここで一つ、より大きな文明的含意が見えてくる。

社会はこれまで、逸脱や異常を主に事後的に処理してきた。しかしAIが生活の微細な変化を早期に検知できるようになると、逸脱は行為として現れる前に修正されるようになる。これは安全性の向上という利点を持つが、同時に創造的な逸脱や価値の転回が芽の段階で消される危険も孕む。文明は、ある程度の逸脱を栄養として進化してきた。もし社会が最適化によって過度に平滑化されれば、安定と引き換えに探索能力を失う。

だからこそ、鏡としてのAIは、逸脱を即座に矯正する装置ではなく、逸脱を意味づけ直す装置であるべきだ。今起きている変化が、疲労なのか、迷いなのか、方向転換なのか。それを即座に分類して処理するのではなく、問いとして返す。人間が自分自身の変化を引き受ける余地を残す。その設計こそが、AIと人間が共存するための最小条件になる。

三回にわたって見てきたように、エッジAIの問題は、モデルの性能競争ではない。それは、どこで世界が構成され、どこで意思が形成され、どこで行為が実行されるのかという、知能と社会の配置の問題である。エッジAIが状況を作り、クラウドAIが意味を統合し、社会制度が責任を配分する。その全体構造の中で、人間が最後まで保持すべきなのは、自分の評価基準を変更しうる自由である。

AI時代の自己決定とは、選択肢が多いことではない。選択肢を与える枠組みそのものを問い直せることである。鏡としてのAIとは、その問いを消す装置ではなく、むしろ問いを持続させる装置なのである。