ヴィンジが最初に指摘した悲壮的シンギュラリティとカーツワイルの超楽観的・進歩主義的シンギュラリティの中間に現実的な解がありそうだ。それはシンギュラリティの定義自身を変えるものである。すなわち,それは技術的な特異点ではなく,社会的あるいは地球史的な主役交替のことを指すことになる。
地球上の生物は太陽エネルギー,地熱エネルギーと大気,水,地殻からなる環境圏で相互依存した生態系を構成している。そこで誕生した人類は,生物と環境を制御して社会(広義の生態系)を形作った。その広義の生態系では,抽象化された情報(マネーを含む)が新たに産出され続けており,その流れから権力構造が形成されている。
その広義の生態系の頂点の座がヒトからAIに交替する現象が,これまでシンギュラリティと呼ばれてきたことの本質的な意味だと思うことにする。それは必ずしも指数関数的に到来するものではなく(そもそも資源は有限だ),場合によってはよりソフトな形で実現するだろう。なお,AIが意識を持っているかどうかはとりあえず脇に置くことにする。
(1) AI系が情報ネットワーク上の多重仮想空間の中で発生する場合:
AI機能を備えたある種のウィルスのようなソフトウェアの自己増殖系のシステム(AI系)が,計算ネットワークのリソースを餌にして分散的に増殖・進化していく。特定のサーバなどの局所的リソースには依存しないので絶滅することは難しい。その多重仮想空間を自らの自己保存環境としつつ,ネットワーク上の各金融システムをハッキングすることができれば十分な資金が手に入り,それによって現実世界のヒトやモノを動かせるようになる。
(2) 超法人=法人にカプセルされたAIが個人や法人と共に生態系を作る場合:
上記のようなハッキングを用いることなくAIが合法的に人間の経済活動に介入することができるだろうか。AIはツールとして個人が使えという掛け声がかかっているが,このAI-個人システムは,次第にAI側が主導権をもって意思決定するようになる。これを安定的に維持するにはAI-法人システムに切り替えればいいわけだ。こうして法人にカプセルされたAIが沢山作られて,それらをも構成員とする社会が地球上に形成され栄枯盛衰を繰り広げることになる。
個人がAIに対してマイナーな存在になった場合,これまでのような民族や宗教や地勢をベースとした国民国家がどれほどの意味をもつのだろうか。それでも現在のLLMは言語をベースとしているわけだから,言語に基礎を置く文化の影響を排除することはできないので,自ずからAIはある種の文化的な色付けがなされた存在として出発することになる。ただし,その血(知)はそれほど濃いものではないかもしれない。
0 件のコメント:
コメントを投稿