かつてのAIの議論では知能爆発によるASI（Artificial Super Intelligence，超知能）の登場が関心事だった。このたびは，AGI（Artificial General Intelligence）前後の段階であっても，物理的＝経済的世界の成長には非常に大きなインパクトがありうるというものだ。
2024年7月，Epoch AIの ErdilとBesirogluのExplosive Growth from AI Automation: A Review of the Arguments という論文に基づいた話である。どういうことかというと次のとおり。
現在の世界の経済成長率は3-4%のレベルなのだが，AIが人間の労働を代替することで，経済成長の出力を制約する労働力（人間の数は簡単に増えない）という条件が，正のフィードバックの因子（AIロボットはいくらでも増やせる→収穫逓増則）となってしまうため，指数関数を越える経済成長が実現する可能性がある。世界総生産（Gross World Product）の成長率が30%のオーダーになり，これをAI自動化による爆発的成長としている。Epoch.AI では，GATEとよばれるモデルシミュレータが公開されていて，パラメータを変えた結果を試してみることができる。
bioshokさんはこの議論に全面的に依拠して「近年、汎用人工知能（AGI）の進展がもたらす「産業爆発」が現実味を帯びつつあります。AIによる全産業の自動化が進むと、世界の実質総生産（GWP）は1000倍、100万倍といった桁違いの成長を遂げる可能性が指摘されています。」としている。松田，塚本，保田のシンギュラリティサロンオンラインのいつものメンバーも両手を挙げて支持していた。聞いていると，カルダシェフスケールがどうのこうので，東京規模の都市が瞬く間にどんどん作られるとか。なんだか気が遠くなりそうで，なおかつ非常に気分が悪くなってきた。
(1) まず，世界の経済成長を単純な数パラメータの微分方程式に落とし込んで議論しているだけに見えるので，あんなに自信満々で主張することにはとても違和感がある。
(2) そもそも，AI+ロボットがそんな簡単に人間労働を代替できるというのが理解できない。現実の世界は，数多の機械と人間とが複雑に絡み合った非常に泥臭い作業やシステムの複合体であり，1つのパラメタを操作するように人間の労働をAI+ロボットに簡単に置き換えていけるとは，とても思えない。
(3) 彼らの議論は，エネルギーと資源と環境の制約条件にはほとんど無頓着であり，いくらでも余裕があるとしている。成長の限界はどこに消えた。さらに，もし問題があればAGIが解決できるはずだという安易な議論の逃げ道を選んでいる。なんでもありだ。
(4) とどのつまりは，人権や社会制度の問題を軽視しすぎている。これがいまどきの加速主義的な若者の視点なのだろう。
科学的なシミュレーションに夾雑な要素を混ぜるなということかもしれないが，そもそもこの産業爆発モデルはシミュレーションとしても，全球気候モデルにすら達していないだろう。
ちまたでは，安野貴博が政治を目指して一歩踏み出している。従来の宗教右派を補う形で蠢いている。政治的にイノセントで無邪気な邪気を持ったAI信者たちが，加速主義的な一味とおぼしき日本維新の会，国民民主党，石丸とか斎藤（立花）とかと結びつくと面倒だなあ。
図：Explosive Growth from AI Automation（ChatGPT 4oによる）
0 件のコメント:
コメントを投稿