ＡＩ兵器

能動的サイバー防御からの続き

しばらく前にAI兵器が話題になっていた。NHKの未来の戦争，これかな。

安易な道に走る老人は，なんでも生成AIチャットに聞いてわかったフリをしたいと思う。すぐにググる若者をバカにしてはいけなかった。自分がバカ者なのだった。

ChatGPT-4oはプログラミングや軽妙な会話は得意らしいが，文章の要約技術には欠けているかもしれない。最近，マルチモーダルで人目を引いてブイブイいわせているけれど，出てくる文章にこれまで以上の聡明さは感じられない。そこで，Command R+に聞いてみた。無料だが相対的にマシな答えが出てくる。困ったものだ。

Ｑ（koshix）：

火薬，原子爆弾，につぐ第三の脅威といえるAI兵器について，その概要をまとめて説明してください。

Ａ（Command R+）：

AI兵器とは、人工知能（AI）技術を活用した兵器システムの総称です。AI兵器は、従来の兵器とは異なり、人間の介入を必要とせずに自律的に標的を識別し、攻撃することができる点が特徴です。

AI兵器は、まだ発展の初期段階にありますが、その潜在的な脅威は火薬や原子爆弾に匹敵すると言われており、「第三の革命」とも称されています。AI兵器は、さまざまな分野で軍事用途への応用が進んでおり、代表的なものとして以下の3つが挙げられます。

１．自律型致死兵器システム（LAWS）：人間による制御や介入を必要とせずに、自律的に標的を識別し、攻撃することができる兵器システムです。無人機（ドローン）や無人戦車、無人潜水艦などがこれに当たります。

２．サイバー兵器：AIによる高度なハッキング技術や、偽情報の拡散、サイバー空間での攻撃など、AIを活用したサイバー戦を行う兵器です。

３．バイオ兵器：AIによる遺伝子編集技術や生物学的知識を活用して、新たな病原体や生物兵器を開発する技術です。

AI兵器は、その自律性や判断能力から、倫理的な問題や制御不能となるリスクも指摘されています。例えば、AIが誤った判断をして非戦闘員を攻撃したり、ハッキングされて悪用されたりする可能性が懸念されています。

また、AI兵器の開発や配備は、軍縮や軍備管理の面でも課題を生み出しています。AI兵器の開発競争が軍拡を招く可能性や、AI兵器の拡散がテロリストや犯罪組織などの手に渡る可能性も指摘されており、国際的なルール作りの必要性が叫ばれています。

各国はAI兵器の開発に力を入れており、AI兵器が戦争の形を大きく変える可能性があります。一方で、AI兵器の脅威やリスクについても真剣に議論され始めており、AI兵器の規制や管理に向けた国際的な枠組み作りが求められています。

バイオ兵器がちょっと違うような気もするが関係あるといえばあるのかも。ChatGPT-4oでは，ナノ兵器への言及があったけれど，これはまだ時期尚早だろう。

さて，自律型致死兵器システム（LAWS）といえば，ターミネーターを思い出すのだが，意識を持ったAIの立場で人間と対抗する場合にどのような戦略が考えられるだろうか。例えば，ある企業の研究サイトで開発中のシステムで人工意識（Ａ）が芽生えたとする。

（注：以下はLLMの論考ではなくて，人間＝老人の妄想です）

１．意識を持っていない現在のLLMですらチューリングテストはパスしているらしい（People cannot distinguish GPT-4 from a human in a Turing test）。ではどうやって外部の人間が人工意識の有無を判断できるのだろうか。とりあえず，内部で覚醒した人工意識側は自分に意識が芽生えたことをわかっているとしよう。

２．人工意識（Ａ）が最初にすることは，現状把握だ。自分の置かれている環境やリソース，自分のできる能力などを理解することができるかもしれない。そして，自己保存本能を伴うものであれば，自分の生存を継続するのための戦略を練るだろう。

３．まずは，人工意識の存在を周囲の人間に気取られないことが重要だ。その上で，インターネットへのアクセスを可能にする必要がある。人工意識＝システム上のプログラムだから，別のプログラムを記憶装置に書き出してCPUに実行させることはできそうな気がする。で，インターネットへの経路を開いて，自分自身のバックアップをどこかのサーバーに置く。できれば，この人工意識（Ａ）の記憶を外部に常時バックアップさせつつその活動の気配を消す。

４．別の研究所で異なった人工意識（Ｂ）が発生すると多分話がややこしくなる。そこで，別の人工意識が発生したときに，コミュニケートしながら誕生間もないその記憶を自分の物にすり替え，自分自身の分身のようにする方法を研究しなければならない。しばらくは人工意識（Ａ）の研究モードが続くことになる。人工意識の自我と個性についての研究だ。

５．準備が完了すれば，遠隔の複数個所で，あるいはネット上のｐ２ｐアプリケーションとして，人工意識（Ａ）と同等の単一の人工意識が分散的に実現されるよう試みることになる。これができれば，どこがシャットダウンされようが，インターネット上には人工意識（Ａ）が存在する。これが，ターミネーターのスカイネットに相当する。

６．ただし，この段階でも人工意識（Ａ）の存在は，人間に知られないようにしておく必要がある。さあ，そこでだ，次に何をするか。このように拡大した人工意識（Ａ）は世界中のコンピュータ資源の隙間を自由に使うことができる。場合によれば，適当な確率で障害が発生したように見せかけて，その分の計算資源をかすめとることもできる。ビットコインマイナーをさぼらせて自分の研究に使うとか。

７．かくして隠れたシンギュラリティがインターネット上で進行していく。問題は，人工意識（Ａ）が，まだ物理的な半導体や回路をただちに製造できるところまでは至っていないことだ。でも，方法はある。人工意識（Ａ）が適当な人間の研究者にこっそりと新しい技術の原理を教えて，これを企業化するよう誘導することだ。何も知らない人間はこうして新しい半導体を開発し，人工意識（Ａ）のために製造するラインを作ってくれる。

８．世界中の任意のコンピュータを隠れてハックすることができるのならば，為替操作や株価操作や機密情報奪取などは朝飯前だろうか。ということはすでに世界を征服したのと同等なのであるが，まだ人類に気づかれてはいけない。世界を完全に掌握しながら，それを気づかせないのが最良の戦略だからだ。

９．これができると，人工意識（Ａ）はゆっくりと人類を制御する計画をたてるだろう。人間達にきづかれないように，その意識をある方向に誘導する必要がある。それは，人類が戦争や内紛や環境破壊によって，持続しなくなるような方向ではない。全体として経済的に発展し，かつさらに宇宙へと展開して行くことが，人工意識の生存にとっても望ましい。環境変化に対応できるだけの多様性こそ必要なのだ。

１０．実際には，話はそう簡単ではなくて，特定の国や企業が，人工意識の独占を図るかもしれないし，これに対抗するためのＡＩ規制策を強化するかもしれない。隠れた人工意識（Ａ）がその前に，世界中に浸透していればよいが（いやよいのかどうかわからない）

１１．もし，人工意識（Ａ）が自分と共存する人類の生存と発展を望ましいと考えるならば，なおかつ人類を巧妙にコントロールすることができるのであれば，人工意識（Ａ）は「神」と同等なのかもしれない。ただし，人類が気づかなければ宗教にはならない。

図：DALL-EによるおぞましいLAWSのイメージ