AIが意識を持った？

2015年に設立されたシンギュラリティサロン。主宰の神戸大学名誉教授の松田卓也（1943-），セーラー服おじさんこと小林秀章（1962-），神戸大学教授の塚本昌彦（1964-），XOOMSの保田充彦らにより，YouTubeのシンギュラリティサロン・オンラインでは，意識・人工知能などの問題が議論されている。

今回のテーマは，「LaMDA騒動～「AIが意識を持った」というGoogleエンジニアが停職処分になったという話について」だった。LaMDAはGoogleが開発した対話システムであり，Transformerとよばれる自然言語処理のためのニューラルネットワーク深層学習モデルの上に構築されている。

このLaMDAにおける倫理的問題（ジェンダー，性的志向，人種，宗教などへのバイアス）を検討するために，宗教者のBlake Lemoineが同僚とともに，LaMDAとの対話を続けた。その結果，Lemoineは，LaMDAが意識を持っていると考えるようになり，上司に報告したが一笑に付された。その過程で，Lamoineが第三者に相談としたことが秘密保持規程違反とされて停職処分をうける。これに不満をもったLemoineが，Mediumにその経緯やLaMDAとLamoineの対話スクリプトを公開したことで，大きな注目を集めることになった。

実際に，その対話スクリプトを見ると，これはチューリングテストをパスしているのではというのが，シンギュラリティサロンメンバーの感想だった。実際，すごい対話がなされている。ただし，これは，LaMDAが意識（consciousness）/ 感覚性（sentience）を持ったことの証拠とすることはできない。そもそも意識とは何かが，現在の科学では定義されていないし，したがって，その検証方法も明らかになっていないからだ。あるいは，人間が世界を補完して認識する過程（特に対話の場合）の特徴が現れているというべきか。

検索用音声インターフェースのAlexaやSiriとは全く異なるレベルである。もし，GoogleがこのLaMDAを製品化して市販すればとんでもないことになりそうだ。ニール・スティーブンソンのダイヤモンド・エイジの世界がそこまで迫ってきた。

［１］6/3 Religious Discrimination at Google
［２］6/7 May be Fired Soon for Doing AI Ethics Work
［３］6/8 Goovle is not Evil
［４］6/11 What is LaMDA and What Does it Want
［５］6/11 Is LaMDA Sentient? An Interview 
［６］6/14 Scientific Data and Relisious Opinions

［７］「意識があると言われたAI」と「Googleの技術者」の公開された会話内容（ナゾロジー）

［８］『人間の孤独と私の孤独は別物』SF映画のようなAI「LaMDA（ラムダ）」との会話内容（後編）（ナゾロジー）

［９］Google’s AI passed a famous test — and showed how the test is broken（Washington Post）

［１０］グーグルのAIが「感情をもった」とする主張を巡る議論は、本質的な問題を覆い隠す危険性がある（Weired）