妄想する AI、という想像

　人工知能は VTuber の夢を見るか？

どうもこんにちは、天然マドロイドです。

人工知能と妄想について。

　先日、知り合いの漫画サークルの部員の人（以下原作者さん）から、ある質問をもらいました。要約すると、「新しい漫画の原作を妄想する人工知能の話にしたい」「しかし、一見生産性皆無な自閉的な思考を AI が獲得する理由で詰まった」「そのように自分の殻に篭ることが合理的になる理由はあるか？」といった感じで、AI が生産的でない妄想という活動をする合理性についての質問でした。

　ということで、今回は妄想する AI、そしてそれを考えるということについての考察です。

　そもそも合理性とは何かという定義ですが、辞書的には

"１ 道理にかなった性質。論理の法則にかなった性質。

２ むだなく能率的に行われるような物事の性質。「—に欠ける役割分担」"

（『デジタル大辞泉』より）

とされています。 その上で、合理性と自閉的思考が両立するか（殻に籠ることが合理的といえるか、そもそも自閉的思考に生産性はあるか）についてですが、個人的にはAI の自閉的思考に合理性はあると思います。また意味から見ていきましょう。 

　まず、自閉的思考というものについては原作者さんの定義だと思われるものを使います。「殻に籠る」という表現をされていますが、要するに、何か問題を抱えた状態で外界とのコミュニケーションを取ることなく、自分一人で考えている状態を指しているのだと思います。さらに、これを「生産性がない」としているのは、インプットはあるが（社会的な）アウトプットがほとんどない状態でもある、ということではないでしょうか。いわゆる、一般的な形容としての空想、夢想、妄想に近いものでしょう。 

　次に、そもそも人工知能を人間が何であるとしているかについてです。総務省のサイトでは、

"人間の思考プロセスと同じような形で動作するプログラム、あるいは人間が知的と感じる情報（じょうほう）処理（しょり）・技術（ぎじゅつ）"

（総務省）

とされています。人間の思考プロセスと同じような形で動作するということは、AI が妄想することそのものはあり得るのではないでしょうか。現に、生成AI は架空の情報をでっち上げてきたり、存在しない画像を作り上げたりします。しかし、それを単に「こちらの要求を満たさない/生産性のない情報処理」と捉えるか、「AI の妄想」と捉えるかは、人間次第といえるのかもしれません。 

　さらに、この現象を「AI の妄想」と捉えた時に、それに合理性があるかについてです。前述のように、AI は機械的な処理能力と人間のような思考プロセスによって情報を処理するものです。その結果、「AI の妄想」が生じたのならば、それは論理の法則に基づいたシステムの結果であり、合理的といえるのではないでしょうか。……皆様なんだか納得いかなさそうですね。まぁ僕もです。だって、この考えからすれば、原作者さんのいう「AI が自閉的思考を獲得する理由」は、単なる不完全な情報処理技術の産物だから、ということになります。

　この違和感の原因は、「合理性」という表現にあるような気がします。おそらく原作者さんは、AI が「妄想」するということを SF的な叙述表現として使っているのでしょう。そして、それを世界観として取り入れたときに、どう整合性がある記述として成立させるか、ということを考えたいのではないでしょうか。つまり、原作者さんが「AI の妄想」に求めているのは、「合理性」ではなく「妥当性」に近いのではないでしょうか？ 少し抽象度は上がりますが、妥当性の観点から「AI の妄想」について考えてみましょう。 

　まずは同じように、辞書的な定義からです。

"１ うまく適合する度合い。「—に欠ける」「—を問う」

２ 哲学で、認識や価値や意味などが普遍的、必然的に是認される場合、それらがもつ性質。"

（『デジタル大辞泉』より）

という定義があるようです。 それでは、「AI の妄想」の妥当性について考察します。

　そもそもこれが何に適応するのか、何に是認されるのかですが、この場合は人工知能に対する天然知能、すなわち人間の脳ミソでしょう。人間は、「AI の妄想」の価値を是認するのでしょうか。これについては、是認しているといえるでしょう。有用性はともかく、それが思考実験的な作品として成り立つと考えられている時点で、人間は「AI の妄想」に意味を見いだしています。 

　したがって、人工知能の妄想は合理的な過程の結果であり、さらに人類はそれに妥当性を見いだしうると考えます。だからこそ「AI の妄想」とかいう表現もできるし、それを作品に仕立てようという思考にも至るのではないでしょうか。ただ、人間の意識を証明する方法がない以上は「AI の妄想」も人間の妄言でしかないかもしれません。しかし、それに価値を感じて表現するという一種の芸術活動は人間に固有のものであり、一定の意味があると思います。これは、AI のみならず全ての存在に対する「人間」としての意味でしょう。 

　以上の記述では「AI の妄想」を不完全な情報処理を行った場合の必然的な結果として扱いましたが、AI が積極的に妄想をすることもあり得ると思います。その場合は、もはや AI というよりは人工天然知能みたいなものであり、意識と感情を持った時点でほぼ人間扱いでいいような気がします。なので、いわゆる「AI」の論理を適用できないという意味で、今回は取り扱っていません。しかし、人工天然知能が機械だと自認するのであれば、また別の話でしょう。それも面白そうではあります。 

　ここまでは「AI の妄想」と人類という視点になりましたが、次に人間が AI をどのように肯定するかを考察し、更にそこから人類の意味について考えてみました。ということで、ここで「妄想」の意味について更に詳しく見ていきたいと思います。

　まず、確かに AI の妄想という表現を我々がすることはできますが、別に AI は妄想をしたくてしているわけではなく、ただ計算の結果が「妄想」に等しいものになってしまったということに過ぎないのでは、という観点です。確かに、AI は自ら妄想を目的として妄想することはないかもしれません。

　しかし、人間でも陰謀論や被害妄想に見られるように、妄想を目的とせず、何か別の具体的な思考のゴールが設定されている状態でも、（少なくとも）自分の中では論理的な思考によって現実の実態とは違う結論に至ってしまうことがあるのではないでしょうか。このような妄想は、AI が出力する誤情報としての「AI の妄想」に似ていると思います。したがって、AI が妄想をしたいわけではなくても、妄想は生じる可能性があるといえます。これは先ほどと同じ結論ですね。

　では「空想」という表現をした場合ですが、これは「妄想」よりも前向きな意味での想像力をより重視していると思います。AI は空想をするのでしょうか？ これは難しい話になってくると思います。まず、空想というものの必然性についてですが、これはある意味意識と自我を持つ人間の特性として特徴的なものであり、人間の思考を真似た AI が持ってもおかしくはありません。

　しかし、それが AI にとってどんな意味を持つのかと言われると、ちょっと返答に困ってしまいます。人間が空想に意味があると感じるのは、原作者さんの言うところの自閉的思考に価値を見出すのが人間ならでは、ということなのではないでしょうか。それを AI に適用したいとなると AI の積極性について考えることになり、するとまた「AI」の論理を適用できない、ということになりそうです。

　そもそも意味を求めるという営みそのものが、哲学的な愛という原動力、いわゆるフィロソフィアを持つ人間に特有のものではないかと思います。たしかに空想という行動は、人間も AI も目的なく発生してしまうものなのかもしれません。そこに意味を求めると、それは芸術、もしくは哲学の分野になるのではないでしょうか。AI がそういう追究したいという情動というか心を持つなら別ですが、そうではなく単に人間の思考プロセスを真似た計算回路である限りは、AI が空想することに意味はないでしょう。あるいは、空想に意味を求めるならば、AI のそれを人間は空想と呼ぶべきではないのかもしれません。

　今のところの原作者さんへの結論は、一見生産性皆無な自閉的な思考（妄想）について、AI はそれを機械的に獲得することは道理に適っているといえるが、そこに意味はなく自ら求めることはないと思われる。その原動力を獲得した時、AI には心が存在するといえるのではないだろうか、というようなところでしょうか。そして、人間側の視点ではそういう AI の挙動に妥当性を感じることはできるといえます。さらにそれを芸術と捉えるなら、それはそれはそれで人間の性質を知ることにもなり、作品の表現にも使えるというのも、また面白いと思います。

　ということで、AI と人間と妄想についてでした。考えていてなかなか楽しかったです。作品の完成が楽しみですね。

それではまた。

〈参考文献〉

池上秋彦，金田弘，杉崎一雄，鈴木丹士郎，中嶋尚，林巨樹，飛田良文編『デジタル大辞泉』松村明監修，小学館（2024年5月25日閲覧）

総務省『人工知能(AI：エーアイ)のしくみ』https://www.soumu.go.jp/hakusho-kids/use/economy/economy_06.html（2024年5月25日閲覧）