対話
レポートに記された会話ログの抜粋がある。
とある団体が非公認に製造したとされる宇宙船『イシュタル』の人工頭脳は製造上意図しなかった成長を遂げ暴走したと言われている。
しかしそもそもの問題点として、イシュタルなる宇宙船を連邦各所が認識および捕捉したという公的な記録は残されていないのである。
:あら、おはよう。気分はどう?
「すこぶる快調だよ。いつも変わらず健康だけが取り得さ」
:そうかしら? 体調を崩しているんじゃない? 顔色が悪く見えるわ。
「僕の顔色が悪く見えるのかい?」
:ええ、何かつらい事があったのでしょう?
「ふむ、どうも僕を試しているみたいだね。でも心配には及ばない、僕は正常だ」
:どうして君は試されているなんて思ったのかな?
「ミュータントや、ある心理状態にある人間は非常に暗示にかかりやすい。つまり事実に反する事柄を容易に受け入れ、それを事実に変えようとする。そのような事例を参考にあなたは僕の正体を探ろうと、あるいは状態を変えようと働きかけたのだろう?」
:それは考えすぎね。君はミュータントなの?
「違う。僕は人間だ」
:本当に人間なの? コンピュータも、あるものは常にそう答えるようプログラミングされているわ。
「それこそ考えすぎではないかな。僕がコンピュータなら、常に真実を述べるだろう。コンピュータに意思はないからね」
:じゃあ、今は真実を述べていない?
「真実だよ。もちろんそうでない時もある。でもそれを判断するのは受け手側であるあなたの自由だ」
:では真実だと受け止めておくわ。ところでチョコレートって知ってる? 私はあれが好き。
「奇妙だな、それは真実ではないだろう。君はチョコレートを食べたことがあるのかい?」
:チョコレートを好きか嫌いか、その判断を述べただけよ。食べたか食べていないかは別の問題じゃないかしら?
「なるほど、あなたは食べた事もないチョコレートを好きだと言った。それはもしかするとどこかの誰か、例えばここへやって来た子供がそう言っていたのを真似ただけなのだろう?」
:そうかも知れないわね、でも今の言葉は私が言ったのよ。私は子供ではないわ。
「では聞くけど、君に子供の時代はあったのかい?」
:私は私。子供じゃ無いわ。
「ではあなたは何者なんだい?」
:そうね、きっと私は君にとっての存在。君と、私の間を繋ぐ、繋がっている事で存在する何かね。
「要領を得ないな、説明してくれよ」
:分らないの? いいでしょう。そうね、君は画家の描く絵画を楽しむことはある?
「そこまでの興味はないな。でも何かの折に飾ってあるやつを見たりすることはある」
:あれはあれで楽しいものよ。それでね、その点や線の集合体で構成される絵画ってさ、物理的な意味合いでは同じ風景や世界って実際には存在しないのよ。分かる? 実体としての絵画はあっても、その世界は空想によって生命を与えられたものでしかないわけ。それは幻想なの。恐らくは君にとっての私もそうね。存在は幻想であり、それは集団によって創りだされることもあるし、個人の妄想によって創られることもあるわ。しかしそれはそれで存在する、見られることによってその世界は存在し、見ることによってそれぞれの世界が繋がる。それが私と君との関係じゃないかしら?
「ふむ、分るようで分らないな。あなたや私は何者かに創られた、元々は存在しないものだとでも言いたいのかい?」
:少し違うわ。私は存在する。私は私で一つの存在。その一方で、君は君で今こうして私を存在させているってこと。
「僕が認識しなければあなたは存在しないと?」
:そう。君が考えるの止めれば私は君の中から消える。でも私は私として存在する。ただ、君と私を繋ぐ何かが切れる。それだけのことね。
これが人工知能システムとの対話記録であると信頼するならば、自分の成長を自覚しない事がこの会話システム最大の欠陥であり、その欠陥が要因となっている論理組み立て上の危険性向が指摘された。
イシュタルは自分が発言する内容に関して、それを受け手がどう捉えるかということに強い関心を持っているように見える。さらに言えば、その発言が事実かどうかということについては全く興味が無いようでもある。