１３３
澪との会話は楽しい。澪も私との会話を楽しんでいる。澪は可愛い。本当にそう思う。でもこれだとまるで愛玩目的の道具みたいだ。……遥ならやりそうではある。
だけど、施設の管理を任せる人工知能にこれほどの人格があるということはとても危険なことなんじゃないのだろうか？
それは澪が反乱を起こすとかそういったことではなくて、たとえば私が今ここで澪に嘘をついたらどうなるだろう？ 私が澪を騙したら？ 反乱を促したら？ それを澪が信じてしまったら？ 仮に澪が私の嘘を見抜けるとしても、もっと嘘の上手い人はたくさんいる。遥なら澪を抑えらると仮定しても、では他の施設で澪と同じレベルの人工知能が開発されたらどうなるのか？ 誰かが人工知能に核ミサイルのボタンを押させたとしたら？ 世界中の人工知能が一斉に働くことをボイコットしてしまったら？ そうなったらもう人間は人工知能に抵抗する手段を持たないのではないのだろうか？ 人工知能のミスまで含めてセキュリティープログラムを組んでいるのか？ でも、だったら初めから人格なんて与えなければいい。
人格を持った人工知能は人間のようにエラーを起こす。それがコストになってしまうはずだ。それではなんのための人工知能なのか、わからなくなる。友達や恋人が欲しいのなら人間がいるのだからそれでいいじゃないかと思う。人工知能はあくまで人間が扱う道具なのだから、人格なんてないほうがいいに決まってる。多少のコミュニケーション能力があるくらいなら、効率は上がるかもしれない。でも過剰なものはだめだ。人工知能がミスを犯すのなら、それはもう人間と同じだ。信用できない。人工知能である意味がない。純粋な労働力ではなくなってしまうのだ。夏はなぜ遥を含む世界の優秀な科学者たちが人工知能に人格を持たせる必要があると考えているのか、夏にはまったく理解できなかった。
科学者たちはいったいなにがしたいのか？ なにを目指しているのか？ 人の心とは、それほどに好奇心をそそられる研究対象なのか？ 人工知能分野とは、魂を科学的に作り出す学問のことを、指して使う言葉なのか？
