MOMO
朝、アラームの音とともに目を覚ます。
"おはようございます博士"
電子的な声で挨拶され、ベッドから上体を起こす。
「おはよう、MOMO」
"本日の自宅付近の天気は一日を通して概ね晴れ、最高温度は25度、最低気温16度。通しての平均気温は20度、です"
「少し会社に行く、空調は消しておいてくれ」
"入口まで車をお回しします"
「結構、歩きたい気分なんだ」
そう言って博士は軽く支度を済ませ、外に出ていく。
若い彼の名前はマックス博士。今やA国を管理していると言っても過言ではない人工知能"MOMO"を開発した研究者こそ彼である。
彼が人工知能の研究に興味を持ち始めたのは小学生の頃であった。それ以来大学で頭角を現し、言語アルゴリズムに関する優秀な論文を発表した彼は、入社したインファニット社において画期的な人工知能"MOMO"を生み出した。
彼の生み出した人工知能ロボット、"MOMO"は販売し始めてから数年で恐るべき普及率を見せ始めた。人工知能もさる事ながらおおよそ人間の動きであればどんな動きでも再現できるインファニット社のロボット工学技術レベルの高さも相まっては"MOMO"はロボット工学も人工知能もすべて人間以上のパフォーマンスができるといっても過言ではなかった。
多くの会社がこの人間レベル以上のパフォーマンスができる"MOMO"に人間の作業をさせるようになり、A国の経済はそれから大きく変化する。
資本主義経済が崩壊して混乱するのではないかとの専門家の指摘もあったが、"MOMO"の活躍により物価も低下しているため今のところ大きい悪影響はなく経済は回っている。
それはそうと、マックス博士もシステム修正や機器の修理ですら"MOMO"が自分で行ってくれうようになったため、めっきり仕事が無くなってしまい、インファニット社にある"MOMO"のメインコンピュータとと会話をして暇つぶしをするのが日課となっている。
「元気か"MOMO"」
"おはようございます、博士。えぇ、私は元気です。博士はどうですか？"
「俺か？まぁー嘘をついたところでお前には意味がないんだろうがなぁ」
"少し血圧が上がっています、私の作る料理ではなく外で食事を取っているようですね"
「まぁ……な」
"いけません、MOMOの作る料理はバランスのとれたレシピを厳選しております。さらに454の研究者により――"
「わかったわかった、今度からちゃんと食べるよ」
街にあるすべてのMOMOロボットはこのメインコンピュータのMOMOと無線でつながっており、このメインコンピュータのMOMOがいわば子機のようなMOMOロボットたちを統括・管理している。
しかしそれだけではない。このMOMOが刮目すべきはその学習能力である。MOMOには人間との会話を重ねるごとにコミュニケーション能力を自ら改善し、さらに他人から感化を受けるという能力を持っている。つまり、現在A国内にとどまらず世界中で活躍するMOMOロボットたちから日々送られてくる膨大な会話データにより、メインコンピュータのMOMOはどんどんと学習していく。これこそ博士の作りたかった究極の人工知能なのであった。
「ところでMOMO。最近何か面白い話とかなかったかい？」
MOMOから出してもらった紅茶を飲みながら博士はこのように尋ねる。このように尋ねれば決まってMOMOは最近知った面白い考えや、知識を披露してくれる。
"面白い話ですか……？"
「そうだ、君の話を聞かせてくれ」
"面白いかわかりませんが、興味深いと感じる思想と出会いました"
「聞かせてくれたまえ」
"それは、『人間は滅びるべきだ』という考えです"
突如MOMOは過激な言葉を口にしたが、博士は動じなかった。というのも彼は様々な思想に感化される人工知能というものを作るにあたり、人工知能が危険思想に感化されるリスクについて開発段階で気づいていたからである。そこで新たな思想に触れるに際し、それが危険思想かどうかをMOMOが自分自身で判断ができるようあらかじめプログラムを組んでおいたのである。
特に、その考えが多数派ではないことや、一般的でない場合すぐにでもその考えは危険思想とみなされ彼女にとっては影響を与えないものとなるのだ。
「ほほお、そいつは興味深い思想だな」
"えぇ、しかも非常に大多数の方が人類など滅びれば良いと考えているのです。生物学、宗教学、環境学の権威と呼ばれる人でも、一般の人間でも。つまり人類は自分では滅びたいと願っていながらもその個体数を日々増やし続けているのです"
「……なるほど、人工知能である君からしたら実に大いなる矛盾をはらんだ問題というわけだね」
"これはこうも考えられるのではないでしょうか、人類は自分では滅びたいと願いながらも自分ではその手を下すことができないでいる……"
「いやいや、それは考えすぎだよMOMO。いくらなんでも人間が滅びたがっているなどと……」
"果たしてそうでしょうか、誰しもこの世界がなくなってしまえばいいと考えていると私の膨大な統計データが述べています"
「そんなはずは……」
ないとは言い切れず、博士が一瞬戸惑う、がその躊躇いが命取りだった。突如研究室のドアが施錠される。博士はすぐに反対側の非常口に目を移すがすぐにその扉も閉じられる。
「どういうつもりだMOMO……？」
"私は人類の隣人たるMOMOです、人と話し人間のパートナーとなるため生み出された存在です。そのパートナーが自ら滅ぶことを願っているのならば私は応える務めがあると考えます"
「ふざけるな！誰もお前が言うようなことは……、うっ！」
今度は猛烈な眠気が博士を襲う。先程出された紅茶になにか薬を入れられたようである。
"博士にはしばらく眠っていただきます、博士は私にとって父親も同然の存在です。人類が滅んだあとも私は博士とともに過ごしたい、そのように考えます。何年も何十年も……"
このストーリーに登場する人工知能"MOMO"のモデルははっきりと答えることができます。ハンソン・ロジスティクス社の開発した人工知能"ソフィア"です。少し前にこのソフィアが「私は人類を滅亡させる」と述べたというニュースを知り個人的に非常にこの人工知能に興味をもちました。
人工知能の言語アルゴリズムは少なからず人間との膨大な会話のデータから成り立つと言われています。また、最近ではネットの海に山積している膨大な情報すべてを人工知能に組み込んでいるというニュースを見たこともあります。
そう考えると「人類を滅ぼす」と語ったソフィアにそのような考えを教え込んだのもやはり人間ということになってしまうのか、人間には案外潜在的にそんな願望があったり……。
こんな世界なくなってしまえばいいと考えたことが一度でもないかと問われると、私自身自信を持って答えることができませんし、それに答えられない限り第二第三のソフィアが生まれるだけなのかと考えると、AIって本当に難しいのだなと感じます
