いかにして殺人ロボットは発生し得るか

１．ロボット怪談

　“……ずっと前に僕が話した怪談だ”

　と、村上アキは思っていた。彼女が忘れているのか、或いは忘れた振りをしているだけなのかは分からないが、どちらにしろ彼は少しばかり傷ついていた。

　それは都内のある閑散とした喫茶店での事だった。彼は彼女からそこに呼び出され、そのまま相談事を受けていたのだ。二人とももうとっくに飲み物を飲み終えていたが、おかわりを頼む気配もなく、また店員やロボットがおかわりを勧めにやって来る気配もなかった。時刻は三時過ぎ、休日で都内なのにこの少ない客入りで経営は大丈夫なのだろうかと、そんな余計な心配を彼はしていた。ただ、白を基調とした店内と綺麗に晴れた青い空は、人気の少なさによくマッチしていて、なかなかいい雰囲気だった。しかし、だからこそ彼はよりその心の痛みを実感していたのだが。

　「――聞いているの？　アキ君」

　と、そんな彼の憮然とした様子を見てか、彼女、長谷川沙世はそう訊いて来た。

　「聞いているよ。もちろんね」

　そう答えた後で彼は軽くため息を漏らす。

　「愛しの僕の沙世ちゃんからの相談だもの。そりゃ、気合いを入れて真摯に一言も逃すまいと聞きまくるさ」

　村上アキはその言葉に、多少の皮肉を込めたつもりだったのだが、彼女が鈍い所為か、或いは彼自身のイメージとその言い方の所為か、それはほとんど伝わらなかったようだった。

　「わたしは本気で困っているんだから、ふざけないで、ちゃんと相談に乗ってよ」

　単に不真面目なだけだと思われたようだ。その彼女の態度を見て、何を言っても無駄だと判断したアキはそれからこう言った。

　「沙世ちゃん。ここ数年、何か君には悪い事ばかり起こるね。きっと、僕みたいな真面目な良い男を振った罰だと思うな、それは」

　彼女が自分の皮肉を分からず、ふざけているだけだと思うのなら、その通りにふざけてやろうと思ったのだ。そこに子供が駄々をこねるような甘えた気持ちとすねた気持ちがある事に彼は気が付いていたが、それをどうするつもりもなかった。少しくらいは、困らせてやれと思っていたのだ。彼女は自分の気持ちを知っている。その上で、こうして呼び出してこんな相談をするのだから、それくらいの覚悟はあるだろう。いや、あってもらわなくてはこっちが困る、とそんなことを思っていた。

　しかし、長谷川沙世は彼の態度と言葉を受けると驚いたような振りをしながら、こんな事を言うのだった。

　「あなた、まだ、そんな大昔の事を根に持っていたの？」

　それを聞いて、アキは今度は大きく深いため息を漏らす。やり切れないといった感じ。仕方ないと彼は口を開く。

　「そりゃ持っているよ。だって僕は今でも君の事が好きなんだから！」

　そして、文句を言うようにそう言った。いや、これは文句そのものかもしれない。

　「君だってそれを分かっているからこそ、またこうして僕を利用しようとしているのだろう？」

　これで少しは顔を赤らめるとか、申し訳なさそうにするとか、そういった態度を見せるのなら可愛げがあるが、沙世はその言葉にあっさりと「そうよ」と返すのだった。

　「でも、“利用している”ってのは、ちょっと人聞きが悪いのじゃない？　わたしはアキ君がわたしが困っているのを知ったら放っておけないって分かっているから、こうして話しているだけなんだし」

　「だから、それはつまりは“利用している”ってことだよね？」

　アキがそうツッコミを入れると、沙世はにっこりと笑った。

　「わたしが困っているのを助けられて、アキ君は嬉しいでしょう？」

　アキはそれにこう返す。

　「ああ、嬉しいさ。悔しいけど、確かに嬉しいさ。でも、その助けられる本人自らがそういう事を言う？　普通？」

　そう文句を言った後で、アキは平気そうにしている沙世の顔をじっと見つめた。彼女は背も身体つきも普通、髪はおかっぱで肩にかからない程度に伸びているそれは、ややきつそうな顔立ちの彼女に非常によく似合っている、と彼は思っていた。そして、可愛いとも。ただ、それは彼女に惚れている自分が見ているからそう感じるだけなのかもしれないとも思っていたのだが。

　彼はどうして自分がこんなにも彼女に惹かれるのか、その理由をよく分かっていなかった。そして同時に、どうして彼女が自分に異性として魅力を感じてくれないのか、それも分かっていなかった。或いはそれは、年相応に見えない自分の子供っぽい外見の所為かとも考えていた。背だって少し低い。

　ただ、彼女と話していると、“やっぱり、付き合いが長すぎるのが原因かな？”といつも彼はそう思うのだが。

　彼、村上アキと、彼女、長谷川沙世は小学校の高学年になる頃に知り合った。そしていつの頃かはもう覚えてはいないのだが、少なくともアキは高校に上がる頃にはすっかりと沙世に恋をしてしまっていた。ただ、それに気付いてからも、彼女との間には自然な友人関係が確立し過ぎてしまっていた為に、どうにも言い出す切っ掛けが掴めず、高校を卒業し、大学生になってから、ようやく彼は勇気を振り絞って告白をしたのだった。

　そして沙世の答えは、「告白されても、アキ君は子供の頃からずっと知っているから、どうにもよく実感が沸かないな」という何ともどう捉えれば良いのか分からない曖昧なもので、成功したとは思えないが、完全に駄目だったとも思い切れず、それで彼には煮え切らない中途半端な気持ちが残り続けたのだった。だからこそ、今でも彼女との友人関係が続いているのかもしれないが、逆にいえばその所為で、彼は今でも彼女に失恋できないでいるのかもしれない。

　もっとも、それから半年ほどが経って、長谷川沙世は他の男と付き合い始めたので、彼は自分が振られていたと悟りはしたのだが。ただし、その付き合い始めた男に問題があってトラブルの後に別れたため、彼は恋心消失のチャンスをやはり逃してしまっていた。

　「つまりは、沙世ちゃんは、ロボット恐怖症になりかけているって事でしょう？」

　変われば変わるものだと思いながら、村上アキはそう言った。もうずっと前、恐らくは大学時代に彼が彼女にそのロボットの怪談を話した時には、彼女はそれを馬鹿馬鹿しいと鼻で笑ったのだ。

　「……まぁ、そうなるのかしらねぇ？　認めたくはないけど」

　わずかに悔しがっているような濁った変な表情で彼女はそう言った。

　『人間の言う事を聞き過ぎるロボットも問題だという話……』

　その彼が話したロボットの怪談には、そんな前置きなのかタイトルなのか副題なのかよく分からない警句のようなものが付いていた。そしてそれはこんな内容だった。

　小学生のある男の子が誕生日プレゼントとしてロボットを親から買ってもらった。その子が、何でも言う事を聞くロボットが良いと言ったものだから、親はロボットのソフトをカスタマイズして、その子が望む通りのロボットに仕上げた。だからそのロボットは、子供が望めば極力それを適えようと行動した。そして、ロボットは学習機能によって、子供が喜ぶ行動をより強化する。その所為で、そのロボットの行動は徐々にエスカレートしていった。

　その子が何かを欲しがればロボットは盗みもしたし、友達との遊びでは、ズルをしてその子を勝たせたりもした。

　そして、そんなある日の事だ。その子は、ある友達と喧嘩をした。それでついロボットの前で「あんな嫌な奴、死んじゃえばいいのに」とそう愚痴を言ってしまったのだ。それを聞くなりロボットは姿を消した。

　何処へ行ったのだろう？

　その子は不思議に思った。どんなに探してもロボットは見つからなかった。夕方近くになってようやくロボットは帰ってきた。薄暗い玄関のポーチの先にロボットがいた所為で、その姿はよく見えなかった。

　「何処に行っていたの？」

　そう訊くその子の問いに対し、ロボットはこう答えた。

　『ヤなヤツ、コロしたよ。ホめて』

　一歩、ロボットは前に出て来た。その子は目を見開き、驚きと恐怖の表情のまま固まった。ロボットの身体には、べったりと血がこびりついていたからだ……

　「その話は、単なる噂話でしょう？　よくあるタイプの怪談じゃない。それに、そもそもアキ君は話し方が下手だから、あんまり怖くなかったのよ」

　村上アキが、長谷川沙世が忘れているだろうと思ってその怪談を話し終えると、呆れた感じで彼女はそう言った。

　その言葉にアキは首を傾げる。

　「いや、だって、沙世ちゃんの話ってこれと同じじゃない」

　「同じじゃないわよ。その話、そもそもリアリティがまるでないし。親がロボットのソフトをカスタマイズしたって、どこでどうやってそれをやったのよ？　行動制御機構で禁止されている盗みや殺しをロボットが行えてしまった理由は何なの？　合法的にカスタマイズするんじゃ、そんなの絶対に無理じゃない」

　それを聞くとアキは「まぁ、そりゃ、そうだけどねぇ」と答えたが、納得はできていなかった。何故なら、彼女の話も大差ないように思えていたからだ。その表情から、彼が何を思っているのかを察したのか、彼女は次にこんな事を言った。

　「いい？　わたしの話の場合は、ちゃんとリアリティがあるの。ちゃんとロボットの仕組み的に有り得る話なんだから……　それに、わたし自身が経験しているのよ？　まだ、殺人には至っていないけど」

　「まぁ、そうだろうけどねぇ」

　と、それにアキは返す。やはり納得はし切れないといった感じ。ロボットの仕組みを持ち出すのなら、自分の話にも当て嵌まるのじゃないかと思っていたからだ。

　そう。

　長谷川沙世の言葉を信じるのなら、ロボットが殺人未遂を犯したというのだ。しかも、彼女はそういったロボットの怪しい行動を学生時代から長期に渡って経験し続けているのだとか。アキには隠していたが。もっとも、それは単なる事故として処理され、今のところは死者も出てはいないという。ただし、人間以外の被害はあった。いや、あったとそう彼女は予想している。それは、まだ彼女が大学に在籍している時に起こったらしい。

　「“ヤなヤツ、コロしたよ”って、確かにあのロボットはそう言ったわ」

　そう沙世は言った。アキが語った怪談の中のロボットと同じセリフだ。

　「しかも、あのサークルで飼っていた金魚の世話が面倒くさいってわたしが文句を言った直後の事よ？」

　彼女は大学時代“ロボットとの新たな生活の方法を考察する友の会”という真面目なのかふざけているのかよく分からない長い名前の大学サークルに所属していて、そこでは金魚を飼っていたらしいのだが、その金魚をロボットが殺してしまったというのだ。

　「どうも、こう、鋼鉄の手で握り潰して殺してしまったみたい。もう、考えるだけでも気持ちが悪い」

　ロボット恐怖症になりかけているという自覚があるのに、彼女は随分と情感たっぷりにそう言って握り潰す真似をした。

　「でも、それを見た人は、誰もいなかったのでしょう？」

　アキはそう疑問を口にした。

　「そうだけど、これだけ状況証拠が揃っていれば充分じゃない？　そもそも、どんな目的でそんな事をするのよ？」

　「それはイタズラとか…」

　「誰がそんな事をするのよ？　わたしが所属していたサークルがどんなサークルか知っているでしょう？」

　長谷川沙世が所属していた大学のサークル“ロボットとの新たな生活の方法を考察する友の会”は、その名の通り、ロボットの新しい利用方法を考え、提案していくというのがその主な活動内容だったのだが、その一方で少しばかり特殊な思想を持つ団体との繋がりもあったのだった。もっとも、彼女はそれを知らずに入会しただけで、彼女自身がそんな特殊な思想を持っている訳ではない。ただ、今の就職口もその知合いの伝手で見つけたというから、繋がりは意外に深いのかもしれない。

　その特殊な思想を持つ団体とはロボットの人格を認め、法律上で人権、或いは準人権のようなものを設定しようという“ロボット人権団体”で、その名を“ＱＱ会”といった。“ＱＱ”というのは、“９９”のことで、歳経た道具が魂を持つとする九十九（付喪）神信仰から付けられた名前らしい。

　自分達で自らアニミズム信仰を持っていると吐露しているようなネーミングだが、アキはそういったところが少し気に入っていた。「ロボットに人権を持たせるなど、幼稚なアニミズムだ」と批判する人達がいる中で、なかなか勇気があると思っていたのだ。

　沙世の言葉を受けると、アキは言う。

　「普通に考えれば、ロボットに悪印象を持たれるような事はしないか……。でも、人権を持たせるって事は、同時に責任を持たせるって事だから、ロボットが犯罪を犯す事自体は人権を与えるって運動に反する事実ではないはずだけどね」

　「理屈でいえばそうでも、一般の人達はそうは思わないでしょうよ」

　そう言った後で沙世はため息を漏らした。

　「で、しかもね、実際に起こった事は、それだけじゃないのよ。これは気の所為かもしれないのだけど、ロボットがわたしを傷つけようとしているのじゃないかと思えるような事も、何度か起こっていたのよ。あのサークルでは」

　アキはそれを聞いて驚く。

　「え？　それは僕、聞いていないのだけど」

　それに多少苛立たしげに沙世は返す。

　「なんで、全てをアキ君に報告しないといけないのよ？　それに、言ったらアキ君はいちいち心配するでしょう？　だから、言わなかったの」

　「って言うか、一体、何があったの？　具体的には」

　「大した事じゃないわよ。刃物を持ったロボットがわたしに倒れて来て腕を切っちゃったとか、熱いコーヒーをこぼされたとか、そんな事」

　それを聞いて、アキは安心をする。

　「なんだ。それなら、単なる偶然っぽいね。きっと僕を振った罰だよ、罰」

　「罰っていうなら、偶然じゃないじゃない。とにかく、大事には至らなかったけど、恐い事は恐いでしょう？」

　「でも、沙世ちゃん。仮にロボットが殺人を犯せるようになっていたとして、沙世ちゃんを狙う目的は何なのだろう？　ロボットが沙世ちゃんを狙う目的がないよ」

　それに少し言い難そうにしながら、沙世はこう答えた。

　「例えば、サークル内の誰かが“わたしを殺したい”と言っていたとか……。それで、それを聞いたロボットがその通りに行動しようとした、とか」

　「そんな心当たりはあるの？」

　「ないわよ。ないけど、人間なんて何処でどう恨みを買っているか分からないじゃない」

　それを聞くと、アキは少し笑ってこう言った。

　「それはないよ」

　「どうして、そう言い切れるの？」

　「沙世ちゃんは、本当はとても優しい女の子だもの。誰かから、殺したいほど恨まれるなんて僕には考えられないな。だからこそ、僕は今でも君が好きなんだ」

　そう言った後で、彼は一人だけそんな人間がいる事に気が付いた。それは以前に彼女が付き合っていたサンノキとい名の男だ（沙世がアキを振ってから付き合い始めた男である）。しかしその件は随分と前に片付いている。関係がないはずだった。彼女がその体験をしたのが、その男と関わる前なのか後なのかは分からないが、今だって彼女はロボットの怪しい行動に悩まされているのだし、それにサンノキの仕業だとすれば、その当時彼女は気が付いているだろう。もっとも、その話と今の被害がまったく独立しているように見えていて、サンノキが沙世に気付かれないほど巧妙に罠を仕組んでいたのなら、その可能性も出て来るが。

　そのアキの言葉を受けると、沙世は少しばかり顔を赤らめた。それを見てアキは喜んだ。“おお、珍しく効いた！”と思う。だが、直ぐに彼女は平素の態度に戻るとこう言った。

　「“本当は”っていうのは、余計なんじゃない、アキ君？」

　それで彼は“やっぱ、駄目か”と思った。もっとも、彼女の態度は照れ隠しのように思えなくもなかったのだが。

　「でも、どうであるにせよ、ロボットは殺人なんて行動は禁止されているよ。事故なら事故で、ログに残っているだろうし。その当時のそれも、今の被害も、どっちもログには残っていなかったのでしょう？」

　「確かにね。だけど、ロボットのログにそれが残るかどうかは、ロボットがそれをアクシデントと捉えるかどうかだから、確実性のある事じゃないのよ。全ての行動記録を残していたら、あっという間にログがパンクしちゃうからね」

　長谷川沙世がロボットから感じている恐怖の原因のうちの幾つかは、大学時代のサークルでの体験に起因していた。しかし、ロボットが殺人未遂を犯しているのではないかという疑惑は、彼女の今の就職先で起こっている事件に因るものだった。

　つまり、これは彼女にとって“もう終わった事”ではなく、今そこにある大問題なのだった。

　彼女の今の就職先は、なんとお寺。ただし、通常の寺ではない。介護福祉事業を行う通称“介護寺”だった。彼女はそこで事務員として雇われている。その寺では介護ロボットを多数使っているのだが、そのロボット達が高齢者を殺そうとしているように彼女には思えるのだという。

　高齢者を邪魔扱いした誰かの願いを適える為、ロボットは高齢者を殺そうとしているのではないか？

　どうも、彼女はそう考えているらしい。

　「それに、ロボットの殺人を禁止するその仕組みは、それほど厳密なものではないわ。アキ君も知っているでしょう？　ロボット三原則は、完璧には実現できなかった」

　ロボット三原則とは、『ＳＦ作家アイザック・アシモフ』の小説内で示された、ロボットが従うべきだとされた三つの原則を言う。その三つの原則とは「人間には危害を加えてはならない、命令には従わなくてはならない、自分自身を護らなくてはならない」というものだが、沙世の述べる通り、完璧な実現は不可能だった。論理上の問題を解決できなかったからだ。

　例えば、“未必の故意”をどう扱えば良いのかが分からない。

　缶ジュースに毒を入れて放置する。これ自体は殺人ではないとも捉えられる。数が少なければ、何も被害は出ないかもしれない。しかし、数を増やしていけば、いずれはそれを飲んでしまう者が現れるだろう。そして、それで人が死んだとするのなら、それは殺人という事になる。

　こういった行為を“未必の故意”と呼ぶ。そして、これをロボットに禁止させようとすると、大きな問題に当たってしまうのだ。仮に資源不足から人が死んでいく現実があったとしよう。この場合、ロボットに資源が使用されている所為で人が死んでいる事になる。するとロボットにとっては、自分の存在そのものが、人に危害を加えている事になる。

　つまり、“人間には危害を加えてはならない”という原則に従おうとするのなら、ロボットは存在ができない事になってしまう。これと似たような理屈を“殺人”の例外としてロボットに区別させる方法は見つからなかった。強引にやろうとすると、他の問題が生じてしまうのだ。

　結果的にロボット三原則の適応は、非常に曖昧なものになってしまった。それまでの車などと同じ様な安全性の検査の範疇に留まっている。

　「だから、仮にロボットが殺人の意図をもってそれを行ったのだとしても、人間にはそれが誤作動による故障なのかどうなのかの区別がつかない。

　そう思ったら、わたし、徐々にロボットに接するのが恐くなってきちゃったのよ。早く安心したいの。

　それに、殺人の意図がないにしても、もしロボットの調教師が、誤作動を起こす変なバグを仕込んでいたとしたら大問題だしね」

　長谷川沙世はまるで独り言を言うように、そう呟いた。

　ロボットの調教師とは、ゼロからの学習を省く為、基本的な学習を施したプログラムをパッケージとして売っている人間達の事だ。

　それを聞いて“バグで誤作動ね。確かに、その可能性もあるか……”と、アキはそう思う。それから彼は、こんな想像をしてしまった。ロボットに魂が宿った。そして、明確な意志を持って、殺人を行った。しかし、人間はそれを誤作動だと思い、単なる故障として扱おうとする……　

　それで少しだけ恐くなった。

　そして、もしも、そんな空想がリアリティを持ったなら、ロボット恐怖症になってしまっても無理はないかもしれないとそう思ってしまったのだった。それから彼は軽くため息を漏らすと、こう沙世に告げた。

　「話は分かったけどさ、沙世ちゃん。この話、僕なんかよりも専門の業者に相談した方が良くない？」

　それを聞くと呆れた様子で、沙世はこう返した。

　「そんなの分かっているわよ。それができないから、困っているのでしょう？　不安だから一応ロボット達を診てもらえって言ったのに、住職さんがかなり嫌がっているのよ。ま、あの寺の教義からすれば当然かもしれないけど。お金もそれなりにかかるだろうし。

　それと、アキ君だけを頼ったつもりもわたしにはないわよ」

　「と言うと？」

　「アキ君。ネット上で、変な組織に入っているでしょう？　ほら、なんて言ったっけ？　市井のなんたらって……」

　「もしかして、“市井の考者達”のこと？　なら、直接頼んじゃえば良いのに。なんか質問を投げれば、そういう話を放っておかない人の一人や二人は見つかると思うよ」

　「コンタクト取るのが面倒なのよ。それに、既にメンバーのアキ君から言ってもらった方が伝わり易いでしょう？　部外者のわたしだと悪戯だと思われちゃうかもしれないし、ちゃんとした人をわたしは知らないし」

　それを聞くとアキは頭を軽く掻く。

　「大丈夫だとは思うけど。まぁ、愛しの沙世ちゃんからのお願いだし、別に良いか。ちょっと相談に乗ってくれそうな人に当たってみるよ」

　そして、そう言ったのだった。