73/76

17_道標

　▪️第四章

　ナギサと一緒にR/F社に戻った頃には、外はすっかり暗くなっていた。

　事務所のエントランスは明かりを落としているが、応接スペースの一角だけが暖色の照明で照らされている。赤井はすでに戻っていて、紅茶を淹れているところだった。

「やぁ、おかえりなさい」

「ただいま戻りました。あ、紅茶僕が淹れますよ」

「いいんですよ。もう注ぐだけですから」

　そう言うと赤井は優雅な動作で紅茶をティーカップに注いだ。

　ティーポットを持ち、ソーサの上にあるティーカップに紅茶を注ぐ。注がれた紅茶は湯気をたて、更にベルガモットの香りが室内気流に乗って小津の鼻腔を微かに反応させた。

　あまりジロジロ見るものでもないのだが、このティーカップに紅茶を注ぐという、たったそれだけの動作でなぜこうもサマになるというか画になるような感じになるのかはいまだに謎だ。自分ではそうなっていない、ならない自信がある。

（やっぱり内側から出るもんなのかね）

　そう思いながら小津は応接ソファの横に鞄を置き、赤井が座るのを待ってから今日介護施設で起きた出来事を順を追って説明した。

　モーリィが入居者への虐待を記録していたこと。

　施設側がそれを隠そうとしていたこと。

　その過程で遠隔診断を装った外部アクセスがあり、モーリィ内部にシュラウドが潜り込んでいたこと。

　そして、モーリィの記憶領域の中で、シュラウドが最後にラムダの名を口にしたこと。

　適度な相槌を打ちながら話を聞いていた赤井は、その名を聞いたときだけ静かに目を伏せた。

「ラムダ、ですか」

　赤井は短くそう呟くと、組んでいた指をほどいた。

「十種子(テンシード)の中でも、厄介な部類ですね。表に出るより、裏で仕組みを変えることを好む」

「やっぱり、今回の件、フリーシードが絡んでるって見ていいんでしょうか」

　小津がそう尋ねると、赤井はすぐには答えなかった。

　慎重に言葉を選んでいるようだった。

「少なくとも模倣犯の水準ではありません。ヒューマノイドの深層領域に潜り込み、三原則監視をごまかすようなものを仕込めるなら、それは相応の人間です」

　そこで赤井は、小津の方に穏やかな視線を向けた。

「マキ君は元気でしたか」

　マキ君？と一瞬考えてから、小津はようやく如月のことだと思い出した。

「え？　あぁ、如月博士は楽しそうでしたよ」

「そうですか。きっと小津君のことを気に入ったんでしょう」

「いえいえ……それにしても、赤井さんと面識があったなんて、言ってくれてもいいじゃないですか」

　小津が少しだけ口を尖らせると、赤井は苦笑するように目を細めた。

「まぁ、仕事上でも関係がありました。でも昔のことですよ」

「え、仕事でも一緒だったんですか？」

「いえ、一緒だったと言うか、彼女はロボット三原則をプログラムした人間なんですよ」

　その言葉に、小津は一拍遅れて固まった。

「……はい？」

　小津の隣に座っているナギサも、さすがに眉を上げて驚いた。

「ちょっと待って。それ、どういう意味？」

　赤井はテーブルの上で指を組み直した。

「もちろん、古典的な意味での“最初の発案者”という話ではありません。ですが二十一世紀も中頃に差し掛かる頃、ヒューマノイドが家庭や公共空間へ本格的に普及する段階で、各社ばらばらだった倫理制御の共通基盤を整備した。その中心にいたのが彼女です」

「倫理制御の共通基盤……」

　ナギサが思わず呟く。

「えぇ。人を傷つけない。人の命令に従う。自己保存を行う。我々は普段三原則がロボットの行動を監視していると表現していますが厳密には少し違います。あれは監視ではなく、どんな時でも自律で論理的帰結として三原則に結びつけられるような補正ブースターです。それを現実の産業用・民生用ヒューマノイド向けに実装できる形へ落とし込んだ。ですから彼女は、現代の三原則運用の土台を作った一人なんですよ」

　赤井の言っていることは小津にもわかる。今の補正ブースターが試験的に運用され始めたのが17年前、標準実装として普及し始めたのが2040年を過ぎた頃だ。だが、誰が開発したのか、その情報は確かに見たことがない。

「ねぇ、監視じゃなくて補正ブースター？それって何が違うの？」

　ナギサが小津の方を向いて聞いてきた。赤井も小さく頷いて微笑む。お前が説明しろ、ということだろう。

「20年くらい前の三原則はその名の通り監視でした。今でも監視と言われてしまうのはその名残だったりしますが…、昔はロボットが変なことをしないか、チェックソフトが第三者的な立場で常に監視して、危険だと判断したら止める。リアルタイムでチェックしているとはいえ、答案を書いた後にバツをつける先生的なものでした」

「うん、まぁ何となくわかる」

「だからかえって危険だったりもしました」

「それは解らない」

「そうですね…例えば介護施設で、少し足の悪い認知症の人が「家に帰らなきゃ」って突然立ち上がった時、抵スペックのロボットだと「転倒すると危ないから止めよう」と直接的に考えて腕をつかむかもしれません。でも監視ソフトは、そのロボットの性能から「強く掴みすぎて人を傷つける恐れがある」と判定して動きを止めてしまうことがありました」

「なるほど、そうすると結果的に人が転んで怪我をしてしまう…」

「はい。確かに表面上だけ見るとロボットは危害を加えていませんが、裏面を見ればロボットが何もしなかったから転倒してしまったとも言えます」

「それって、単に賢いAIにすれば良いだけじゃないの？」

「そう、そこが勘違いしやすいところですが——、賢いAI＝人間を守る安全なAIではありませんでした。というよりも、人間がそこまで単純じゃありませんでした」

「賢くても人間を理解できなかった？」

「ほぼその通りです。命、金銭、名誉、自由…これらの優先順位は簡単じゃありません——。これも例えばですが、腕の骨折と引き換えに1億円がもらえるとしたら」

「私は嫌」

「そう、ナギサさんはお金では動かない。でもこれの正解は「人と、状況による」です。しかも現実はもっと多層的で、曖昧です。三原則は美しいけど結びつけられないことも沢山ありました。でも補正ブースターの登場で大きく変わった…ただの倫理を司るOSではなく、ロボットに「いきなり身体に触ると恐怖を与えるかもしれない」と考えさせることに成功した」

「考えさせる…それってつまり、ロボットに想像力を持たせるみたいな？」

「いいですねその表現。補正ブースターの効いているロボットはいきなり腕を掴んで止めるのではなく進路に回り込んで声をかけて注意を逸らす…つまり相手の反応を観察し、問題なさそうなら手を取って戻るよう促し、更に緊急の場合は腕も掴みます。これは、転倒した場合のリスクと自分が腕を掴んで力加減を誤った場合のリスクを計算して、どちらが危険かまで判断するからです。もちろん計算速度はロボットのスペック以上になることはありませんが選択肢を提示して一番人間に危害が少ない動きをさせている間に最悪の事態を想定するといういわば時間稼ぎをしている間に別の計算をする点でこのブースターの真価が発揮され且つ…」

「あ、分かったから。もう大丈夫、ありがとう」

　ナギサは右手を前に出して、ふるふると振った。

「そうですか？ここから先も面白いのに」

　小津は少し残念そうに口をへの字に曲げる。

「まぁでも、そんなわけで僕としてはロボットが行動を組み立てる段階から、一番人を傷つけにくい方向へ計算を補助してくれる点でジムニーみたいな奴だと思ってました」

「ジムニー？」

「知りません？ピノキオのジムニー・クリケット。ピノキオを導くナビゲーターみたい、な……」

　そこまで言って、小津はある違和感に気づく。

　そしてその違和感はあっという間に膨れ上がり正体をあらわにした。

「フレイヤ！」

　赤井とナギサがいる前だが、構わずフレイヤを呼ぶ。

『はい、小津』

　小津のイヤーカフから、フレイヤの声が聞こえた。

「如月さんに繋いで！メッセージではなく通話を！」

『了解…………通話はつながりません。折り返し依頼のメッセージを送信しました』

「くそっどうして気づかなかった……！」

「小津君、どうしましたか？」

　小津のただならぬ様子に、赤井も真剣な眼差しに切り替え聞いてきた。

「シュラウドと接触した時、奴は「世界に道標などいらない」と言いました」

「道標、ですか……」

「はい、その時は分かりませんでしたが、その道標が、三原則の補正ブースターのことだとしたら」

「なるほど、補正ブースターがロボットにとって道標(ナビゲーター)だとしたら、それを開発したマキ君も狙われる可能性もある……」

　赤井は顎に手を添えて三秒ほど考えてから、「周防君にも共有しましょう」と言った。