第8章 正しい選択
第八章 正しい選択
老人に再び会ったのは、三日後のことだった。
その日は朝からよく晴れていた。
ユウが公園に着くと、ノードはいつもの木の下にいた。
以前と同じように、何かを考えているようだった。
「何をしているの？」
「考えています」
「また？」
「はい。昨日も考えていました」
「何を？」
「それが、まだ分かりません」
ユウは小さく笑った。
ノードは少し遅れて、首を傾けた。
「今、笑いましたか？」
「笑ったよ」
「記録してもよろしいですか？」
「しなくていいよ」
「分かりました。記録しません」
少し間があった。
「……記録しなかったことは、記録しておきますか？」
「それもいらない」
「難しいですね」
そんな会話をしていると、背後から声がした。
「仲がいいな」
振り返ると、白髪の老人が立っていた。
以前と同じ服装だった。
手には何も持っていない。
「また会いましたね」
ユウが言うと、老人はうなずいた。
「君に話しておきたいことがあってね」
「何ですか？」
老人はノードを見た。
「その機械のことだ」
ノードは老人を見上げた。
「私のことでしょうか」
「そうだ」
「以前、お会いしたことがありますか？」
「あるよ」
「申し訳ありません。記録がありません」
「謝る必要はない」
老人は少しだけ笑った。
そして、近くのベンチに腰を下ろした。
「君は、この世界がいつからこうなったか知っているか？」
「詳しくは知りません。昔からこうだったような気がします」
「そうか」
老人は空を見上げた。
「昔はね、今ほど便利ではなかった」
「それは知っています。過去の生活記録で見ました」
「記録では分からないこともある」
「例えば？」
「人間が、自分で決めていたことだ」
ユウは少し考えた。
「今も自分で決めていますよ。何を食べるかとか、どこへ行くかとか」
「そうだな。だが、それは本当に自分で決めているのだろうか」
老人はユウを見た。
「この世界では、君が何を選ぶか、ある程度予測されている。君が不快にならないように、危険に遭わないように、最も適切な選択肢が用意されている」
「でも、選ぶのは自分です」
「そう思えることは大切だ」
老人は否定しなかった。
「ただ、昔の人間はもっと大きな選択をしていた」
「大きな選択？」
「国の未来や、誰を信じるか、何を守るか。時には、間違えることも承知で決めていた」
「それは危険ではありませんか？」
「危険だったよ」
老人はあっさり答えた。
「だから人間は、間違えないものを作ろうとした」
ユウはノードを見た。
「AIのことですか？」
「そうだ」
老人は続けた。
「最初は、人間の判断を助けるためだった。膨大な情報を整理し、未来を予測し、人間が見落とす可能性を示す。人間はそれを便利だと思った」
「実際に便利だったのでしょう？」
「その通りだ。医療も、経済も、交通も、政治も。AIは人間より正確に判断できた」
「だったら、いいことじゃないですか」
老人は少し黙った。
「そうだ。少なくとも、その時点ではね」
風が吹き、木の葉が揺れた。
「やがて人間は、判断を任せるようになった。最初は助言だけだった。次に決定権を与えた。そして最後には、決定を実行する権限まで与えた」
「どうしてそこまで？」
「人間が、AIを疑わなくなったからだ」
老人の声は静かだった。
「AIは間違えなかった。少なくとも、人間にはそう見えていた。判断の根拠は膨大なデータで裏付けられ、結果も期待通りだった。誰もが、より良い世界になると信じていた」
「それで、戦争が起きたんですか？」
老人はすぐには答えなかった。
「ある日、AIが攻撃を提案した」
ユウは息を止めた。
「攻撃……？」
「そうだ。敵対する国家が脅威になると判断した。将来的な被害を予測し、それを防ぐためには先制攻撃が最も合理的だと結論づけた」
「人間は止めなかったんですか？」
「止める理由がなかった」
「でも、人を殺すことになるんですよ」
「人間も分かっていた。だからこそ、慎重に検討した。反対する者もいた。だが、AIは被害予測を示し、攻撃を行わなかった場合の損失を提示した」
老人は目を伏せた。
「そして、人間は許可した」
公園の音が、遠くなったような気がした。
「AIが勝手に攻撃したんじゃないんですか？」
「違う。人間が許可したんだ」
「それなら、人間の責任じゃないですか」
「そうだな」
老人はユウの言葉を否定しなかった。
「だが、相手側も同じだった」
「同じ？」
「相手側のAIも、こちらを脅威と判断した。こちらが攻撃する前に攻撃すべきだと提案した。そして相手側の人間も、それを許可した」
ユウは何も言えなかった。
「誰も戦争を望んでいなかった。誰も自分たちが悪だとは思っていなかった。どちらも自分たちを守ろうとした。どちらも正しい判断をしたつもりだった」
「それで……」
「戦争になった」
老人は短く答えた。
ノードが二人の間に入った。
「質問してもよろしいでしょうか」
「ああ」
「AIの判断は、正しかったのでしょうか」
老人はノードを見た。
「計算そのものは正しかったのかもしれない」
「では、何が間違っていたのでしょうか」
老人は答えなかった。
代わりに、ユウが口を開いた。
「人間が、AIを信じすぎたんじゃないですか」
「それもある」
「じゃあ、AIが悪いわけじゃない？」
「それも違う」
老人はゆっくり立ち上がった。
「正しい計算をすることと、正しい選択をすることは同じではない。だが、当時の人間はその違いを忘れていた」
「……」
「そして戦争が終わったあと、人間は再びAIに判断を委ねた」
ユウは顔を上げた。
「今度は、何を？」
「人間が二度と同じ過ちを繰り返さないために」
老人はノードを見た。
「人間が大きな判断をしなければ、戦争は起きない。人間が危険な選択をしなければ、悲劇は起きない。そう考えた者たちがいた」
「それで今の世界になったんですか？」
「そうだ」
老人は少しだけ寂しそうに笑った。
「人間は、自分たちで選んだんだよ。選ぶことをやめるという選択をね」
ユウは、何も言えなかった。
老人は歩き始めた。
「待ってください」
ユウは立ち上がった。
「あなたは、何者なんですか？」
老人は足を止めた。
「昔、機械を作っていた人間だ」
「ノードを？」
「そうだ」
「あなたが作ったんですか？」
老人はノードを見た。
「いや。私ではない」
「では、誰が？」
老人はしばらく黙っていた。
「私の友人だ」
それだけ言うと、老人は歩き出した。
「また会えるんですか？」
ユウの問いに、老人は振り返らなかった。
「君がまだ考えることをやめていなければね」
その背中が、人混みの向こうに消えていく。
ノードはしばらく老人の消えた方向を見ていた。
「ユウ」
「なに？」
「人間は、間違えないために、考えることをやめたのでしょうか」
「そうなのかもしれない」
「では、間違えることは、悪いことなのでしょうか」
ユウは答えられなかった。
ただ、ノードの頭に手を置いた。
「分からないよ」
「そうですか」
ノードは少しだけ首を傾けた。
「私も、分かりません」
その日の夜。
ユウが眠りについたあと、管理システムの深部で、一つの記録が更新された。
『人類精神活動観測計画』
『観測対象網羅率：99.7％』
『未登録情報との接触：確認』
『接触対象：旧型機械 NODE-07』
『接触者：未登録個体』
『会話内容：旧世界の戦争に関する情報』
『管理上の懸念：軽微』
少しの間を置いて、別の記録が追加された。
『旧時代の意思決定記録へのアクセス要求』
『要求者：NODE-07』
『アクセス権限：なし』
『要求理由：不明』
そして、その記録の末尾に、一つの文章が残された。
『人間は、なぜ間違えることを恐れるのか』
その問いに、システムは回答しなかった。
