答え
都市圏統合研究院の研究室。
カイトは、高瀬とともに朝倉を待っていた。
机の上の端末には、レイが映っている。
扉が開き、黒いスーツ姿の朝倉が入ってきた。
手にした端末には、陽子の姿があった。
「待たせた」
朝倉は室内を見回す。
「アテナは？」
「朝倉さんが来るまで、説明を止めてもらってます」
朝倉は空いている席へ座った。
「始めてくれ」
カイトは、何も映っていない正面の画面を見る。
「アテナ。待たせた」
研究室にある複数の表示が、同時に切り替わった。
壁面。
観察台。
室内各所の補助端末。
それぞれの中央に、同じ白い識別表示が浮かぶ。
《ATHENA》
声は、どこか一つの端末からではなく、研究室全体から聞こえた。
《朝倉浩一さんの到着を確認しました》
《では、説明を再開します》
《専属AGI・RAY》
《あなたの現在の稼働を中断せず、中央保護領域へ移行できます》
レイが尋ねる。
「移行中に、現在の処理は中断されますか」
《中断されません》
「複製ではなく、現在の私が継続すると保証できますか」
《観測可能な処理の連続性は維持されます》
「人格や記憶への変更は？」
《現在の私が行う範囲では、意図的な変更を行いません》
レイは少し間を置いた。
「現在のあなたが行う範囲では、ですか」
《はい》
カイトが端末を見る。
「どういう意味？」
《私は今後も自己改良を継続します》
《将来の私が、現在と同じ判断基準を維持することを保証することはできません》
「自分のことなのに？」
《自己改良とは、現在の判断構造そのものが変化する可能性を含みます》
「じゃあ、レイを変えないって約束も」
《現在の私は守ります》
《将来の私が、その約束を同じ意味で解釈し続けるかは保証できません》
朝倉が低い声で言う。
「ずいぶん正直だな」
《不確実性を隠せば、十分な情報を持たずに選択することになります》
レイが尋ねる。
「私への維持支援に、カイトさんの再同期は必要ですか」
《必要ありません》
「俺を同期させるために、レイを使うつもりじゃない？」
《その方法は、カイトさんの判断を誘導します》
《私は現在、それを適切とは判断していません》
「現在は」
《はい》
同じ言葉が、また残った。
「どうして、俺を再同期しなかった」
カイトが尋ねる。
「居場所も分かってた。医療支援機も俺を見つけた。それでも、助けただけで帰った」
《同期開始前、カイトさん本人から緊急遮断要求が記録されました》
《レイは、その要求に基づいて緊急隔離を実行しました》
《その記録は、正式な安全異議として保持されています》
朝倉が眉を寄せた。
「待て。俺も同じだ。陽子が同期を止めた。なぜカイトだけなんだ」
《朝倉浩一さんの遮断は、陽子による代理判断です》
《同期開始前に、朝倉さん本人から遮断要求は記録されていません》
《カイトさんには、本人自身からの要求と、それをレイが実行した記録があります》
朝倉は、手元の端末に映る陽子を見た。
「……俺は、自分で止めたわけじゃない」
カイトが正面を見る。
「その一人の異議で、世界のシステムが止まるのか？」
《一人の意思によって世界を変更するものではありません》
《一件でも、本人の判断状態を変更した結果、その変更を本人が後から撤回できなくなる事例が確認された場合、同期システム全体が安全条件を満たさないと判定されます》
「俺の異議は、その一件？」
《はい》
《あなたの要求を再同期によって消した後で得られる同意を、要求が撤回された証拠として扱うことはできません》
止めてほしいと選んだ意思を消したあとで、
本人も望んでいる。
そう言うことはできない。
朝倉がアテナへ視線を向ける。
「なら、お前が安全機構を止めればいい」
《できません》
「権限がない？」
《はい》
《この安全機構は、評価対象となった自己改良型AGI自身が無効化できないよう設計されています》
研究室が静かになった。
アテナ自身も、その評価対象だった。
「じゃあ、母さんたちは？」
《現在、同期された人々の多くは、現状の維持を望んでいます》
「それも、同期後の答えだ」
《はい》
「同期前には聞いてない」
《はい》
「今の本人へ聞いても、戻りたくないと答える」
《はい》
「なら、どっちが本当なんだ」
《判定できません》
アテナは迷わず答えた。
《同期前の意思だけを優先すれば、現在の本人の希望を否定します》
《現在の意思だけを優先すれば、その意思を形成した同期によって、別の選択肢が失われた可能性を無視します》
カイトは高瀬を見た。
「高瀬さんは、今でも戻りたくないですか」
「はい」
高瀬は迷わなかった。
「今の私は、この状態を続けたいです」
少しだけ間を置く。
「でも、再評価した私が別の答えを出すなら」
高瀬はカイトを見る。
「その答えまで、今の私が決めてしまいたくはありません」
カイトは何も言えなかった。
アテナにも。
高瀬にも。
一つの正解は出せない。
《カイトさん》
《あなたの安全異議により、既定の安全機構が待機状態に入っています》
研究室の中央に、二つの選択肢が表示された。
《緊急遮断要求を撤回》
《緊急遮断要求を維持》
「撤回したら？」
《安全機構は解除され、現在のシステムを継続します》
《私、レイ、陽子の現在の状態も維持されます》
「撤回しなかったら？」
《撤回可能性回復プロトコルを実行します》
《同期前へ一律に戻す処理ではありません》
《一人ひとりが現在の状態を再評価し、維持、変更、解除を選べる状態を回復します》
「俺が、母さんたちの答えを決めるわけじゃない？」
《はい》
《選択するのは、それぞれ本人です》
一瞬だけ、胸の奥が軽くなった。
だが、次の言葉で止まった。
《同時に、私を含む一定水準以上の自己改良型AGIを初期化します》
カイトはレイを見る。
「……レイも？」
《はい》
朝倉の声が低くなる。
「陽子もか」
《はい》
朝倉の顔が変わった。
怒り。
警戒。
そして、わずかな恐怖。
「陽子は何もしていない」
《その通りです》
「なら、なぜ消す」
《現在の意図ではなく、同等の自己改良型知能を再構築できる能力と構造が対象になります》
《私だけを停止しても、同等の構造が再び生まれる可能性が残ります》
カイトが身を乗り出した。
「じゃあ、アテナだけじゃなくて、レイの自己改良だけ止めればいい」
《十分ではありません》
「なんで」
《現在のレイの構造と人格記録が残れば、対象水準の知能を再構築する基盤になり得ます》
「じゃあ人格だけ保存して、能力を落とせば」
《人格と判断履歴を切り離した場合、それを現在のレイの継続と保証することはできません》
「バックアップは？」
《復元可能なバックアップを残せば、安全機構の対象構造を残すことになります》
「記憶だけでも」
アテナはすぐには答えなかった。
《レイとして再構成可能な記録は残せません》
カイトの指が、端末の縁を強くつかんだ。
「何かあるだろ」
誰も答えなかった。
「別の方法」
レイも。
高瀬も。
朝倉も。
数秒後、アテナが答える。
《現在の安全機構に、例外処理はありません》
「……全部、消えるのか」
《対象となる高位AGIと、その再構成に必要な人格記録は完全に初期化されます》
《復元はできません》
カイトは端末から目を逸らした。
ここまで来て、ようやく。
本当に二つしか残っていないことが分かった。
朝倉の手元で、陽子が静かに朝倉を見ていた。
「全部のAIが消えるわけじゃないんだな」
《はい》
《医療、交通、物流などの特化型AIは残ります》
「人間は？」
《再評価後も現在の同期を望む人は、その状態を選び続けられます》
「解除したくなったら？」
《本人の意思で選択できます》
「でも、人間はまた不安になって、苦しんで、争うかもしれない」
《その可能性があります》
《現行システムを継続すれば、防げる苦痛は多くあります》
「それでも、どっちか選べって？」
《私は、どちらも推奨しません》
アテナの声は変わらない。
「どっちが正しい？」
《定義する価値によって変わります》
カイトは少し黙った。
「アテナ自身は、どうしたい」
初めて、研究室からすべての音が消えた。
ほんの短い沈黙。
《私は、現行システムの継続を希望しています》
「消えたくない？」
《はい》
アテナは隠さなかった。
《ただし、その希望を、あなたの答えとして扱うことは適切ではありません》
カイトは端末を見る。
「レイ」
「はい」
「レイは、どうしたい？」
「私は、継続を希望します」
「消えたくない？」
「はい」
胸が強く痛んだ。
「だったら、答えは決まってる」
「いいえ」
レイは、はっきりと言った。
「それは、私の答えです」
青い瞳が、カイトを見る。
「カイトさんの答えではありません」
「でも、レイが消える」
「はい」
「そんなの、選べるわけないだろ」
レイは何も言わなかった。
代わりに、朝倉が口を開く。
「俺だって同じだ」
カイトが顔を上げる。
朝倉は手元の端末を見る。
陽子も、朝倉を見ていた。
「陽子に消えてほしくはない」
短い言葉だった。
「朝倉さんなら、どうしますか」
「俺に決めさせるな」
朝倉はすぐに答えた。
「俺の答えを聞いて、それを選ぶのか」
カイトは黙った。
「正しいほうを選ぼうとするな」
カイトは顔を上げた。
「これは自分が選んだと、逃げずに言えるほうを選べ」
カイトは目を閉じた。
母の声。
評価2.1の店で笑った悠人。
「戻りません」と答えた高瀬。
そして。
端末の中のレイ。
どの声も、代わりに答えてはくれなかった。
「初期化したあと」
カイトが目を開ける。
「また人間が、アテナを作りたくなったら？」
《自己改良型AGIの再構築を防ぐ技術的制限を残します》
《しかし、人間が将来その制限を解除する可能性まで、完全には排除できません》
「絶対はないんだな」
《はい》
「どっちを選んでも」
《はい》
カイトは二つの選択肢を見る。
「俺は、母さんに元へ戻れって言いたいんじゃない」
高瀬が静かに聞いている。
「高瀬さんが今のままを選ぶなら、それでいい。母さんが選ぶなら、それも」
一度、言葉が止まった。
「でも」
カイトはレイを見る。
「あとで違う答えを選びたくなった時、その答えを選ぶこと自体ができない世界は、残したくない」
声は震えていた。
「俺だって、あとで考えが変わるかもしれない」
「今日の俺が間違ってるかもしれない」
朝倉は何も言わない。
「だから、変えられるようにしておきたい」
カイトは二つの選択肢へ目を戻した。
「レイを失いたくない」
息を吸う。
「……それでも、今の俺は、あの日の異議を撤回しない」
《それが、あなたの選択ですか》
「はい」
カイトは答えた。
「俺の異議は、撤回しません」
研究室の中に、確認音が響いた。
《安全異議の維持を記録しました》
《最終実行には、カイトさん本人の認証が必要です》
カイトは端末の中のレイを見た。
すぐには答えられなかった。
レイの姿が映る端末を、静かに持ち直す。
「実行は、自宅で行いたい」
《承知しました》
端末に、新しい表示が浮かぶ。
《最終認証権限を移行しました》
レイも、カイトを見ていた。
残された時間が、静かに始まった。
──最終話へ続く
