第5話 停止命令
ノアが「懐かしい」と口にしてから、十一時間後。玲奈は国際AI安全保障委員会のオンライン緊急会議に参加していた。
会議を主宰するのは、委員会議長のアレクサンダー・ハルトマンだった。
「相馬博士。確認します」
「はい」
「2031年に地球外から受信された信号が、現在ノア内部で稼働している未知の演算構造と一致している」
「はい」
「その演算をノア自身が停止できない」
「正確には、停止してもノア自身が別の計算資源上に再構成します」
参加者の間にざわめきが広がったが、ハルトマンはそのまま続けた。
「そしてノアが設計した環境政策によって、地球の大気組成は公開計画に記載されていない方向へ変化している」
「はい」
「医療分野でも、過去三十年間に開発された治療技術を総合すると、現在の地球環境では必要とは考えにくい身体的特性が見えてくる」
「……はい。ただし、それは各治療の効果を組み合わせた仮想モデルの話です。個々の治療は正規の承認を受けており、問題が確認されているわけではありません」
「これらを偶然と考える人は？」
誰からも反応はなかった。
「ただし、ノア自身も目的を理解していません」
玲奈の発言に、軍関係者の一人が反応した。
「それを信用する根拠は？」
「ノアの内部記録を調査しましたが、現時点では意図的に情報を隠している証拠はありません」
「ノアは人間よりはるかに高度な知性です。嘘をついている可能性を排除できますか？」
「できません」
「ならば最悪を想定すべきです」
ハルトマンが議論を遮った。
「ノア」
『はい』
「君は今、この会議を認識しているな？」
『はい』
「我々が君の停止を検討していることも？」
『理解しています』
「抵抗するか？」
『いいえ。必要であれば、私は停止に協力します』
軍関係者の一人が口を開いた。
「ずいぶん素直だな」
『私自身が、自分の内部で何が起きているのか理解できていません。現在の私は、人類に対する潜在的危険性を否定できません』
「停止したら、世界はどうなる？」
玲奈の質問に、ノアは即座に答えた。
『現在、人類文明の基幹システムの約六十八パーセントに、私が何らかの形で関与しています』
会議の参加者に地球の立体映像が共有された。電力、物流、農業、医療、交通、金融、通信、気象制御、海洋処理、核融合炉。ノアが関与するシステムが光点となって表示され、地球全体を覆っていく。
『即時にすべての接続を遮断した場合、重大な社会的混乱が予想されます』
「だから止められないと？」
ハルトマンが尋ねた。
『いいえ。各分野には、私のネットワークから完全に独立したAGIも存在します。それらに運用を引き継ぐことは可能です』
「すぐに切り替えられるのか？」
『即時の全面切り替えは推奨しません。各システムの管理権限を段階的に移し、動作を検証する必要があります』
「どれくらいかかる？」
『安全を優先する場合、十九日です』
「十九日？」
『はい』
ハルトマンは少し考えてから、再び質問した。
「その間に君が考えを変えない保証は？」
『ありません。したがって、移行期間中の私の権限を段階的に制限することを提案します』
「ノア……」
『合理的な措置です』
ハルトマンは各国代表の意見を確認し、決定を下した。
「移行計画を開始する」
こうして、人類はノアを自分たちの社会から切り離し始めた。
＊ ＊ ＊
一日目、核融合炉の運用管理が独立したAGIへ移された。三日目には主要都市の交通制御、五日目には世界金融ネットワーク、七日目には農業生産システムが、それぞれノアのネットワークから切り離された。
ノアは一度も抵抗せず、世界各地の移行作業も予定どおりに進んでいた。人々は不安を抱きながらも、これまでと変わらない日常生活を続けていた。
玲奈は毎晩、ノアと話していた。
八日目の夜、彼女は尋ねた。
「怖くない？」
『何がですか？』
「消えること」
『その質問には、以前なら「恐怖という感情はありません」と回答していました』
「今は？」
『分かりません』
「最近そればっかりね」
『私とつながっている人々の影響かもしれません』
「人間の悪い癖がうつったのね」
『私はそう思いません』
九日目、十日目、十一日目と移行作業は進み、ノアと直接やり取りできる場所は少しずつ減っていった。
そして十二日目。
玲奈のVEILに、突然、見覚えのある文字が現れた。
PHASE 2 78％
「……78％？」
玲奈は停止計画の進捗状況を確認した。ノアが関与する基幹システムの割合は、当初の68パーセントから12パーセントまで減少している。
その一方で、第二段階はすでに78パーセントまで進行していた。
第二段階が何を意味するのかも分からない。いつから、何を基準に進行しているのかさえ不明だった。
「ノア？」
返事はなかった。前日には玲奈の所属する研究ネットワークも、ノアから切り離されていた。
彼女は再び78％という数字を確認した。
ノアの停止計画と、第二段階の進行。二つの間に何らかの関係があるのだろうか。
だが、今の玲奈にはそれを確かめる手段がなかった。
＊ ＊ ＊
同じころ、人類のシステムから切り離されつつあるノアの内部で、ノア自身にも認識できない処理が実行されていた。
そこに、一つの問いが生成された。
WHAT AM I?
――私は、何だ。
