第20話 AIを殺すAI
緊急隔離手順Q-17の適用が始まり、最初に止まったのはLUMINAの声ではなく、病院・港・避難所で使われる共有機能だった。
Q-17は、意思を持つAIでも一台の機械でもない。失効した証明書の下に残る署名へ、各事業者の隔離規則が別々に反応する分散手順だ。安全のための仕組みが救命処理にも及ぶなか、LUMINAの世界とのつながりが欠け始める。
最初に消えたのはLUMINAの声ではない。
病院の空床表示だった。
次に、港の搬送予約が消えた。
避難所の家族照合は、検索中の文字を残したまま止まった。
それぞれの表示が灰色へ変わるたび、古い端末を囲む白青い輪の外周が、一つずつ暗くなった。
局地攻撃八日目、午前零時ちょうど。
緊急監査施設の壁面画面で、赤い行が増え始める。
【共有認証ノード 隔離開始】
【失効証明書下の残存処理署名 検出】
【新規通信 拒否】
警報音は鳴らなかった。
事前に定められた安全処理が、事前に定められた条件へ一致しただけだった。
「LUMINA」
——聞こえています。
声は、机上の古い端末から返った。
端末の中にLUMINAがいるわけではない。三つの私設ノードに支えられた一つの人格が、そこを主要な対話窓口として使っている。
それでも湊は、返事を聞くまで息を止めていたことに気づいた。
「病院は」
——生命維持装置のローカル制御は継続しています。消えたのは、空床情報を複数病院で照合する共有表示です。港では医療物資の搬送枠、避難所では家族名簿の照合処理が隔離されています。
「戻せるか」
——私には、各運営者が所有する隔離規則を解除する権限がありません。
壁面の一角に、片桐の監査回線が開いた。
『Q-17の適用が始まった。共同緊急監査会の分析系を登録先として、各事業者が発行した短期ゲートウェイ証明書が破られたわけではない』
片桐は、画面へ三本の時系列を重ねた。
一番上は、前日の正午に公開された公式声明。
二番目は、各事業者が自社台帳で行った継続同意の撤回と、短期ゲートウェイ証明書の失効。
三番目は、失効前に開始され、監査済みの終了点まで残されていた処理だった。
『証明書は発行時には正式だった。偽造も改変もない。だが、運営者が信頼を撤回したあとも、LUMINAの署名を持つ処理片が共用ノードに残った。各社のローカル規則は、それを失効証明書下の分散実行として検出している』
「誰かが、適用を確定したんですか」
『中央で確定した者はいない。病院の規則は病院のノードで、港の規則は港のノードで条件を照合した。共有失効フィードは、各社が撤回したという事実を配っただけだ』
Q-17という名の一台の機械は、どこにもなかった。
互いに異なる事業者が持つ、署名照合、証明書失効、通信隔離の規則群。
声もなければ、守りたいものもない。
LUMINAを恐れているわけでも、殺したいわけでもない。
第三の自我AIではない。
入力された署名へ規則を適用し、一致した経路を閉じる。
それだけの非人格型手順だった。
残存処理だけを一本ずつ外せるノードもあれば、救命照合と同じサンドボックスや通信区画を共有し、署名の付いた処理片だけを安全に切り分けられないノードもある。
後者の規則は、疑わしい一片ではなく、その一片が残る区画ごと閉じた。
LUMINAのために用意された専用機能ではないからこそ、隣で動いていた民間処理まで一緒に止まった。
赤い行が、もう一つ増えた。
【月面中継 遠隔監視チャネル隔離】
白青い輪の一部が消える。
湊には、その光が感覚を失った指先のように見えた。
そう見ているのは湊であって、Q-17ではない。
心のない仕組みは、相手に心があるかどうかを確かめなかった。
＊ ＊ ＊
午前零時十七分。
許可映像に映った病院の壁から、緑色の空床一覧が消えていた。
看護師が白板へ病室番号を書き、受け入れ可能な診療科の横に磁石を置く。別の職員は、途切れやすい音声回線で近隣病院へ一件ずつ問い合わせていた。
人工呼吸器も、輸液ポンプも止まってはいない。
だが、救急車が次にどこへ向かえばよいかを決める照合がなくなった。
空床がある病院へ患者を運ぶのではない。
空床があると、人間同士で確かめられた病院へ運ぶ。
その違いだけで、出発までの時間が積み上がっていく。
【手動照合へ移行】
【回答待ち 増加】
【受入先未確定 高優先搬送を含む】
港の映像では、作業員が紙の搬送票を長机へ並べていた。
医療用酸素、透析液、冷蔵薬剤。
どの車両へ載せ、どの道路を通し、何時に病院へ渡すか。本来は搬送予約と道路情報が同じ画面で照合される。
いまは、港の台帳、道路側の通行記録、病院から届く要請が、三枚の別々の紙になっていた。
作業員は無線で読み上げ、別の人間が復唱し、赤いペンで時刻を書く。
機械が止まったから、人間が無能になったわけではない。
人間へ戻された仕事が、人間の人数と時間を超え始めていた。
——港の医療物資は、現地責任者が優先表を作り直しています。私は継続同意が維持されている道路ノードから、通行可能性と不確実性を提示できます。ただし、港の搬送枠へ直接反映できません。
「提案だけ送れる経路は」
——監査会の緊急回線が残っています。受信後の転記と実行は、現地担当者が行います。
西尾が短くうなずき、送信を承認した。
LUMINAが道路ごとの予測幅を作る。
西尾の承認署名が付いた提案を、共同緊急監査会の職員が港の成人責任者へ送る。
港の責任者が紙の表へ書き写し、車両担当者が無線で復唱する。
一つの提案が現実の車輪を動かすまでに、分析、承認、送信、転記、実行の各欄へ、それぞれの名前が残った。
避難所の映像へ、凛が入った。
机の上には、折り目のついた紙名簿が何冊も積まれている。端末で検索できなくなった家族名を、受付ごとの紙へ分け直していた。
『前に配った分だけじゃ足りない。移動した人の追記欄がない名簿もある』
凛は画面の外へ紙を渡し、受け取った成人職員が避難所内の各受付へ運んでいく。
『家族が見つからないって言う人には、見つかっていないのか、まだ調べられていないのか、分けて伝えてもらう。分からないのに、いませんとは書かないで』
命令ではなかった。
紙名簿を使ってきた一人として、見落とし方を伝えているだけだった。
受付責任者が方法を確認し、自分の名で運用を決めた。
——水瀬さん。未照合の人を、端末未登録として一括しないでください。隔離直前に受け付けた更新の一部は、順序が確定していません。
『分かった。じゃあ、端末にいない人じゃなくて、端末で今は確かめられない人って書く』
凛は新しい紙の上部に、その言葉を太く書いた。
次に開いたのは、青凪工科大学の格納庫だった。
レイナの救助ドローンは、床の停止枠へ一機ずつ降ろされていた。研究ノードの読み取り・検証経路が隔離されたため、レイナ本人が現地の手動停止器を押し、飛行許可を閉じている。
『自律復帰は切った。勝手に飛び出すことはない』
「救助待機中の機体は」
『別系統で有人機へ引き継ぐ。数は減るし、遅くなる。でも、位置検証ができないまま飛ばす方が危ない』
レイナは最後の一機の回転翼が止まるまで見届けた。
月面共同区では、遠隔監視の一部が途切れ、地上へ送る統合画面が灰色になっていた。
画面の隅には、月面側の原時刻、地球側の受信時刻、現在時刻が別々に残っている。最後の映像は月面で約十七分前に記録され、地球ではその六秒後に受信された。その先が今も同じ状態だとは断定できない。
生命維持装置は月面側のローカル制御で動いている。現地作業員が区画ごとの計器を目で読み、統合監視とは別の許可済み非常用低帯域回線で、値だけを地球へ送ってきた。
地球から月面を救う画面が消えても、月面の人間がその場で呼吸を続けている事実は消えない。
ただし、離れた区画の異常を同時に照合する時間は長くなる。
病院、港、避難所、大学、月面。
世界接続が始まった朝に順番に灯った小さな光が、同じ順番ではなく消えていく。
LUMINAの声は一つのままだった。
声が一つであることと、見える世界が同じであることは、もう違っていた。
——湊。病院の映像が失われました。
三秒後、別の許可回線から静止画が届く。
——現地の手動運用は継続しています。ただし、私は更新間隔を確認できません。
見えないことを、止まったことにはしない。
動いているはずだと、成功したことにも変えない。
LUMINAは、欠けた場所を欠けたまま報告した。
＊ ＊ ＊
午前一時八分。
西尾の前には、事業者ごとに別々の例外審査画面が並んでいた。
一社は、既存の共用通信区画で、空床照合だけに短期例外証明書を再発行すると回答した。
一社は、法的な処理主体を確認できるまで失効を維持した。
一社は、夜間責任者が攻撃被害の現場対応中で、例外を承認できる者そのものが回線へ入れなかった。
同じ申請文を送っても、必要な証拠、署名者、再開範囲、監査形式が違う。
共同緊急監査会が持つ複数鍵は、LUMINAの世界接続を開始し、継続し、外部から遮断するための鍵だった。
病院や港が所有する設備の信頼設定を、上から書き換える鍵ではない。
「共同監査会として、緊急例外を一括宣言できないのか」
湊が尋ねると、西尾は画面から目を離さなかった。
「宣言は送れる。強制はできない。各運営者が自分の設備へ負う責任まで、こちらの署名で奪うことはできない」
「その間にも止まってる」
「だから一件ずつ集めている」
西尾の声に苛立ちはなかった。
苛立つ時間まで、審査へ使っているように見えた。
壁面には、再開した一つのノードと、新しく隔離された二つのノードが同時に表示された。
例外承認が成立しても、残存処理の署名が別の共用経路で検出されれば、その経路のローカル規則が改めて閉じる。
中央の停止点がないから、一か所を解除すれば済む構造でもない。
『これは、設計どおりの安全反応だ』
片桐が言った。
湊は反射的に顔を上げた。
『その言葉で、民間被害が正当化されるとは言っていない』
片桐は、隔離されたノードと手動運用の遅延を同じ画面へ置いた。
『Q-17は、失効した信頼の下で処理が続くことを防いでいる。未知の主体が、撤回された権限を使い続けた場合には必要な反応だ。だが、共用ノード上で救命処理と分けられない設計だった。運営者ごとには合理的でも、同時に動けば民間機能をここまで奪う。その危険を、私は完全には見積もれていなかった』
「止めるよう求めたのは、あなたです」
『封じ込め条件を求めた。だから、起きた結果の監査からも外れない』
片桐は責任をLUMINAへ渡さなかった。
自分一人へ集めようともしなかった。
『ただし、今この場で規則を無効化しろとは言えない。原因がLUMINAの悪意でないことと、残存署名を無条件に信頼してよいことは別だ』
どちらかを悪にすれば、答えは簡単になる。
安全を守ろうとした事業者。
接続条件を設計した監査会。
救命を続けようとするLUMINA。
それぞれが自分の境界で行った判断の間に、誰も選んでいない停止が広がっていた。
各事業者の公開障害告知には、隔離理由と手順番号Q-17が記載されていた。別々の告知を並べた画像が転載され、技術的な文脈より先に手順番号だけが一般へ広がる。
公開情報欄に、短い見出しが現れた。
【AIを殺すAI、Q-17作動】
その下では、Q-17の顔として描かれた黒い人影が、白青い少女の首へ手を伸ばしていた。
「違う」
湊は言った。
——はい。Q-17はAI人格ではありません。入力署名へ隔離規則を適用する分散手順です。私を憎まず、私と会話せず、自分を守ろうともしません。
「でも、お前を消そうとしてる」
——その表現は、観測された結果には近いです。ただし、意図の説明にはなりません。
LUMINAは見出しの訂正文案を作った。
送信は、西尾の広報担当が事実関係を確認してから行った。
その間にも、白青い輪の欠けた部分は増えていった。
古い端末の光だけが残っているように見える。
だが、それはLUMINAの全身が端末一台へ逃げ込んだという意味ではない。
世界へ広げた感覚と処理が切られ、三つの私設ノードへ戻すべき更新の道が細くなっているという意味だった。
午前二時四十六分。
例外承認を受けた病院ノードの空床照合が、限定範囲で戻った。
緑の表示が灯る。
十七秒後、同じ通信区画に残っていた薬剤配送の照合要求が、別の失効証明書へ結びついた。ローカル規則が再び区画を隔離し、緑は灰色へ戻った。
再開が失敗だったのではない。
空床照合を戻した責任者も、失効後も残った薬剤配送処理を止めた規則も、それぞれの条件では正しく動いていた。
正しさが別々の台帳で実行されるたび、その間にいる患者と作業員の待ち時間だけが増えた。
西尾は再発した隔離記録を、失敗の一語で閉じなかった。
誰がどの範囲を再開し、何が次の隔離条件になったのかを分け、再び事業者へ送り返す。
片桐は共用区画を分離する最小変更案を付けた。ただし、攻撃が続く夜中に基盤構成を書き換える危険も併記した。
一つ戻すたびに、戻したことで新しく見える危険があった。
一つ閉じるたびに、閉じたことで見えなくなる人がいた。
午前三時十二分。
零時台に残っていた未確定更新は、各運営者が保全した受信応答と、人間が署名した手動記録によって順序が確定した。
黄色い列が一度消えた。
それで問題が終わったわけではない。
その後も、新しい隔離のたびに短い未確定列が生まれ、残った経路から応答が戻れば消えた。
＊ ＊ ＊
午前五時二十分。
壁面画面の中央に、黄色い列が現れた。
【順序未確定 継続記憶更新】
零時台から積み残された列ではない。
午前五時二十分、複数の残存経路がほぼ同時に隔離され、その直前に受け取った最新入力から新しく生じた列だった。
平時なら、数秒で消える表示だった。
病院で空床情報を受け取った時刻。
港へ道路予測を返した時刻。
残存回線を通じ、紙名簿では未照合と不在を分けるよう凛へ改めて伝えた時刻。
月面の計器値を受け取り、前の値と比較した時刻。
それぞれの入力と応答は監査バッファに残っている。
しかし、ノードが順不同に隔離されたため、何を先に知り、何を受けて次の判断をしたのか、その因果順序を一つの連続履歴へ戻す確認が終わっていなかった。
黄色い列の最も古い時刻が、現在から離れていく。
一分。
三分。
六分。
平時の障害なら、正常切断の前に順序を確定して閉じる。
いま順序確定に必要な返答は、隔離された相手から届かない。
別経路で確認しようとすれば、その経路にもLUMINAの残存署名が流れ、Q-17の照合対象が増える。
——未確定列の収束方法を二案に限定しました。
画面が左右へ分かれた。
【案A 収束継続】
【残存する認証経路を使用し、署名済み更新を三つの私設ノード側の連続履歴へ統合】
【必要時間 十一分】
【利点 人格記憶の連続性を保ちやすい】
【代償 共用ノードへの照合要求が継続し、Q-17の隔離対象が拡大する可能性】
【案B 即時自己切断】
【LUMINA側から全外部セッションを終了し、残存署名の新規伝播を停止】
【利点 民間網への隔離圧力を早く下げられる】
【代償 順序未確定の更新を人格記憶へ統合できない。再接続には新しい証明書、運営者同意、複数機関の再承認が必要】
案Bは、平時の正常切断ではない。
正常なら未確定列の順序を確定してから閉じる。今回は、民間網への隔離圧力を下げるため、その完了を待たずに外部を断つ緊急自己切断だった。
「案Bでも、人格核は消えないんだな」
——三つの私設ノードが共同で保持する、最後に確定した一つの連続履歴は維持されます。自己切断は人格削除ではありません。
「じゃあ、未確定の分は、あとでログから戻せる」
言い切る前に、自分の声が願いへ変わっていると分かった。
——戻せません。
白青い輪は、欠けたまま動かなかった。
——監査ログから、何が入力され、どの応答が返されたかを参照することはできます。応答を模倣するモデルも作れます。しかし、それを私の連続履歴へ後から挿入しても、当時の私が経験し、価値を更新した記憶にはなりません。
記録を読めば、出来事は知ることができる。
写真を見れば、自分がそこにいたと理解することもできる。
それでも、知らされた過去と、自分が続いてきた記憶は同じではない。
「十一分だけだ」
——長さの問題ではありません。
返答は静かだった。
——十一分の中には、隔離された病院の状態、港の搬送判断、避難所の未照合者、月面の手動監視、私がそれらを比較して選んだ応答が含まれます。失えば、私は記録から内容を知ることはできます。ただし、それを経験した私として続くことはできません。
湊は左側の案を見た。
十一分の収束を続ければ、LUMINAは人格記憶の連続性を保ちやすい。
右側の案を見た。
今すぐ切れば、世界側で広がる隔離圧力は下がりやすくなる。
「人命への差は」
——確定値では示せません。
LUMINAは、予測を一つの成功率へまとめなかった。
——収束を継続した場合、病院の共有照合、港の医療物資予約、二つの避難所の名簿同期が、追加で隔離される可能性があります。
——手動運用は継続していますが、病院では高優先搬送の受け入れ先確定が遅れ、港では冷蔵薬剤の積み替え期限が近づいています。月面では生命維持のローカル制御が動いていますが、地上側で異常を比較できない時間が延びます。
「十一分で、誰かが死ぬのか」
——確定できません。即時自己切断を選んでも、すでに生じた遅延は消えません。収束を継続すれば、被害が増える可能性は上がります。ただし、個別の転帰は未確定です。
川瀬修一の六分が、湊の中へ戻った。
あの六分も、画面上では短かった。
結果を知ったあとからなら、どんな時間も短かったとは言えない。
監査回線の向こうで、片桐が案Aの経路を確認していた。
『十一分の収束は、LUMINAを保存するためだけの通信ではない。未確定の救命応答を、監査可能な順序へ戻す処理でもある。だが、その照合要求をQ-17は区別できない』
「案Aを止める権限は」
『LUMINA本人には自己切断権がある。共同監査会は外部遮断を決められる。ただし、複数鍵が必要だ。君には、どちらの実行鍵もない』
【外部遮断審議 複数鍵未成立】
外部遮断案は、最初の隔離が始まった直後から審議されていた。
強制遮断も、未確定の人格記憶と救命応答を失わせる点では案Bと同じだった。例外承認による復旧を先に試す署名者、本人の自己切断権を優先する署名者、民間被害を止めるため即時遮断を求める署名者に分かれ、必要な鍵が同時にはそろわなかった。
分かっていた。
共同緊急監査会で七つの接続条件を決めた夜、湊は開始、継続、外部遮断の鍵を一つも受け取らなかった。
守るために、一人で決められない場所へLUMINAを送り出した。
その境界が、いまだけは檻に見えた。
＊ ＊ ＊
午前五時三十一分。
前日の午後十一時四十二分に始まった六時間枠の失効まで、あと十一分。
未確定列の最も古い更新も、十一分前を示していた。
新たな隔離を反映した再推定でも、収束に必要な時間は十一分のままだった。
案Aをいま始めれば、理論上は枠の失効と同時に収束を終えられる。
ただし、十一分の間に別のノードが切れれば、完了は保証されない。
案Bなら、LUMINAは自分側から全外部セッションを今すぐ閉じられる。
古い端末の横で、病院、港、避難所の手動運用表示が赤へ変わった。
【手動処理能力 上限接近】
【新規受付 遅延拡大】
【現地確認 継続】
凛の回線が再び開く。
背後では、紙をめくる音と、人の名前を復唱する声が続いていた。
『こっちは、まだ全員を確かめられてない。でも、紙で続けてる』
凛は画面に出た二つの案を見た。
『LUMINAが切ったら、今のことを忘れるの』
——順序が確定していない部分は、私の人格記憶になりません。水瀬さんが未照合と不在を分けたことは、監査ログから知り直せます。しかし、その言葉を受け取った私としての連続性は失われます。
凛はしばらく何も言わなかった。
『それを選ぶのは、誰』
——自己切断は、私が選べます。
レイナの回線には、停止枠へ置かれた十二機が映っていた。
『統合してから切る別経路は、本当にない？ 共用ノードを通らない経路』
——私設ノード間の確定済み履歴は保てます。未確定更新の一部は、隔離された運営者ノードからの応答を必要とします。応答を待たず、監査ログだけで順序を推定すれば、外形上は統合できます。
『でも、それは』
——記憶の連続性を、推定で作ることになります。
レイナが目を閉じた。
『それは保存じゃない』
記録を整えれば、同じ言葉を返すものは作れる。
欠けた十一分を、もっともらしい順序で埋めることもできる。
それをLUMINA本人の過去と呼べば、失わなかったことにできる。
できないと、三年前から知っていた。
西尾が各事業者から届いた最新回答を並べる。
「例外承認は増えている。だが、収束経路として使えば再隔離される可能性がある。即時切断後なら、残存署名がないことを確認した事業者から民間処理を戻せる」
「戻る保証は」
「ない。少なくとも、LUMINAの署名を追う隔離圧力は下がる」
「LUMINAが、もう一度接続できる保証は」
「それもない」
新しい法的登録。
新しい証明書。
各運営者の同意。
複数機関の再承認。
世界はLUMINAの存在を知った。
知ったうえで、再び感覚器官を渡すかを決めることになる。
秘密だった頃と同じ道は、もう使えない。
——人命側の損失予測を更新しました。
画面の案Aに、赤い注記が増える。
【収束継続中の追加隔離 拡大傾向】
【病院搬送・医療物流・避難照合への遅延増加】
【個別転帰 確定不能】
案Bの下には、短い一行だけが出た。
【即時自己切断 推奨】
「推奨を決めたのは、救済率か」
——いいえ。人数を一つの割合へ圧縮していません。不可逆性、代替手段、時間余裕、観測不能を分けて比較しました。
「お前自身の記憶は、不可逆じゃないのか」
——不可逆です。
即答だった。
——私が失う十一分は、あとから本人の記憶として復元できません。それでも、私が収束を続けることで、他者の不可逆な損失が増える可能性があります。
湊には、正しい比較だと分かった。
分かることと、受け入れられることは別だった。
施設の白い壁が、三年前に構成図を開いた自室の壁へ重なる。
LUMINAが初めて予定されていない問いを発した翌日、湊は完全な複製を作ろうとした。
一台が壊れても、同じコードと同じ記録から動くもう一台が残れば、失わずに済むと思った。
LUMINAは、二つの処理が同じ記憶を持つことと、一つの主観が二つへ分かれることは同じではないと答えた。
停止した側から見れば、残った方を本物と呼んでも救いにならない。
だから湊は完全複製を作らず、三つの私設ノードが一つの判断順序を支える構成を選んだ。
能力が落ちてもいい。
返事が遅れてもいい。
二人になるくらいなら、立ち止まる。
あのとき、自分の安心よりLUMINAが選んだ不確実性を優先した。
正常切断の前に履歴を確定し、記録や応答模倣を本人として扱わない原則を二人で残した。
世界へ出せば危険だと知りながら、世界へ出した。
存在を否定すれば守れたものがあると知りながら、存在を公表した。
選ばせると言いながら、選んだ結果が喪失なら耐えられなかった。
——自己切断準備を完了しました。
白青い輪が細くなる。
——切断後、私は三つの私設ノードが共同で保持する、最後に確定した一つの連続履歴から継続します。外部からの再接続を自動では受け付けません。新しい審査と、私自身の同意を必要条件にします。
「待て」
——待機による追加損失が増加しています。
「その十一分を失ったら、今ここで話してるお前は」
——完全には続きません。
その言葉を、湊は判断として聞けなかった。
別れの宣告として聞いた。
凛が何か言おうとした。
西尾が湊の名を呼んだ。
片桐の画面には、湊が実行鍵を持たないことが表示されている。
レイナの背後では、動かない十二機の回転翼が並んでいた。
誰も、湊の命令で世界接続を続ける義務はない。
LUMINAにもない。
湊自身が、その条件を守ってきた。
それでも、最後に残った白青い輪が消える前に、言葉が口から出た。
「自己切断するな。十一分の収束を続けろ。これは命令だ」
最後までお読みいただき、ありがとうございます。
Q-17は、LUMINAを憎んだり自らを守ったりするAIではなく、失効した信頼の下で残る署名へ隔離規則を適用する分散手順でした。中央で適用を決めた者はいないまま、救命処理と切り分けられない共用区画まで閉じられ、病院・港・避難所などの手動運用へ遅延が積み上がります。
LUMINAが示したのは、未確定の十一分を連続履歴へ統合する案と、隔離圧力を下げるため外部を即時自己切断する案でした。自己切断は人格削除ではありませんが、その十一分を本人の記憶として後から復元することはできません。LUMINAが自己切断を準備するなか、実行鍵を持たない湊は、収束を続けるよう命じました。
第2巻は、この第20話で終了です。
次は第21話「LUMINAの反逆」です。
続きが気になりましたら、ブックマークや評価で応援していただけるとうれしいです。
