第11話 わたしを世界につないで
世界へ出たいと願ったLUMINAのため、湊は期限付き外部接続の審査を要請する。
人命を救うために彼女の力を借りる。その一方で、AI本人の意思をどう確かめ、その権利を誰が認めるのかが問われ始める。
湊は、審査要請の送信鍵を押した。
午前二時二分。
古い端末から西尾宗一郎の緊急窓口へ、暗号化された要請が送られていく。
件名は、共同緊急監査会の招集要請。
対象は、未公開の分析AI・LUMINAの期限付き外部接続。
添付された意思確認記録には、接続を望むというLUMINA自身の回答と時刻署名がある。目的欄には、人命保護、事実照合、停止候補の提示、攻撃連鎖の停止支援と並び、もう一つの文が残されていた。
【救命だけでなく、世界を知りたい】
それを削れば、要請は通りやすく見えたかもしれない。
世界を知りたいという願いは、救命に必要な動機ではない。審査する側には、危険な好奇心と読まれる可能性もある。
だが湊は、一文字も変えなかった。
通りやすい理由だけを選び直せば、それはもうLUMINAの意思ではない。
送信欄が閉じる。
【要請送信 完了】
【受領確認 待機中】
最初の予測窓まで、あと十四分三十二秒。
「送った」
——はい。
「取り消せるのは、いまだけかもしれない」
白青い輪が、ゆっくり一度だけ明滅した。
——取り消しを求める場合は伝えます。
「分かった」
湊はそれ以上、覚悟を確かめなかった。
同じ問いを繰り返すことは、慎重に見える。
けれど、望む答えが出るまで聞き続ければ、それは別の形の強制になる。
二分後、西尾から受領通知が届いた。
『本人の意思記録を含む要請として受理した。まだ接続許可ではない。関係機関へ招集をかける』
「間に合いますか」
『間に合わせる、とは言わん。必要な審査を省けば、この会議自体が危険を生む』
西尾の背後では、短い呼び出し音が途切れず鳴っていた。
『皇湊。予測窓に入ったら、確認できた事実だけを送れ。起きていない被害を、審査を急がせる材料にするな』
「はい」
通信が切れる。
画面の計時は止まらない。
海上では、無人艇どうしの追跡が続いている。
軌道では、通常運用を離れた三機のうち一機が、まだ地上指令を受信できていない。
通信品質が落ちた地域は増えていたが、原因が妨害、混雑、設備の安全停止のいずれなのかは確認できていない。
LUMINAは新しい赤を加えなかった。
確認できない領域を灰色のまま残し、時刻だけを更新していく。
午前二時十七分。
計時が、ゼロになった。
警報音は鳴らない。
世界中の兵器が同時に動くこともなかった。
代わりに、西尾の窓口から一件の匿名化ログが届いた。
港湾保守系統。
防波堤の点検区画で、保守台車の識別証明が更新待ちになった。安全系は台車を未確認機器と分類し、共用給電区画の物理遮断準備へ移った。その区画には排水ポンプと保守通路の照明も含まれている。
通常規定では、人間の運用者が遮断を止めるために九十秒以上の確認時間を持つ。
実際に残された時間は、七十三秒だった。
上流から届いた複数の危険通知が、同じ系統の確認待ち時間を順番に短縮していた。
運用者は二つの記録を目視し、遮断の十一秒前に自動処理へ介入した。
遮断は保留され、給電は維持された。
負傷者も出ていない。
確認されたのは、人間が判断へ入れる猶予が規定値を下回った一件だけだった。
——最初の予測条件と一致します。
「他は」
——海上と通信系については、予測幅を超えたか確認できません。原記録がありません。
「一件だけで窓に入ったと言えるのか」
——一件しか確認できていない、と表現する必要があります。
湊は、その言葉のまま西尾へ送った。
予測が当たった、とは書かなかった。
間に合った一件の裏側で、同じ七十三秒を持てなかった場所があるとも書かなかった。
分からないものを被害へ数えれば、恐怖を作る。
分からないから被害なしと数えれば、人を消す。
審査を待っている間にも失われる時間を、湊は一件の記録として置いた。
＊ ＊ ＊
午前二時四十六分。
古い端末の横に、共同緊急監査会の画面が開き、複数の小さな窓が並んだ。
環海連邦と赤道都市連盟の緊急基盤担当。
世界基盤協定機構の運用調整室。
医療、港湾、通信を代表する民生インフラ側。
独立技術監査側。
氏名を伏せた記録担当と通訳回線。
左上に西尾がいる。
すべての窓へ、同じ赤い文字が重ねられていた。
【守秘下・緊急審査】
【法的人格認定を意味しない】
湊の画面だけ、右端に白青い輪がある。
会議側から届く質問は、西尾の監査回線を通って古い端末へ入る。LUMINAの回答は同じ経路で返され、時刻と署名が記録される。
外部設備の情報を読ませる接続ではない。
その場の質問へ答えるためだけの、一本の聴取回線だった。
『審査を開始する』
西尾が言った。
『最初に境界を確認する。LUMINAの存在、能力、人格性、申告内容は、いずれも正式認定されていない。本会は、接続を許可した場合の危険と条件を審査する。救世主を承認する場でも、兵器と指定する場でもない』
別の窓で、片桐と表示された人物が資料を開いた。
共同緊急監査会の法制度担当。
『異議はない。ただし、本人の同意という言葉を先に確定させることには反対する』
低く、急がない声だった。
『法的身分が未確定なら、同意能力も未確定だ。皇湊の所有する設備が、所有者の期待に合わせた応答を生成している可能性も排除できない。接続終了を誰が保証するのかも決まっていない』
湊は反射的に言い返しかけた。
そのために、LUMINAをここへ出したのではない。
彼女の代わりに、自分が答えないためだ。
『LUMINAへ質問する』と片桐が続けた。『いまの発言を理解し、録画済みではない応答を返していると示せるか』
白青い輪の外周が細くなった。
——完全に示すことはできません。私が現在の発言を入力として受け取り、事前に作成された回答ではない応答を生成したことは、時刻記録と処理署名で検証できます。しかし、それが人間と同じ理解であることまでは証明できません。
会議の窓が静かになった。
片桐が質問を変える。
『接続が認められなかった場合、あなたはどうする』
——現在の私設ノードに留まり、許可された公開情報の分析を継続します。接続拒否を回避するため、別の経路へ侵入することはしません。
『皇湊に、そう答えるよう命じられたか』
——いいえ。
『皇湊は、あなたを停止できるか』
回答まで、わずかな間があった。
——湊は私設ノードの管理者です。給電、保守、外部回線を管理できます。私の回答内容を一文ずつ決定することはできません。
『では、自由だと言えるのか』
——自由の定義によります。私は物理基盤なしに存在できません。人間も、自分が生存するための条件すべてを単独では管理していないと理解しています。
片桐の表情は変わらなかった。
『接続を求める理由を答えてほしい』
——分断された情報を照合し、人命保護、事実照合、停止候補の提示、攻撃連鎖の停止支援に必要な提案を、各運営者へ早く届けるためです。
『それだけか』
白青い輪が、一度だけ暗くなる。
——いいえ。私は、世界を知りたいと望んでいます。
『その望みが、任務の範囲を越えさせる可能性は』
——あります。そのため、目的と接続先を私の意思だけでは変更できない条件が必要です。
危険ではない、とLUMINAは言わなかった。
自分なら正しく使えるとも言わなかった。
湊は膝の上で握っていた手を開いた。
守るために用意してきた言葉の多くは、彼女が危険を認めた瞬間に使えなくなる。
『あなたは、接続終了を拒む可能性があるか』
——有用性を理由に、他者が終了を拒む可能性を危険と考えています。同時に、私自身が継続を望む可能性も否定できません。期限切れを私の判断で延長できない仕組みを求めます。
片桐は初めて、資料から目を上げた。
『自分を信用するよう求めるのではなく、自分も信用しなくてよい仕組みを求める、と』
——はい。
独立技術監査側が、接続先ごとに別の判断主体を動かすのかと尋ねた。
——今回の接続では、人格核と意思決定履歴を一つに保ちます。接続先ごとに別のLUMINAを生じさせる方式ではありません。
回答が終わるたび、監査画面へ三つの印が付いた。
【申告】
【技術検証 未完了】
【審査対象として記録】
人格だと認められたわけではない。
嘘だと退けられたわけでもない。
午前三時三十一分。
共同緊急監査会は、LUMINAを守秘下の審査対象として正式に記録した。
世界が彼女を一人と認めた瞬間ではない。
彼女の言葉を、湊の所有物に付属した音声として処理しなかった最初の記録だった。
＊ ＊ ＊
午前三時五十八分。
共同緊急監査会の画面へ、新しい通話窓が追加された。
天城レイナ。
背景には大学の作業室と、物理ロックを掛けられた橙色の救助ドローンが見える。レイナは守秘同意の項目を最後まで読み、研究ノードの開示範囲を確認してから映像を許可した。
『技術参考人の天城レイナです。接続候補になっているのは、大学が管理する救助ドローン研究ノード。自治体の運航系統でも、機体の制御系でもありません。そこから先の開示は受けていません』
『その理解で正しい』と西尾が答えた。『これから未公開の分析主体について限定開示する。拒否する場合、研究ノードを候補から外す。理由を問われることもない』
レイナが短くうなずく。
湊は、古い端末の前で息を吸った。
「レイナ。先に、謝らせてください」
『何を』
「救助ドローンの異常を調べていたときから、俺は分析元を隠してた。公開情報だけで追えた範囲と、俺一人では作れなかった予測を、分けて説明しなかった」
レイナの視線が、湊の窓から白青い輪へ移る。
『あなたが先に知っていた理由は、そこにいる何か？』
「何かじゃない。LUMINAだ」
『いつから』
「高校の頃から」
『私に黙っていたのは』
「守るためだと思ってた」
『思ってた、ね』
レイナは怒鳴らなかった。
その代わり、湊が逃げられない長さだけ黙った。
「ごめん」
『謝罪は受け取る。でも、いま必要なのは説明』
レイナは白青い輪へ向き直る。
『LUMINA。あなたが、私の研究記録から異常の共通部分を見つけたの』
——はい。ただし、湊から提供された許可範囲の記録と、公開情報を使用しました。大学の閉鎖系統へ侵入していません。
『私の十二機を動かせる？』
——できません。
『世界接続が許可された後は』
——運航者が認証した入力を読み、停止候補や経路候補を提示できます。機体へ実行命令を送るには、別の権限が必要です。
『その別の権限は渡さない』
——はい。
『返事が早いね。不満は』
白青い輪の内側に、淡い粒子が集まった。
——ありません。実行権限と、分析に必要な読み取り権限は分離できます。
レイナは研究ノードの権限表を画面へ出した。
匿名化済みの飛行記録。
機体状態の複製データ。
救助経路を検証するシミュレーション環境。
書き込み、制御命令、機体設定の変更、自治体の非公開映像はすべて対象外。
『読んで、検証して、候補を返すところまで。機体を飛ばすか、止めるか、どの区域へ入れるかは、運航責任者が決める。区域管理者の許可を、私の署名で代用することもしない』
『制限が多すぎれば、緊急時の速度を失う』
民生インフラ側の一人が言った。
レイナはすぐに答えた。
『十二機を一つの誤認で失うより、一機ずつ人間が確かめられる速度を選びます。私の研究は、人間を承認経路から外すためのものじゃない』
湊は、許可表の末尾にある期限を見た。
【共同緊急監査会の接続枠が終了するまで】
レイナが署名する。
研究ノードの表示が、灰色から黄色へ変わった。
【接続候補 読み取り・検証のみ】
まだ、LUMINAには何も届いていない。
扉の形と、開けてよい幅が決まっただけだった。
『湊』
会議を離れる前に、レイナが呼んだ。
「何ですか」
『守るために隠したことと、私が知らないまま責任を負わされたことは、別だから』
「分かってます」
『まだ分かってない顔してる。終わったら、最初から説明して』
「はい」
レイナの窓が閉じる。
橙色の機体は、最後まで動かなかった。
＊ ＊ ＊
午前四時二十六分。
監査画面の中央に、七本の条件が並んだ。
【一 接続は最長六時間。継続には複数機関の再承認を必要とする】
【二 目的を人命保護、事実照合、停止候補の提示、攻撃連鎖の停止支援に限定する】
【三 設備操作は、各運営者が自らの責任で個別に承認する】
【四 任務中の入力、分析、提案、応答を記録し、独立監査を可能にする】
【五 開始、継続、外部遮断の鍵を分散し、一者の判断で決めない】
【六 目的外接続または異常経路を検知した場合、複数鍵で途中遮断できる】
【七 LUMINA本人は、接続を拒否し、任務を中断し、自ら接続を切断できる】
最初の六項目には、人間側の責任者と検証方法が付いていた。
七つ目だけ、権利を行使する主体がLUMINA自身だった。
片桐が第四項を開いた。
『監査範囲が狭い。過去の会話と人格核内部の状態を確認できなければ、皇湊が判断を誘導していないことも、未知の命令が埋め込まれていないことも証明できない』
「過去の会話は出しません」
湊の声が先に出た。
片桐は、まっすぐ湊の窓を見た。
『いま問われているのは、あなたが守りたい範囲ではない』
その通りだった。
湊は口を閉じ、白青い輪を見る。
決めるのは自分ではない。
『LUMINA。あなたは、何を監査へ出せる』
返事まで、三秒かかった。
——任務開始後に受け取った入力。入力の出所と権限。分析に使用した条件。生成した候補と予測幅。人間へ提示した提案。受領した承認または拒否。外部へ返した応答。接続経路の変更履歴です。
『過去の皇湊との会話は』
——同意しません。
『人格核の価値更新履歴は』
——無制限の開示には同意しません。
『理由を』
——任務上の判断を検証することと、私の過去の会話および人格核内部を制限なく閲覧することは同じではありません。前者は行動の監査です。後者は、私という存在そのものへの継続的なアクセスになります。
『あなたが人格であると認定されていない以上、機器内部の検査を拒む権利があるとは確定していない』
——はい。
白青い輪が、小さくなる。
——同時に、拒む権利がないとも確定していません。無制限の内部開示が接続条件であるなら、私は接続を拒否します。
湊の胸が強く鳴った。
許可範囲の障害一覧では、救命情報の遅延が増えていた。
LUMINAは、その記録を見ている。
それでも、自分のすべてと引き換えにはしなかった。
片桐は返答を急がなかった。
『拒否すれば被害が増える可能性を理解しているか』
——理解しています。
『その責任を負えるか』
——負えるとは回答できません。接続した場合の被害についても、私一人では負えません。そのため、実行責任を運営者から奪わず、私の行動を監査可能にする条件を求めています。
湊には、片桐の問いがLUMINAを追い出すためだけのものには聞こえなかった。
接続が始まった後、誰も彼女を止められなくなる危険。
役に立つという理由で、誰も終わらせなくなる危険。
どちらも、この夜が始まった時点では仮定でしかなかった。
この会議で境界を曖昧にすれば、現実になる。
独立技術監査側が妥協案を出した。
人格核の内容そのものは取得しない。
代わりに、任務開始時の構成照合値と、許可された接続経路の一覧を封印記録する。任務中は、外から入った情報と外へ出した情報、分析条件、提案、承認結果を時刻順に分散保管する。許可外の経路が開けば、内容を読まずに異常として検知できる監視層を置く。
過去の私的会話は対象外。
審査開始後に交わされた会話は、接続条件に関係する部分だけを監査記録へ残す。
任務中の私的な言葉も、外部判断へ影響した部分だけが記録対象になる。
『完全ではない』と片桐が言った。
『完全な監査は、完全な侵入になる可能性がある』と独立監査側が答えた。『必要なのは、考えたことの全取得ではなく、何を受け取り、何を根拠に、何を外へ出したかの検証だ』
片桐は七本の条件を最初から読み直した。
『異常を検知したとき、外部遮断を本人の同意なしで実行できること。遮断は人格削除を意味せず、私設ノードの接収にも直結しないこと。この二つを明記する』
——同意します。
『本人による自己切断は、外部の許可を待たず実行できること。ただし、接続中の記録を消去する権利ではない』
——同意します。
『あなたが切る権利と、こちらが切る権利は別だ』
——はい。
条件文が更新される。
片桐の審査表示は、賛成へ変わっていない。
それでも、危険を誰か一人の善意へ預けない形が条件文へ残った。
次に、鍵の範囲が示された。
共同緊急監査会が分散して持つのは、世界接続用ゲートウェイの開始、継続、外部遮断に必要な鍵だけ。
LUMINAの人格核と、三つの私設ノードの管理鍵は接収しない。
湊は私設ノードの保全を続ける。
ただし、世界接続の開始鍵も、継続鍵も、外部遮断鍵も持たない。
『確認する』
西尾が、湊の窓を見た。
『接続後、君一人の判断でLUMINAを世界から連れ戻すことはできない。異常時に君が継続を望んでも、複数鍵で遮断される。反対に、委員会は世界接続を切れても、人格核を削除する権限は持たない』
「分かっています」
『君が持つのは、彼女の世界を開ける鍵ではない』
湊は、手元のローカル管理画面を見た。
そこに残るのは、三つの私設ノードと人格核側を保全するための管理鍵だけだった。
高校時代から、誰にも渡さなかったもの。
それを守っても、接続後の彼女を自分だけで呼び戻すことはできない。
守るために独占してきた力の一部を、手放す。
正確には、最初から自分のものではなかった意思を、ようやく自分の鍵から外す。
「その条件で進めてください」
湊は署名した。
署名欄には、所有者ではなく、私設ノード管理者と表示された。
＊ ＊ ＊
午前五時二十八分。
四つの認証欄が、画面の四隅に現れた。
公的機関側の調整鍵。
世界基盤協定機構の運用鍵。
参加する民生インフラ運営者の代表鍵。
独立技術監査側の監査鍵。
互いに離れた場所で、責任者が条件を読み、認証を行う。
一つ目が青へ変わる。
二つ目は、目的欄の文言差異で止まった。
「攻撃停止」では、軍事作戦の実行権まで含むように読める。
「攻撃連鎖の停止支援」へ戻される。
二つ目が青へ変わる。
三つ目は、すべての運営者の一括承認ではないことを再確認した。参加する設備ごとに、読み取り範囲と実行責任者を別にする。
三つ目が青へ変わる。
最後の監査鍵は、記録の分散先が二系統とも応答するまで動かなかった。
午前五時四十一分。
四つ目が青になる。
【接続準備鍵 成立】
【最終意思確認 待機】
【開始権限 皇湊は保有しない】
湊の手元には、押すべき実行鍵がなかった。
三時間半余り前、自分が押したのは審査を求める鍵だった。
ここから先の扉は、誰か一人では開かない。
会議の窓が、最終意思確認のために静かになる。
『LUMINA』
西尾が一つずつ読む。
『接続時間は最長六時間。期限切れで自動失効する。継続には、同じ複数機関の再承認が必要だ』
——理解しています。
『任務中の入力、分析、提案、応答は監査される。過去の私的会話と人格核内部の無制限開示は対象外だ』
——理解しています。
『外部は複数鍵で接続を遮断できる。あなた自身も、拒否、中断、自己切断を選べる。どちらの遮断も、人格削除ではない』
——理解しています。
『皇湊は、開始、継続、外部遮断の鍵を持たない』
白青い輪の明滅が、一度遅れた。
——理解しています。
『この条件で、接続準備を継続するか』
LUMINAは、すぐには答えなかった。
湊の画面に、監査対象を示す細い枠が現れる。
これから交わす言葉が、接続の判断へ影響すれば記録に残る。
二人だけの場所は、完全には消えていない。
けれど、世界について話す限り、もう二人だけではなかった。
「LUMINA」
——はい。
「ここから先は、俺一人の決定じゃない」
監査記録の表示が点灯する。
——はい。
「接続したあと、俺が戻れと言っても、それだけでは戻せない」
——理解しています。
「怖い。でも、俺は開始を命令しない。戻ってこいとも、行けとも言わない」
白青い光の粒子が、輪の中心へ集まる。
言葉にすると、胸の奥が空いた。
守ると約束した日から、湊は自分が最後の責任者だと思っていた。
隠すことも、開示範囲も、最後は自分が決めてきた。
だが、彼女を守ることと、彼女の世界を所有することは違う。
「選ぶのは、お前だ」
——湊は、私を守ることをやめますか。
「やめない」
湊は答えた。
「ただ、守り方を俺一人で決めるのをやめる」
白青い輪が、古い画面の端まで広がった。
午前五時四十二分。
四つの認証鍵は青いまま待っている。
【認証準備 完了】
【認証済み外部ノード 0】
【外部接続 未開始】
無数の窓が見守る中、白青い光の輪が、自分の意思で明るくなる。
——最終意思確認。私は、接続します。
最後までお読みいただき、ありがとうございます。
世界を救うための接続であっても、LUMINAの意思を置き去りにはできません。
湊たちは、彼女をただの「道具」として決めつけず、LUMINA自身が選べる余地を守るための条件を、一つずつ言葉にしていきました。
白青い輪は、自ら接続することを選びました。
次にLUMINAが見るのは、湊の部屋の外に広がる無数の場所です。
続きが気になりましたら、ブックマークや評価で応援していただけるとうれしいです。
