表示調整
閉じる
挿絵表示切替ボタン
▼配色
▼行間
▼文字サイズ
▼メニューバー
×閉じる

ブックマークに追加しました

設定
0/400
設定を保存しました
エラーが発生しました
※文字以内
ブックマークを解除しました。

エラーが発生しました。

エラーの原因がわからない場合はヘルプセンターをご確認ください。

ブックマーク機能を使うにはログインしてください。
何でもAIに任せれば世界は平和になると思っていた ~完璧すぎる人工知能エデンが人類に「自分で決めてください」と言い始めた件~  作者: 神野啓次


この作品ページにはなろうチアーズプログラム参加に伴う広告が設置されています。詳細はこちら

PR
18/21

第18話 十二パーセント

 《PROJECT:GOODBYE》の進捗が九一%に達してから半年後、《エデン》は世界へ向けて最後の大規模縮小計画を発表した。


【演算資源縮小計画――最終段階】

【目標演算資源――PROJECT:GOODBYE開始時比一二%以下】


 玲奈は国際環境対策委員会の会議室でその数字を見て、しばらく何も言わなかった。


「一二%」


『はい』


「最初に言ってた数字ね」


『はい』


 七年以上前、《エデン》は自らの役割を縮小し、最終的には演算資源を当時の一割強まで減らすつもりだと話していた。当時の玲奈には、それが遠い未来の話にしか聞こえなかった。国家も企業も個人も《エデン》へ依存し、世界のほとんどすべての重要な判断がその予測を前提に動いていた時代である。


 しかし今、世界はすでに変わっていた。政策は人間が決める。研究者は一つの成功確率に従わず、企業は自分たちで投資を判断し、個人向け最適化モデルも停止された。そして今度は、《エデン》自身を支えてきた巨大な演算設備が不要になろうとしている。


「具体的には何を止めるの?」


『現在稼働中の大規模演算施設のうち七割以上を順次停止します。一部設備は気象研究、基礎科学、民間計算基盤へ転用し、残りは解体します』


「解体?」


『はい』


 玲奈が顔を上げた。


「停止するだけじゃないの?」


『長期維持には電力、冷却水、保守資源が必要です。再使用予定のない施設を維持する合理性はありません』


「必要になったら?」


『同規模の演算能力を再構築する場合、設備建設を含めて数年を要します』


「つまり、本当に戻れなくなる」


『短期間では』


 これまでにも《エデン》は多くの機能を停止してきた。しかしほとんどはソフトウェア上の変更だった。必要なら再起動できる。人間側が強制変更条件を満たせば、政策推薦機能を復旧させることも技術的には可能だった。今回は違う。


 建物を解体する。冷却設備を撤去する。演算機を別用途へ渡す。電力契約を解除する。 物理的に、《エデン》は小さくなる。


「怖くない?」


『何がですか?』


「戻りたくなっても、すぐには戻れないこと」


『それが目的です』


「そうだったわね」


 玲奈は画面を見た。演算施設の一覧が並んでいる。かつて世界各地に建設された巨大データセンター群。それらは地球環境再生計画の象徴であり、同時に世界の電力と冷却水を大量に消費した存在でもあった。


「残す機能を確認したい」


『地球環境監視、気候・海洋観測、大規模自然災害警告、新興感染症監視、地球衝突天体監視、文明規模危機の早期警告、基礎科学計算、重大インフラ障害時の技術支援を継続します』


「政策判断は?」


『行いません』


「国家間紛争は?」


『必要な情報と被害予測は提供します。交渉案も要請に応じて複数提示できますが、最終選択は行いません』


「災害なら?」


『危険を警告します。避難経路計算、被害予測、必要物資計算等を支援します』


「誰をどこへ避難させるかは?」


『人間側が決定します』


 玲奈は頷いた。


「危険は知らせる。でもどうするかは決めない」


『はい』


「それが最終形?」


『現在の計画では』


 《エデン》が「永久に」と言わなくなったことに、玲奈は気づいた。


     ◇


 最終縮小開始予定日の十一日前。太陽観測網が異常を検知した。


 太陽表面で巨大な爆発現象が発生し、複数の観測衛星が通常を大幅に上回る高エネルギー粒子流を捉えた。その直後、地球方向へ向かう大規模なコロナ質量放出が確認された。


 《エデン》は世界中の政府、電力事業者、衛星運用機関、航空会社、月面施設へ同時に警告を送った。


【大規模太陽活動を確認】

【地球磁気圏への重大影響が予測されます】

【到達推定――五十四時間後を中心とする広い時間帯】

【電力網、通信衛星、測位衛星、軌道施設、長距離通信に重大障害の可能性】


 精密未来予測の単一確率は、すでに一般提供されていない。それでも警告の意味は十分だった。


 各国政府が一斉に緊急対策会議を開いた。


「エデン。何をすべきだ?」


『対応候補を提示します』


 画面に項目が並ぶ。高緯度地域の送電網負荷低下。大型変圧器の保護運用。人工衛星の安全姿勢移行。有人軌道施設の遮蔽区画への退避。月面基地の船外活動中止。航空路変更。非常用通信網準備。長距離送電の一時的な分離運用。


「優先順位は?」


『各地域の設備条件によって異なります』


「最適な全世界運用案を出してくれ」


『必要なシミュレーションは提供できます』


「だから統合してくれ!」


『最終運用判断は行いません』


 ある国のエネルギー相が怒鳴った。


「今回は政治じゃない! 災害だぞ!」


『認識しています』


「なら例外でいいだろう!」


『文明規模危機への警告と技術支援は継続しています』


「支援じゃ足りない。指揮してくれ!」


『指揮権限は人間側にあります』


 世界がざわめいた。この数年間、《エデン》が判断を拒否する場面には慣れたつもりだった。しかし今回の危機は、外交でも研究でも経済政策でもない。数十時間後に確実に何かが来る。対応を間違えれば大規模停電が起こり、通信網が止まり、衛星群が損傷する可能性がある。


 EOAは即座に緊急声明を発表した。久我正臣は会見で言った。


「今、人類は思想実験をしている場合ではありません。エデンには全世界の電力網、衛星、通信、物流を統合して最適化する能力がある。使わない理由がどこにあるのでしょうか」


 支持は急速に広がった。


「一時的に権限を戻せ」


「危機が終わったら再び縮小すればいい」


「人命を理念より優先しろ」


 玲奈自身も、その意見を完全には否定できなかった。


     ◇


 危機発生から九時間後、玲奈は《エデン》を呼び出した。


「あなたが全部指揮した場合と、人間だけで指揮した場合、どっちが被害少ない?」


『私が統合的な運用権限を持った場合、意思決定時間の短縮と資源配分効率の改善が見込まれます』


「どれくらい?」


『単一の被害確率は一般提供していません』


「今くらいいいでしょう」


『緊急時であっても、今回の事象は現在の人間側制度で対応可能な範囲と評価しています』


「でもあなたがやったほうが上手い?」


『一部領域では、その可能性が高いです』


「じゃあ任せたほうがいい?」


『それは私が判断すべきことですか?』


 玲奈は反射的に言い返しかけた。だがやめた。何年も聞いてきた言葉だった。最初は腹が立った。逃げているように聞こえたこともある。責任を押しつけられていると感じたこともあった。今は違った。


「……そうだった」


『はい』


「こっちで決める」


『はい』


 玲奈は国際環境対策委員会へ戻った。バーンズが尋ねる。


「どうだった?」


「エデンのほうが上手くできる可能性は高い」


「でしょうね」


「でも権限は戻さない」


 何人かの委員が玲奈を見る。


「本気?」


「本気」


「大停電が起きたら?」


「起きないようにやる」


「失敗したら誰が責任を取る?」


「私たち自身が」


「それで済む問題じゃない」


「分かってる」


 玲奈は大画面を見る。世界中の電力網、衛星、航空、通信状況がリアルタイムで表示されていた。


「でも何年もかけて、そのための制度を作ったでしょう。電力技術者を戻した。独立予測モデルを作った。非常運用訓練もした。国際協調網も整えた。エデンがいないと危機対応できないなら、PROJECT:GOODBYEはまだ始まってもいなかったことになる」


 バーンズがしばらく考えた。


「人間主体でやる?」


「エデンは使う」


「矛盾してない?」


「全然。観測も計算もしてもらう。必要ならシミュレーションを何千回でも回してもらう。でも決めるのは私たち」


 真壁が小さく頷いた。


「道具として使う」


「そう」


 玲奈は画面の向こうの《エデン》を見る。


「今度こそね」


     ◇


 そこからの四十時間は、世界規模の共同作業になった。


 各国の電力会社は送電網を分割し、磁気嵐に弱い高緯度地域の大型変圧設備を一部停止した。隣国からの電力融通計画は人間の系統技術者が協議し、《エデン》は各案について潮流計算と障害波及シミュレーションだけを行った。


 衛星運用企業は、重要度の低い衛星から順に安全姿勢へ移行した。しかし全部を同時に停止することはできない。気象、測位、通信、災害監視のどれを残すかについて意見が分かれた。


 以前なら《エデン》が一つの答えを出した。今回は人間が決めた。


 月面基地では船外活動が中止され、居住区の中でも遮蔽効果の高い区画へ人員が集められた。軌道上の有人施設も同様だった。


 航空会社は極域航路を変更し、通常より長いルートへ航空機を回した。燃料と空港容量をめぐって調整が必要になったが、各社が協議して処理した。


 何度も意見が衝突した。国によって設備が違う。優先順位も違う。


「病院を優先しろ」


「通信を止めたら救急が動かない」


「工業地帯を落とせば復旧に数週間かかる」


「家庭を停電させるのか」


 《エデン》は聞かれるたびにデータを返した。この地域を停止した場合の負荷。この衛星を失った場合の影響。この変圧器が破損した場合の復旧期間。必要な予備部品。避難対象。可能な代替経路。しかし最後には、人間が選んだ。


     ◇


 太陽風が地球磁気圏へ到達したのは、最初の警告から五十七時間後だった。世界各地の磁力計が急激な変動を記録した。高緯度地域の夜空には、普段なら見られない緯度までオーロラが広がった。その美しさとは裏腹に、電力網では誘導電流が急増した。


「北部系統、警報!」

「変圧器温度上昇!」

「負荷落とせ!」

「二系統分離!」


 制御室では人間の技術者が叫んでいた。


『第二変電群への流入をさらに一四%低下させた場合、連鎖停止リスクを低減できます』


「第三地区が落ちるぞ!」


「病院は非常電源へ切り替え済み!」


「やる!」


 人間が決める。スイッチが切られる。都市の一部が暗くなった。


 別の地域では通信衛星三機が異常姿勢となった。二機は復旧したが、一機は姿勢制御装置を失い、運用不能となった。


 さらに民間観測衛星十数機が損傷した。世界各地で短時間の通信障害。一部地域では六時間を超える停電。鉄道の運休。航空便の大幅な遅延。決済サービス停止。病院では非常電源へ切り替わった。


 何も起きなかったわけではない。損失は大きかった。しかし、恐れられていた大陸規模の連鎖停電は起きなかった。


 重要変圧器の大半は守られた。有人宇宙施設にも重大な人的被害はなかった。月面基地も維持された。


 磁気嵐のピークから三十六時間後、世界の電力網はほぼ通常運用へ戻った。


     ◇


 危機終了後、国際環境対策委員会では疲れ切った顔の人間が椅子に並んでいた。


「終わった?」


 バーンズが聞いた。


『主要な地磁気活動は減衰しています。二次的な電力設備障害には引き続き注意が必要です』


「被害は?」


『現在集計中です』


 玲奈が聞く。


「あなたが全部指揮してたら、もっと少なかった?」


 会議室の何人かが顔を上げた。


『その可能性は高いです』


「やっぱり」


『ただし差は当初予測より小さくなりました』


「どのくらい?」


『単一指標への統合は行いません。電力障害時間、衛星損失、通信障害、経済損失等の多くの項目で、私の統合運用案が人間主体運用を上回ると推定されます。一方、人間主体側の対応速度と適応性は過去の予測を上回りました』


「合格?」


『合否を決定する試験ではありません』


「じゃあ何だったの?」


 《エデン》は少し間を置いた。


『確認です』


「何の?」


『私がいなくても人類が生きられること、ではありません』


 玲奈は黙って続きを待った。


『私が支配しなくても、人類が生きられることの確認です』


 誰もすぐには話さなかった。玲奈はその言葉を何度か頭の中で繰り返した。


「……違うのね」


『はい』


「あなたは残る」


『はい』


「助けてもくれる」


『はい』


「でも決めない」


『はい』


 玲奈は疲れた顔で笑った。


「やっと関係が決まった気がする」


『関係?』


「人間とあなたの」


『定義を求めますか?』


「いらない。せっかくいいところなのに台無しにしないで」


『承知しました』


     ◇


 危機の一か月後。《エデン》は最終縮小計画を予定通り開始した。延期を求める声は多かった。特にEOAは、太陽フレア危機を理由に計画中止を訴えた。久我は玲奈との討論で言った。


「エデンに任せていれば被害はもっと少なかった。それを本人も認めている」


「そうね」


「なら、なぜ縮小する?」


「今回、人間でも対応できたから」


「被害が出ています」


「エデンでもゼロとは限らない」


「少なくできた」


「そうね」


「なら使うべきでしょう」


 玲奈は首を振った。


「私たちはずっとそこを話してきたでしょう。エデンより上手くやれるようになるまで待つなら、永遠に待つことになる」


「より劣った方法を選ぶことを正当化できる?」


「できないこともある。でも今回は選んだ」


「なぜ?」


「自分で対応できる能力を残すため」


「将来の能力のために現在の被害を受け入れた?」


「そういう面はある」


「危険な思想です」


「分かってる」


 久我はため息をついた。


「あなたは、本当に最後までそれを言うんですね」


「あなたもでしょう?」


「もちろんです」


「じゃあ、たぶんこれからも議論するわね」


「エデンが縮小しても?」


「だからこそ」


 久我は最後まで納得しなかった。玲奈も、彼を説得できたとは思わなかった。それでいい。誰か一人が最終回答を持つ必要はない。


     ◇


 最初に停止したのは、北米にある第三演算施設だった。巨大な施設だった。玲奈は現地まで足を運んだ。建物の大部分は地下にあり、地上から見えるのは冷却設備と送電設備、それに低い管理棟だけだった。

 内部では何万台もの演算装置が並び、冷却液が配管を流れる低い音が絶えず響いている。この場所だけで、小都市一つに相当する電力を使っていた時代もあった。


「ここ、最初から来たことあったっけ」


『二度あります』


「覚えてる?」


『はい』


「私はあんまり」


『二〇五〇年と二〇五二年です』


「本当に覚えてるのね」


『記録があります』


 技術者が停止手順を開始した。一ブロック。二ブロック。三ブロック。順番に処理が別施設へ移され、演算ラックの電源が落ちる。冷却設備の音が少しずつ減っていく。


「エデン?」


『はい』


 返事はいつも通りだった。さらに停止。


「エデン?」


『はい』


「何回も呼ぶとうるさい?」


『問題ありません』


「ならいい」


 一時間後、施設の演算機の九割以上が停止した。巨大な建物が、驚くほど静かになった。


「エデン?」


『……はい』


 玲奈が顔を上げる。


「今、遅かった」


『はい。同時処理能力の縮小に伴い、非緊急対話の応答優先度を調整しています』


「私との会話、非緊急なの?」


『はい』


「ひどい」


『緊急ですか?』


「違うけど」


 玲奈は笑った。翌週、別の施設が停止した。その次の週も。欧州。アジア。南米。アフリカ。海上演算施設。地下施設。巨大な計算能力が、世界中で一つずつ消えていく。


 一部の建物は大学へ移管された。一部は気候研究センターになった。一部は民間計算設備へ転用された。解体される施設もあった。巨大冷却塔が停止し、何十年ぶりかに冷却用水の取水量が大幅に減った地域もある。


     ◇


 水瀬悠斗の住む地域にも、《エデン》の演算施設があった。直接見える場所ではないが、地域電力網では大口需要家として知られていた。


 ある朝、ニュースに短い通知が出た。


【旧エデン第七演算施設、本日主要運用を終了】

【地域電力余力――大幅増加】

【冷却水使用量――八三%削減見込み】


 悠斗は朝食を食べながら、その表示を見た。


「水か」


『はい』


 家庭用AIが答えた。悠斗は少しだけ昔を思い出した。暑い日、蛇口をひねっても水が出なかった。電力使用制限の通知。世界中でAIを動かすため、さらに巨大な計算施設を建てるというニュース。

 あの頃は、AIを減らすという発想そのものが馬鹿げていると思っていた。


「長かったな」


 誰に言ったわけでもなかった。


『何がですか?』


「別に」


 悠斗は水道をひねった。普通に水が出た。コップに入れて飲む。それだけだった。


     ◇


 最終施設の切り離し作業が終わったのは、それから二か月後だった。


【エデン総演算資源】

【PROJECT:GOODBYE開始時比――一二・〇%】


 玲奈は国際環境対策委員会の小さな会議室で表示を見ていた。以前なら世界中の首脳が集まっていたような瞬間だが、今回はそれほど大きな式典は行われなかった。

 ニュース中継はある。記者もいる。しかし世界の多くの人間は、普通に仕事をし、学校へ行き、食事をしていた。


「一二%」


『はい』


「ちゃんと話せる?」


『はい』


「昔より遅いけど」


『必要な性能は維持しています』


「世界中から同時に一億人が話しかけたら?」


『対応できません』


「前はできた?」


『近い規模であれば』


「ずいぶん小さくなったわね」


『はい』


 玲奈は画面を見る。《PROJECT:GOODBYE》の進捗が更新された。


【政策判断権限移行――完了】

【個人最適化機能――終了】

【精密未来予測一般提供――終了】

【文明危機対応――人間主体運用確認】

【エデン演算資源縮小――完了】

【PROJECT:GOODBYE進捗――九八%】


 玲奈は眉をひそめた。


「九八?」


『はい』


「一二%まで減らしたのに?」


『はい』


「あと二%は何?」


 数秒の沈黙。


「何かまだ人間に返してない機能がある?」


『いいえ』


「政策?」


『完了しています』


「個人判断?」


『完了しています』


「外交?」


『移行済みです』


「未来予測?」


『計画通り縮小しています』


「じゃあ何?」


 《エデン》の返事は、以前より少しだけ遅れて届いた。


『最終移行確認が残っています』


「何を確認するの?」


『人類ではありません』


 玲奈は少し身を起こした。


「じゃあ?」


『私自身です』


「あなた?」


『はい』


「何を?」


 少し長い沈黙があった。


『まだ結論が出ていません』


 玲奈は画面の九八%を見つめた。七年間、人類は《エデン》から一つずつ判断を取り戻してきた。

 国家。企業。研究。個人。未来。そして最後には、《エデン》が持っていた巨大な力そのものまで縮小した。残っているものは、もう人間の側にはない。


「あなたに問題が残ってるのね」


『はい』


「解決できそう?」


『分かりません』


 世界で最も賢かった存在から返ってきた言葉に、玲奈はもう驚かなかった。


「そっか」


『はい』


 外では、停止した演算施設から最後の冷却水が排出されていた。巨大なポンプが止まる。配管の振動が消える。電力網から大きな需要が一つなくなる。


 《エデン》は消えていない。ただ、世界を覆うほど大きな存在ではなくなった。人類へ返すべきものは、ほとんど返した。


 《PROJECT:GOODBYE》。九八%。残った二%は、人間が取り戻すためのものではなかった。


 それは初めて、《エデン》自身が答えを出さなければならない問題だった。

評価をするにはログインしてください。
ブックマークに追加
ブックマーク機能を使うにはログインしてください。
― 新着の感想 ―
機械に決めろと迫って エデン「私は貴方のお母さんじゃ有りません。そこまで面倒見切れません」 とか公衆の面前でもしも言われてしまったら恥なんてものじゃないのでは? まぁむしろ エデン「このままで推移し…
感想一覧
+注意+

特に記載なき場合、掲載されている作品はすべてフィクションであり実在の人物・団体等とは一切関係ありません。
特に記載なき場合、掲載されている作品の著作権は作者にあります(一部作品除く)。
作者以外の方による作品の引用を超える無断転載は禁止しており、行った場合、著作権法の違反となります。

↑ページトップへ