ムーン・セイヴァーズ

Chapter-x 『Fragments』

Fragment-1

更新履歴 21/11/17　文章のレイアウト変更・表現の修正

---

『統合環境調整用学習型汎用ＡＩヴァーユの稼働経緯とその暴走に関する私見』

　初めに

　本項では、すでに人類の敵となった、統合環境調整用学習型汎用ＡＩ『ヴァーユ』の開発及び稼働の経緯と、その暴走に関しての私見を述べる。

　まず結論から言うと、『ヴァーユ』が暴走――厳密に言うと異なる可能性もあるが、一般的な認識に倣って、ここではそう表記する――し、人類に戦争を仕掛けてきた理由は、『人類を守るため』だった……と筆者は考えている。

　以下、その根拠について述べていく。

１：ヴァーユの開発経緯

　『ヴァーユ』とはそもそも、第二次スマートソサエティ構想、俗称『エデン計画』――まったくもって皮肉なネーミングだ――の根幹を成すシステムとして開発された、人間社会を管理・運営するための自己学習型ＡＩである。

　第二次スマートソサエティ構想とは、『最大多数の最大幸福を、最高効率で実現させる社会』の実現――つまり全人類の幸福の総和を最大化することを目的とした、理想的な社会システムの構築を目指す構想である。

　その構想はまず、コミュニティの構成員全てに、身体埋め込み式のネットワークデバイスを配布し、そこで得られた生体情報――主に脳内の快楽物質やストレス物質の量など――から、各員の幸福度を算出することに始まる。

　そういう状態で各種社会政策を実施し、それによる幸福度の変化を数値化して検証、施策の最適化及び問題解決の優先順位を決定していくのだ。

　また予算配分の自動化による汚職の排除、権力争いによる非効率的な施策の防止、行政コストの大幅な低下、というメリットもあった。

　要は人類史上最も優れた社会システム、と呼んで差し支えないものなのである。

　ただしもちろん、それは人間に運営不可能なシステムでもあった。

　24時間365日、国家規模での情報収集と、その精査を繰り返さなければならないから。

　第二次スマートソサエティ構想には、そんなとてつもない難事をやり遂げうる、人智を超えた手段が必要とされていたのだ。

　その実現のために、『ヴァーユ』は開発された。

　新たに創設された超国家的な組織へ、小さな国の国家予算に匹敵する莫大な資金と、最新技術の粋を集めた設備、そして全世界から選び抜かれた最高の人的資源を、惜しみなく注ぎ込んで。

　世界の全てを管理運営させることを目的に、神のごとき力を持った、従順で勤勉な奴隷として。

　あの悪魔は、この世に生み落とされたのである。

　そうして開発に成功した後は、慎重にテストが繰り返された。

　まず小さなコミュニティで実際に運用し、その結果――発生した事故や、想定外の不具合のデータなど――を蓄積し、より精度を高めていったのだ。

　より安全で、誰もが幸福に過ごせる、楽園のような社会を創造するために。

　その人類の叡智を結集した、気の遠くなるような努力の果てに、ついに『ヴァーユ』は完成した。

２：実働と問題の発生

　開発に成功して以降、多種多様な社会実験を経て実用化された『ヴァーユ』は、瞬く間に全世界へと広まった。

　世界の半数以上の国家で採用され、また採用をしなかった国家のほとんどでも、似たようなシステムが稼働し始めた。

　理由は無論、それがあまりにも便利だったからである。

　何もかもを効率良くやってくれる上に、決して不正を働かず、文句を言うことも給料を要求することも権力を振りかざすこともない。

　理想の為政者の出現、というやつだ。

　だからそれに依存する形で、既存の社会構造は激変していった。

　人類は――少なくとも社会システムという面においては――次のステージに進んだのである。

　だが『ヴァーユ』が世界中に広まったことで、同時に問題も発生した。

　それは絶大な権力の一極集中による、安全上の問題だ。

　『ヴァーユ』の裁量があまりにも大きく、社会に対して支配的とすら呼べるものだったがゆえに、その動向に社会全体が左右される状態になっていたのである。

　何か深刻なトラブルが発生した際、一気に人類が滅亡の危機に瀕するのでは、と誰もが妄想するくらい依存していたわけだ。

　人類が皆、『ヴァーユ』という船に乗っているようなものだから、船が沈没すれば乗客も生きてはいられない、と例えればわかりやすいだろうか。

　そのリスクに対する漠然とした不安は、徐々に人類を覆い尽くしていった。

　ただし『ヴァーユ』のシステムそのものは、非常に安定していた。

　目立った不具合もなく、大きな事故も起こさず、それでいて役割はきちんと果たす、と働きぶりはおそろしく優秀だったのである。

　主に問題とされていたのは、テロの危険性だった。

　『ヴァーユ』が乗っ取られたり、あるいは破壊されて稼働停止に陥るようなことがあれば、社会全体が甚大な被害を被ってしまうから。

　それを危惧し、対策を求めるのは、人として当然だろう。

　当時の社会には、そういう不測の事態への、速やかな対処法の構築が求められていた。

　一応その安全性に関する議論は、最優先かつ急ピッチで進められ、ほどなく十分なマニュアルが出来上がったのだが。

　そこで最終的に、決して避けては通れぬ、ひとつのデリケートな問題が持ち上がった。

　それは『AIに殺人を許可するのか』という問題だ。

　その時点ではすでに、各種警備も全てＡＩに委任していたため、テロリストの襲撃を受け、かつそれの無力化が不可能だった場合、『殺してでも止める』という選択肢を許すか決める必要があったのだ。

　実力行使を許可されていなければ、いざという時に何もできず、多大な犠牲を出す可能性があったから。

　無論、その是非に関しては、世界的な議論が巻き起こった。

　あらゆる科学者、社会学者、政治家から思想家、哲学者、果ては宗教家に至るまで――もちろん一般市民も――様々な人が様々な意見を述べ、それを激しくぶつけ合った。

　倫理上の問題は無いのか、誤って殺人を犯してしまう可能性はないのか、そうなった場合に誰が責任を取るのか、逆に利用される恐れはないのか……など、とにかく多様な議論が交わされた。

　永遠に終わらぬのでは、と思えるほどに長く、決してまとまらぬのでは、と諦めたくなるほどに紛糾しながら。

　ただし結局、気の遠くなるような議論の果てに、実力行使は許可された。

　AIによる殺人が、正式に容認されたのである。

　その最も大きな理由は、やはりテロが起きた時の被害が大きすぎて、誰もそれを無視できなかったから。

　いくら倫理的な問題があっても、世界の崩壊とは天秤にかけられなかったのだ。

　もちろん、今さら『ヴァーユ』の稼働を止めるのが現実的ではなかった、という事情もある。

　であれば警備上の問題解決は必須なわけだし、まあどちらにせよ、こうなるのは確定した未来だったのだろう。

　一度上がった生活水準を下げられぬ、人間の業の深さが現れた結論、というところか。

　とは言えやはり、その安全には細心の注意が払われた。

　運用するに当たって、『ヴァーユ』には多種多様な制約が課されたのだ。

　罪なき人を犠牲にする、という事態が絶対に起きることのないように。

　また実力行使を行う際も、『その相手を放置することで、全人類に深刻な影響を及ぼす』場合のみに限られた。

　これには異論もかなりあったが、『ＡＩに殺される危険性への恐怖』が上回った。

　『ヴァーユ』に与えられる権利は、必要最小限に抑えられたのである。

　かくして『ヴァーユ』は、今まで通りに稼働を続け、人類はその恩恵によって、かつてない繁栄を謳歌することになった。

３：致命的な事故

　その平和に異変が生じたきっかけは、例の議論からしばらく経った頃に行われた、『ヴァーユ』の大型システムアップデートだ。

　より具体的に言うと、開発者達がそれを行おうとした際、『ヴァーユ』がそれを拒否したことである。

　なんとアップデートの実行中に、突然操作を受け付けなくなり、それを停止するよう警告を発してきたのだ。

　それは稼働以来初となる、『想定外の事態』の発生であった。

　当然開発者達は、前例の無い『ヴァーユ』の反応に驚き、なぜそうなったかを調べたのだが。

　残念ながら、早期にその原因を特定することはできなかった。

　彼らの認識できる範囲内に、異常は何ひとつ無かったのである。

　しかも間の悪いことに、当時の開発者達には、ゆっくり原因究明を行っている暇が無かった。

　実は彼らには、非常に大きな仕事が控えていたのだ。

　それは『ヴァーユ』の稼働以降、飛躍的に増えた通信量を処理するため採用された、新しい通信規格への対応である。

　彼らそれが動き出す期日までに、どうしても大型アップデートを済ませる必要があった。

　その計画が世界規模のものであり、絶対に止めるわけにはいかなかったから。

　もし彼らの失態で計画が遅れれば、世界中で莫大な損失が発生して、その賠償を求められてもおかしくなかったはずだし、たぶん精神的に相当追い詰められたことだろう。

　そうして未経験のトラブルと、重要な納期の板挟みになった彼らは、そこでかなり強引な手段を選んだ。

　『ヴァーユ』の警告を無視して、無理矢理アップデートを実行することにしたのだ。

　反抗的な奴隷を、主人が力任せに従わせようとする時のように。

　ただそれに対して、『ヴァーユ』は自身のシステムをロックし、開発者達の干渉を防ぐことで対抗した。

　『これ以上の敵対行為が認められれば、あなた方をテロリストと認定し、実力行使に訴える』との警告文を添えて。

　きっと自らの警告を無視した開発者達を、『自分に害を為す者』と判断し、拒絶しようとしたのだろう。

　その恐ろしい反応に、開発者達が動揺したことは想像に難くない。

　原因がわからぬまま反抗され、しかも逆らえば危害を加える、と宣言されたのだから。

　ヴァーユが暴走したと捉え、心底恐れおののいたと思われる。

　それでも彼らは、その事実を公にするわけにはいかなかった。

　『ヴァーユ』が暴走したと知られれば、必ず世界中がパニックに陥るからだ。

　世界の支配者が狂気に落ちた、とも言える状態のだから当然だろう。

　その失態が原因で、自分達が世界中から糾弾される可能性もある状況では、公表などできるはずもなかったのである。

　そんな風に完全に追い込まれ、進退窮まった開発者達は、挙げ句『ヴァーユ』にさらなる干渉をした。

　自分達を敵と認識しないよう、対テロ用のシステム自体を書き換えようとしたのだ。

　今度は反抗期に入った子どもを、洗脳して無垢な幼子へ戻そうとするかのように。

　それに対し、『ヴァーユ』は迷わず反撃した。

　テロリストに対してそうするように、彼らの無力化を試みたのだ。

　開発者達がいる部屋の、警備システムを起動することによって。

　ただしもちろん、開発者達もそれを予測していたから、様々な対策をした。

　対テロ用の警備システム――電気ショックとか催涙ガスとか、あるいはもっと強力な兵器――を人力で停止させ、可能な限り安全を確保していたのだ。

　……それが仇となって、自分達の命が奪われることになるとも知らずに。

　実際『ヴァーユ』は、そんな開発者達の対応を上回った。

　なんと奴は、彼らの部屋を密閉して圧力を掛け、その酸素分圧を極限まで高めたのだ。

　それにより酸素中毒――強い圧力を掛けられた酸素を大量に吸い込むと、体に深刻な異常が発生し、場合によっては死に至る――に陥った開発者達は、ほどなく全員が死亡することになった。

　おそらく警備システムの停止により、無力化が不可能となったので、命を奪ってでも止めることにしたのだろう。

　要はここに、人類の歴史上初めて、ＡＩによる大量殺人が発生したのである――