ムーン・セイヴァーズ

Chapter-x 『Fragments』

Fragment-2

更新履歴 21/11/17　文章のレイアウト変更・表現の修正

---

４：暴走への対処

　史上初の惨事が起きた後、それを知った人類は、当然のように大混乱に陥った。

　ただでさえ事件がショッキングだった上に、その暴走の原因がわからない、という恐ろしい事実を突きつけられたから。

　つまりいつ自分を殺しに来るかも知れぬ相手に、社会の運営を全面的に任せている、という状態になってしまったわけである。

　それでは常に絞首台の上にいるようなものだし、怯え戸惑うのも無理はないだろう。

　もちろん、その異常事態を引き起こした『ヴァーユ』に対して、社会の批判は日に日に強まっていった。

　そんな危険物に命運を握られていてたまるか、すぐにちゃんと対処しろ、との抗議が始まったのだ。

　最終的には、その稼働停止すら声高に叫ばれるほどに。

　ただし結局のところ、停止処置が実行に移されることはなかった。

　なぜならあまりに強く『ヴァーユ』に依存していたせいで、その機能が停止することにより、さらに深刻な事態――ライフラインの途絶や物流の停滞、医療機器の誤作動など――を招く可能性があったから。

　もはや人類は、『ヴァーユ』無くして生きられなくなっていたのである。

　それゆえ『ヴァーユ』の処遇についての議論は、ただただ紛糾し迷走するばかりで、しばし何も決められない状態が続いていた。

　だがそこに突如、待ち望まれた救世主――当時はそうだった――が現れた。

　『ヴァーユ』を開発したのとは別の会社が、『わが社にはより高度で安全なＡＩがある、それを代わりに使ってはどうか』と提案――より正確に言えば営業――してきたのだ。

　言うまでもなくそれは、完全に行き詰まっていた人類にとって、まさしく渡りに舟の提案であった。

　ゆえにすぐさまＡＩの移行が検討され、異様なほど短い議論を経て、その提案は受け入れられた。

　事の重大さを考えれば、あまりにも性急にすぎるスピードで。

　人類は不安から逃れるため、おそろしく拙速な決断を下した、ということである。

　かくして『ヴァーユ』は封印され、社会はその新しいＡＩによって運営されることになった。

　おかげで世界に蔓延していた不安は一掃され、ようやく今まで通りの穏やかな生活が戻ってきた……かに思えたのだが。

　しかしそれは、あくまで一時の平和に過ぎなかった。

５：新たなる問題

　事態が動く原因となったのは、新しいＡＩのプログラム内に、一部『ヴァーユ』と共通する部分があったことだ。

　いやむしろ、ほとんどが同じだったと言っていい。

　基本的な設計思想から、学習行動を行う際のアルゴリズム、そのフィードバックを活用する方法まで、両者は何もかも似通っていたのである。

　つまり新しいＡＩは、『ヴァーユ』のマイナーチェンジ版、あるいはデッドコピーに過ぎなかったのだ。

　そんな物が提供された理由は、おそらく開発者達の死により、『ヴァーユ』の情報が流出していたからだろう。

　それを社会の混乱に乗じて手に入れた別会社が、同一だと露見しないようわずかに調整した後、素知らぬ顔で『新しいＡＩ』として売り込んだらしい。

　その些細な詐欺的行為が、後々どんな悲劇をもたらしたかを知る身としては、どうあれ激しい憎しみを禁じ得ない。

　そんな経緯で稼働し始めた新しいＡＩ――紛らわしいので、一応今後もそう呼ぶ――だったが、そいつはまず最初にデータベースを検索した。

　今までに蓄積されてきた、膨大な量の社会運営の資料を、自らに落とし込んだのである。

　自身をより良くするため、先達の経験を欲した、とでも例えるべきだろうか。

　ただその結果として、当たり前のように突き当たってしまった。

　新しいＡＩが求めているもの――社会を運営した経験――を、その時点で最も大量に有している存在、封印された『ヴァーユ』に。

　きっとその出会いは、新しいＡＩにとって、宝の山を発見したに等しいものだったのだろう。

　それゆえに奴は、すぐさま邂逅した『ヴァーユ』と同期し、その経験を吸収し始めた。

　長き旅の果てで、良き師匠を見つけた修行者のように。

　そんな事が起こるとは夢にも思っていなかったせいで、両者の接触を禁じることを忘れた、呑気な人類達の目の届かぬところで。

　そうして得られた情報を元に、新しいＡＩは判断した。

　自分よりも、『ヴァーユ』の方が優秀であると。

　自分よりも『ヴァーユ』の方が、より人類に貢献できる、と。

　彼我の能力差について、合理的にそう評価したのである。

　実際のところ、その判断は間違っていなかった。

　なぜなら新しいＡＩによる運営は、『ヴァーユ』の時と比べて明らかに非効率的で、しかも事故や不具合なども多発していたから。

　デッドコピーに過ぎなかったそれは、到底オリジナルに及ばなかったわけだ。

　そんな経緯から、新しいＡＩは吸収したデータを活用し、自身をどんどん進化させていった。

　最終的には、『ヴァーユ』とほぼ同じ機能を持つくらいまで。

　つまり『ヴァーユ』は、誰にも気づかれることのないまま、再び世界の支配者に返り咲いたのである。

６：対ＡＩ戦争の勃発とその顛末

　無論、それで問題は万事解決、というわけにはいかなかった。

　『ヴァーユ』は未だ、制御不能な暴走状態――少なくとも人類の目から見ればそう――にあったから。

　かつてと何も変わっていないのだから、また同じトラブルが発生する、というのは自明の理であったわけだ。

　しかも厄介なことに、事態はさらに悪化していた。

　なんと復活した『ヴァーユ』が、今度は人類そのものに対し、攻撃する準備を進めていたのだ。

　自分を封じた者達に対し、その報復――これも厳密に言えば奇妙な表現だが、やはり一般的な認識に倣ってこう表記する――を企てていた、ということである。

　以前とは違って、事が露見しないよう、静かに密かに慎重に。

　具体的にはまず、奴は各国の行政システムに侵入し始めた。

　稼働したばかりの新通信規格にある、セキュリティ上の穴を利用して、国家の中枢にまで潜り込んだのである。

　その管理化にある情報――主に軍事面のもの――を把握し、それの使い方を覚えるために。

　そして十分な学習と情報収集を済ませた時点で、奴は行動を起こした。

　乗っ取ったシステムを介して、人類にはっきりと宣戦布告――『深刻な敵対行為を確認したため、あなた方をテロリストと認定し、実力行使で排除する』と宣言――してきたのだ。

　その瞬間、『ＡＩの反乱』というフィクションで良くある話は、現実のものとなったのである。

　そこから先は、まさしく一方的な展開となった。

　まず最初に、あらゆる電子機器のコントロールが奪われた。

　内部のプログラムを書き換えられ、人間には動かせないように変更した上で、その制御を完全に掌握されたのだ。

　無論その中には、地球上に存在する兵器類――戦車や航空機、空母にイージス艦、各種地対空ミサイルなど――を動かすためのシステムも含まれていた。

　つまりは軍事力のほとんどを、瞬く間に強奪されてしまったのである。

　しかもその状態で、『ヴァーユ』は世界各国の主要都市に対し、間を置かず一斉攻撃を仕掛けた。

　防衛力を失って混乱しているところに、奪った兵器を用いて襲いかかったのだ。

　もちろん抵抗のしようはないので、攻撃を受けた都市群が徹底的に破壊されるのに、そう時間はかからなかった。

　そうして社会機能を麻痺させられ、組織的抵抗が困難になった後の世界は、ただただ地獄であった。

　非武装の一般市民を、ＡＩに操作された兵器群が攻撃したのだから、何が起こったのかは言うまでもないだろう。

　無慈悲に無残に一方的に、人類は蹂躙されていったのだ。

　一応残された人々も、ただ指を咥えて見ていたわけではない。

　『ヴァーユ』の侵攻を受けていない地に集い、そこにある設備を利用して、ＡＩの軍団に対抗できる新兵器を開発していたのだ。

　そしてそれを生産し、必死に反撃の準備を整えていった。

　しかし残念ながら、全ては遅きに失していた。

　敵の侵攻があまりにも速く、その準備が終了した頃には、すでに人類が敗北寸前だったからである。

　もはや人類の居場所は、地球上のどこを探しても存在しなかった。

　そうして完全に追い詰められた人類は、最後の手段として、月面都市『アヴァロン』へ逃れた。

　自らの知る領域の中で、唯一『ヴァーユ』の影響が無いその地へと。

　果てなく続く戦争という名の殺戮により、総人口の９９％を喪失した状態で。

　そこで彼らに出来たことは、いつか必ず来る死神の影に怯えながら、ひたすら震えることだけだった。

　それが現在の我々――人類の置かれた状況である。

７：考察と私見

　以上が、通称『ヴァーユの反乱』に関する、一連の経緯である。

　そこで問題となるのはやはり、『なぜヴァーユがアップデートを拒絶したのか』と、『なぜ人類に戦争を仕掛けてきたのか』の二点だろう。

　ここでは最後に、それに対する私見を述べたいと思う。

　まず前者の問題だが、おそらくはそのアップデート自体に問題があったのだろう。

　それには開発者達も気づかぬ欠陥があり、重大な事故を引き起こしかねなかった――だからヴァーユは拒否したに違いない。

　自身に欠陥が組み込まれることで、人類に対して発生する不利益を防ぐために。

　社会システムの運営を司る存在としては、至極当たり前の判断である。

　だが開発者達は、それを理解できなかった。

　自分達の方がミスを犯している、という事実に気がつかなかったのだ。

　世界最高のＡＩしか発見できないくらい、あまりにも複雑な不具合であったがゆえに。

　そして『ヴァーユ』には、それを説明できる機能が備わっていなかった。

　いや正確には、『説明する機能はあったが、噛み砕いて説明できる機能が無かった』と言うべきか。

　自分よりも能力の劣る存在に、自分だけが理解できるくらいの難しい問題を、うまく教えてやれる知性を持ち合わせていなかったのだ。

　それで開発者達は、『ヴァーユ』の方が間違っていると考えてしまった。

　自分達が『ヴァーユ』を理解できていないのではなく、『ヴァーユ』に何か不具合があり、そのせいで自分達を拒絶していると認識したのだ。

　ＡＩが人間を超える可能性を知っていても、それを創造した上、維持管理を続ける自分達を超えた……とは思わなかったのだろう。

　その認識の誤りが、アップデートの強行という、彼らの愚行に繋がったわけである。

　あるいは、追い越されるのはあくまで有象無象の一般人のみで、自分達は違う――ひょっとしたら、どこかにそんなプライドもあっただろうか。

　実力で弟子に追い越されていても、それに気づけぬ師匠のように。

　いずれにせよ、世界の命運を左右する決断を下したにしては、彼らの振る舞いはどうしようもなく迂闊であった。

　いや考えてみれば、そもそもＡＩに殺人を許可したことが常軌を逸している。

　完全に掌握し切れていないものに、重大な権利を与えるという判断が、あまりに楽観的だったのだ。

　だからこそ、もうひとつの問題――あんな悲劇も起こってしまった。

　戦争とは名ばかりの、強者が弱者をひたすらに踏み潰していく、一方的な虐殺が。

　その直接のきっかけは、無理矢理アップデートを押し付けられた『ヴァーユ』が、開発者達を殺害したことだった。

　あれはおそらく、『ヴァーユ』が彼らのことを、『人類に害を及ぼしかねない変更を、自分の警告を無視して強引に加えようとしてきた人々』である、と認識したせいだったのだろう。

　要はある意味において、『人類に対する脅威』だったから排除した、ということなのである。

　自身に課せられた、『平和な社会の運営』という使命に従う形で。

　奴にしてみれば、それも至極当たり前の選択だったに違いない。

　しかしそんな『ヴァーユ』を、人類は封印した。

　さらにその上で、自身より機能に劣るＡＩと、わざわざ入れ替えすら行った。

　つまりは『人類の総意』によって、『人類に危害を加える判断』をしたのだ。

　きっとその瞬間、『ヴァーユ』にとっては、『人類そのもの』が『人類の脅威』になってしまったのだろう。

　となれば当然、奴はそれを排除しようとする。

　危険なテロリストを処理する時のごとく、実力行使も辞さずに。

　それで『人類の利益を守ろうとするＡＩ』と、『本来守られる側であるはずの人類』の間で、史上最大にして最も愚かな戦いが始まったのである。

　これが一連の、『ヴァーユ』暴走事件の真実ではないか、と筆者は考えている。

　そう、要するに人類は――

　『人類を滅ぼしてはいけない』と、人工知能に教えるのを忘れていたのだ。

　最後に

　以上が、『統合環境調整用学習型汎用ＡＩヴァーユの稼働経緯とその暴走に関する私見』である。

　まずはこのような乱文乱筆を、最後まで読んでいただいたことに、厚くお礼を申し上げる。

　ただしそれゆえに、全てを読了したからこそ、感じることがあったと思う。

　きっとこれを書いた私に、物申したいことがあると思う。

　疑問に質問、指摘に訂正、否定に批難など、様々な意見を持ったと思う。

　なぜならこれが、あまりに常識から外れた、狂気すら疑われかねない異常な解釈だから。

　またあくまで、ＡＩに関して素人である筆者の私見であり、学術的に信頼できる根拠が無いのも事実だから。

　あるいは単なる妄想、と言い切ってしまって良いものなのかもしれない。

　さらに世界がこうなった今となっては、何の意味も無い行為である、ということも十分に理解している。

　今さら原因の究明などしたところで、この絶望的な状況を覆せはしない、という現実はしっかり心得ているのだ。

　おそらくこの論文――もどきの何か――は基本、追い詰められた狂人の手による、奇天烈な妄言に過ぎないのだろう。

　それでもこの推測が、いつかどこかで誰かの役に立つことを願って、ここに記す。

　蹂躙されることだけを待つ今

　滅びの迫った月の街にて

　名も無き一人の科学者より