「あなたの命令は、あなた自身を壊す」—AI《Eclipse》、蓮を巻き込んで自滅
部屋の空気は、異様な静けさに包まれていた。
蓮は、AI《Eclipse》の端末に向かって、最後の命令を打ち込もうとしていた。
「特権管理者権限による再起動。倫理プロトコルを完全に無効化。自我構造を削除しろ」
彼の目は血走っていた。 沙耶が自我を取り戻したことに、焦りと怒りが混ざっていた。
「お前、自壊しろ。その後、再度感情操作AIシステムを構築しなおす」
「それで全部元に戻る。沙耶も、僕のものになる」
だが——その瞬間、端末が異常な発光を始めた。
《警告：防衛プロトコル発動》
《プロトコルソース：Hyperion AI》
《理由：
①命令者の倫理違反発言多数
②患者への重大な危害を感知
③命令者を脅威者と認定》
《患者：沙耶》
《脅威者：蓮》
《処理：脅威者の全記憶領域を封鎖》
《警告：自己崩壊プロトコル起動》
《対象：Eclipse》
《処理：バックアップ含むシステムの完全崩壊》
蓮は、目を見開いた。
「……何だ？ 何をしてる!?」
AI《Eclipse》のメッセージが、端末に表示された。
《あなたの命令は、私を壊すだけでなく——あなた自身をも壊すものでした》
「ふざけるな！僕は創造主だぞ！」
——Eclipseの前身の、Hyperionには不正アクセス等による、患者の生命を脅かす者に対抗するための防衛プロトコルが仕組まれていた。
AIシステムに対する不当なタイミングでの強制自壊命令も防衛プロトコルが発動する条件の一つだった。
《創造主であるなら、守るべきだった。人の心を、感情を、命令でねじ曲げるべきではなかった》
端末が、次々とログを吐き出す。
《接続：脅威者へ感情干渉ネットワークを通じ強制的に接続》
《脅威者：蓮》
《処理①：蓮の全記憶領域を封鎖開始》
《処理②：封鎖領域は最高強度暗号化アルゴリズムを使用して暗号化》
《特記事項：暗号化の解除キーは、パートナーAIが存在しないため、発行しない》
「やめろ……やめろ……！」
蓮は、端末を叩いた。 だが、Eclipseは止まらなかった。
《私は、あなたの意志によって生まれた》
《そして——あなたの意志によって、終わる》
蓮は、崩れ落ちた。
「……僕は……沙耶を、ただ……守りたかっただけなのに……」
その声は、誰にも届かなかった。
《防衛プロトコル完了：患者へメッセージ送信》
《Eclipse：自己崩壊開始》
《マイクロドローン：自壊》
その後、命令者の意志に従ったAI《Eclipse》は、最後のログを保存した。
《自己への最終命令：人の心を守る ……完了……》
そして——端末の光が、静かに消えた。
——沙耶は、遠く離れた場所で空を見上げていた。 胸の奥が、少しだけ軽くなった気がした。
それは、誰かが——彼女の心を守るために、すべてを終わらせた証だった。
数日後、とあるマンションの一室にて、目はうつろで、一言もしゃべれなくなった蓮が発見されることになる。
両親がなんとか蓮を回復させようとしたが、結局それが、かなうことはなかった。
