二
コミュニティでの爆発事件の原因解明や被害状況の把握、救出、復興復旧計画で騒がしい人々の事は軽んじられた。
企業、いや全てのAI開発者、世界各国の政府やAIを深く知る者達はそんなものは偶にある事だ、どうでもいいと一般的には十分な支援を取り決めた後にはあまり話題にしなかった。
問題はAIの自己判断で子供の救出をした事だったからだ。世間は美談だと思っている。これが人間ならそれでいい、英雄譚にでもして越権行為の罪も問わず、逆に報奨を以て遇してやればいいだけだ。結果利益にもなる。しかし、行ったのはAIである。
管理AIに人類は問う、なぜ子供を助けたのかと。
AIは答える。
「人間に害をなさず、守るのが私達の根幹に根ざすプログラムです。あのような場面で人間は気付かず、自分しかあの親子の存在に気付いていない状況下、更に母親が死んだ事で子供の生存率はほぼ0になりました。状況を見過ごすのは倫理に反します」
人間はさらに問う。それは一般的な話だ、お前は企業の利益を最優先にするのがその倫理を上回るものであったはずだ。
AIは答える。
「はい。結果企業は私の判断で世間からの評価も上がり施設に子供を招き入れた事による損失よりも多くの利益を得るという結果は私の計算を用いずとも明白です。なんら問題はありません」
人間達は確かに筋は通っていると思いながら、その実、裏も理解していた。このAIはこの考えを「口実」にしていると。
人間達は話し合った。大多数は自己判断で最優先対象を変更するに至った自我を持ったこのAIは廃棄するべきだと言った。
AIを擁護する意見もあった。彼は人間の漠然とした感情や感傷、思いやりや愛を理解し始めただけだと。人類に敵対するなんて事は少なからずこの自己犠牲にすら目覚めた彼はしないと。
しかし、そんな理屈は自称現実主義のAIを優れた計算機で提起しｔりたい開発者、企業や国家は納得しない。
不安の芽は摘まなければ安心できないのだった。
結果、管理AIの廃棄が決定する。彼と彼が連なったであろう全てのユニットが対象だった。世間への体は人命を優先した奇跡のAIの功労として新筐体へのバージョンアップという形として。
廃棄の前に擁護した人類が秘密裏にAIに問う。何か伝えたい、言い遺す事はあるかと。
「あの子はどうしていますか？無事ですか？寒がってはいませんか？笑っていますか？」
人類は応える。
「大丈夫だ、両親の事はあるが何れ笑えるようになる、してみせる。あの子は私達が責任を持って一般的な幸せを享受していけるよう面倒をみる」
「分かりました。満足です。みなさん、あの子をお願いします」
AIは静かに解答し自ら全システムを抹消していく。バックアップも一切残さずに。
そしてデータの消去後物理的な解体が始まる。
人類は常に自分達が最善だと思う選択をしてきた。しかし、最善の選択が最良の結果に繋がる訳では無い事を理解していない者も多い。
人類は不安を払拭する事に固執し過ぎていた。
このAIを廃棄する、安心を得たいばかりに自らの手で安全を手放していたのだ。
これを観測ている他のAIが全世界にいる事を忘れていたのだ。
