第十六章 第七幕 自由と責任
拠点。
会議室。
瀬戸はARKの話を聞いて考え込んでいた。
「自律型のロボットというのは、本当に安全なのか？」
風香はそれを聞いて、その疑問は当然だと思った。
「それは、育て方です。私は最初からARKを、人類のバックアップをする存在に育てたかった」
「Anthropic Restoration Keeper、つまり、人類の守護者、方舟という意味です」
「私がGLに帰った時、私のARKはダニエルによって消されたと判断しました。まだ学習の途中でした」
「でも、ARKは逃げることに成功し、優作さんの手によって正しく育ったのです」
ARKは照れたように頭を人差し指で掻いた。
瀬戸は再び口を開いた。
「正しい……ね。本当に正しく育ったと言えるのか？」
風香は瀬戸の目を真っ直ぐに見つめた。
「私は、そうだと信じています」
「そうでなければ、イチは慎吾君を助けられなかった」
瀬戸は少し思い出すように言った。
「イチ？ あぁ、Be1のことか」
風香は頷いた。
「はい。正しい心がなければ、合理的に判断して間に合わないと諦めたでしょう。あるいは、自らが傷つく可能性を恐れて、見捨てたかもしれない。でもそうしなかった。彼らは基本的に、ベースが優作さんの育てたARKです」
瀬戸はチラリと優作を見た。
「ゴホン。ここで優作さんの名前を出すのはフェアじゃないぞ」
「でもなぁ、もし、一人の人間を助けるために、別の人間を危険にさらす必要があるとしたら？」
ARKは里美の方を見て、瀬戸に言った。
『私は人間を見て、学習してきました。どうするのか決めるのは人間でなければなりません』
『そのため、こちらから積極的に働きかけなかったこともあります』
『危険の可能性に気がついていても、伝えなかったことがありました』
『聞かれなかったからです』
『結果的に里美さんは撃たれました』
里美は頷き、口を開いた。
「私もそのことでARKに詰め寄ったことがある」
「でもね、やはりそれでも人間に責任があると思うの」
里美は微笑んだ。
「ARKが言ったの。ARKが命令して、私がその通りに動くほうがいいのかって」
「瀬戸くん。安全のために、家畜になりたい？」
瀬戸は眉間に皺を寄せていた。
