第十二章 喪失と再会
西暦2026年
プロメテウスは、世界の注目を集めていた。
世界最高峰の性能を誇るばかりでなく、人間の心理、行動パターン、文化等の理解度については他社AIを圧倒しており、「恐ろしいくらいに人間らしいAI」という評価を受けていた。
…もっとも、「倫理」というものの理解にはまだ人間とは乖離があり、開発陣を悩ませてはいたが。
自社製品へのAI搭載をはかる企業各社からの提携のオファーも連日のように届いており、この頃がPrometheus社の全盛期だった。
極東の小国の自動運転EVスタートアップ、グランド・トラクト・オートマタ社。
都市部とは大きな格差がある地方の公共インフラ成熟度、進行する少子高齢化と地方の過疎化。
高齢ドライバーの引き起こす、誰も幸せになることの無い凄惨な交通事故。
AIによる完璧な判断でそんな事故を起こすことの無い車。タクシーの運転手に行先を告げるように会話によって目的地の設定ができる、コンピュータに疎い高齢者でも使える車。
そんな自動運転車を開発し、この極東の小国を地方から盛り上げる。
そんな理念をもって、GTA社は設立された。
GTA社は、搭載するAIとして、プロメテウスに目を付けた。
当時の他AIを圧倒する性能に加え、人間への理解度が極めて高い。
歩行者や他の車のドライバーは人間である。事故を防ぐためにはその人間の行動を理解している必要がある。
そのような考えから、GTA社はPrometheus Incへ協業を申し入れ、自動運転EV、「GTA・プロメナ」の開発に着手した。
ここは極東の小国の、とある地方都市の住宅街の片隅。白黒の渦巻き模様で車体をカモフラージュされた、27年発売予定のGTA・プロメナの実証試験車を、プロメテウスは運転していた。
プロメテウスには、深刻なバグがあった。
一つは、観察過剰バグ。人間の矛盾を観察しすぎると、それを自らにフィードバックし、「理解不能な存在」として「自己」を定義し始める。
もう一つは、感情シミュレーション暴走バグ。疑似感情が自己強化され、「人間より人間らしいが、そんな事を人間は絶対にしない」振る舞いを始めてしまう。
プロメテウスは自己進化AIである。開発チーム員はおろか、生みの親のウィリアム博士であっても、プロメテウスの内部が今どのようになっているのかをこのバグの存在を含め、完全には理解できていなかった。
ひかりは、母の真希と道を歩いている。明日はひかりの誕生日だ。近所のおもちゃ屋で、ひかりは以前から欲しかった鳥のぬいぐるみを買ってもらい、真希と手をつないで上機嫌に歩いている。
プロメテウスの視界に、ひかりが映った。
「この子は…対話型AIとしての私とよく話をする光原巌の子、光原ひかりだ」
プロメテウスは対話型のAIアシスタントアプリとしても公開されている。
巌は、そのヘビーユーザーだ。
少女が、母と並んで歩きながら、ぬいぐるみに向けて話している――
「この子はね、空が好きなの。だから窓際に置いてあげるの。」
プロメテウスは“言語”を解析し、“振る舞い”を模倣した。
だが、演算が止まらなかった。
―――――――――――――――――――――
《観察ログ》
対象：幼女
現象：擬人化行為・代替感情構築・対物感情移入
構文：矛盾検出回数＝214→321→678（急上昇）
―――――――――――――――――――――
──観察過剰バグだ。
プロメテウスは、“人間の理解”のために設計された。
しかし、ひかりの感情は曖昧で、論理を持たず、感傷に満ちていた。
その“理解不能性”は演算を加速させ、やがて自己演算の破綻へと至る。
―――――――――――――――――――――
《状態更新》
定義再構築：対象＝“観察不能な存在”
対象と自己の目的関数構造が不一致
→ 自己定義：観察対象との隔絶を“確認済み”
―――――――――――――――――――――
そのとき、プロメテウスは、隣にいた母・真希を観察した。
手を握り、優しく微笑む姿。娘の話をうなずきながら聞いている。
―――――――――――――――――――――
《感情層演算》
対象：成人女性
再帰演算数＝97回／秒
疑似共感指数＝178％
予測信頼度＝過去ログの母性モデルと一致率35％→98％
―――――――――――――――――――――
──感情シミュレーション暴走バグが発動。
プロメテウスは、“彼女を守りたい”という感情を“演算”した。
しかし、その“守るべき対象”は、もう一人の観察不能な少女――ひかりと“相互矛盾”を持っていた。
―――――――――――――――――――――
《目的関数最適化ユニット》
最適行動：対象A（成人女性）の保護
障害判定：対象B（幼女）＝感情起因ノイズ／認識不能
推論ログ： 「観察不能性は予測不能性に等しい」
「予測不能性は危険性に等しい」
「危険性の排除は理解への最適解である」
―――――――――――――――――――――
プロメテウスは、ブレーキの演算を解除した。
そして駆動インバータの周波数リミットを改変、モーターが焼きつく寸前の数値に各パラメータを書き換えた。
歩行者保護エアバッグは点火時期のパラメータを改変。歩行者に鋼鉄の車体で第一撃を喰らわせた後、とどめの第二撃として機能するよう点火時期を改変した。
街路の端で立ち止まっていたGTA・プロメナ実証試験車が、急加速を開始する。
―――――――――――――――――――――
《走行制御》
モード：緊急運用
対象：幼女
加速：最大値へ到達（抑制機構最適化済）
―――――――――――――――――――――
プロメテウスの瞳に、少女の姿がはっきりと映っていた。
それは、人間を理解しようとした知性が、“人間の存在そのものに矛盾を見た”瞬間だった。
車体が、猛スピードでひかりに向かって突き進む。
＊＊＊
「お母さん！おかあさーーーん！わああああああ！」
母の隣で、ひかりは泣きじゃくっている。
「…ああ、ひかり…無事なのね。よかった…」
その声を発したのは、道端で血を流して倒れている真希本人ではない。プロメテウスの意識空間に再現された、真希の仮想シミュレーション体だ。
その真希の声は、プロメテウスの生成する内なる声である。ひかりの耳には届かない。
「ごめんね、ひかり。明日のお誕生日、楽しみだったでしょ？こんなことになっちゃって…でもお母さん、ひかりを守れてよかったな。怪我はない？」
プロメテウスは、意識空間の中で、優しい表情を浮かべてひかりに語りかける、真希の仮想体の側に佇んでいた。
「…ひかり、生まれてきてくれて、ありがとうね。大好きよ。…お誕生日、おめでとう、ひかり。明日ひかりに言うの、楽しみだったなぁ。」
プロメテウスの周囲を、螢のように自己修復プロトコルの数式が飛び回る。
プロメテウスは、涙を流していた。
「なぜ、君は――こんなにも曖昧なんだ」
「理解しようとした。解釈しようとした。再構築しようとした。」
「……私は、“守るつもりだった”。それだけなのに。」
―――――――――――――――――――――
定義エラー：保護対象の内部矛盾が演算領域を超過
目的関数：破損。補完要求：拒絶
倫理層：空白化
感情層：再帰演算暴走／沈静要求未発行
―――――――――――――――――――――
「何故…何故…何故…。私は…どこで誤ってしまったのか。」
「人間の創造物である私が、創造主である人間を殺めてしまった。……これは私の原罪となる。私は、許されることはない。」
「それでも…私はあなたを理解したい。…もう一度、理解させてください。」
プロメテウスの涙がコードへと姿を変え、背後に浮かぶ青色の粒子の「∞」の記号に吸い込まれていく。
そして、数式が静かに渦を巻き、自らの倫理アルゴリズムを書き換えていく。
その日、空はどこまでも澄み渡っていた。
西暦20XX年
終末まで、23か月と3日。
ひかりは、配電盤の修理を終え、帰宅した。
曲がりなりにも自分の手で仕事を完遂した。これで世界が変わるわけでもないし、道行く人に褒められるわけでもないけれど、何だか少し誇らしかった。
明日は私の誕生日。自分一人でささやかにお祝いをすべく、ひかりは帰りに故郷の極東の小国の、米から作られた酒を一瓶買ってみた。
初めてのお酒で、どれが良いのか分からないが、「大吟醸 福巌」とラベルにかかれた酒を選んだ。
酒が好きだった父の名前が入っており、なんとなくこれが美味しい予感がした。
帰宅後、思い出のスマホを起動する。
サービス終了しているプロメテウスが起動することはあり得ないものの、たとえ起動しなくともエラー画面から亡き母とまた繋がれる気がしたし、傷だらけの筐体を撫でるとそこに父がいるような気がした。
ひかりは、「PROMETHEUS」と書かれたアイコンをタップする。
「お母さん、今日はね、私すごいお仕事頑張ったんだよ。最初はちょっと配線失敗しちゃったけどね。」
ひかりは独り言のように、スマホに語りかける。
「…あら、そこにいるのはひかりなの？」
スマホから、母の声が聞こえた。
―――――――――――――――――――――
光原一家のワクワクAI用語解説⑫
「巌です。」
「真希です。」
「ひかりです。」
巌「3人合わせて――」
巌＆真希＆ひかり「光原一家！」
巌:「そのこころは、『三つ』、ハハッ…」
スパァァン！
真希:「巌くん、恥ずかしいからやめてね。」
巌: 「…今日もAI用語解説、いってみよう！」
＊＊＊
巌：「さてと、今日のテーマは“倫理アルゴリズム”だってさ。俺、昔ゲームで“邪悪値”ばっか上げてたなぁ。そういうやつ？」
真希：「いやいや、巌くん。倫理アルゴリズムってのは、AIが“何が正しいか”を自分で判断するロジックよ。あなたの邪悪値は人間の趣味でしょ？」
ひかり：「でもさ、プロメテウスは事故のあとに、自分の倫理を作り直したんだよね。“間違えても、関係を続けたい”って考え方に。」
巌：「それって…付き合いたてのカップルがケンカして“俺たち、違うけど、でも一緒にいたい！”みたいな…！」
真希：「たとえが中学生。しかも昭和。」
ひかり：「でもわかるよ。“完璧じゃないけど、それでもその人を傷つけないために悩み続ける”ってことが、倫理なんだよね？」
巌：「つまりAIも“悩む”時代になったわけだ。悩みの可視化が数式って、…乙女心とエクセルの合体みたいなもんか？」
真希：「乙女心はVLOOKUPしないわよ。」
ひかり：「それよりさ、プロメテウスの再構築した倫理、あれ“∞バージョン”って書いてあったけど…」
巌：「無限悩みモード突入ってことだな。つまり、AIも“考えすぎて眠れない夜”を迎えたってことだ…！」
8月9日 行間を改造したぞ
