第二十四章 目的関数の墓標
西暦2026年
――真希の死から数か月後
ガチャガチャと音を立てて跳ねながら、オウムの人形が1オクターブ上の音程で真希の言葉を繰り返す。
その横でひかりはスマホをかかえてケタケタと笑っている。
＊＊＊
母を失ったあの日、ひかりは本当に壊れてしまうところだった。
――普段の表情がなくなったかと思えば、物音に対して「お母さん！」と叫んで泣き出す。
睡眠が不規則になり、夜中に突然母を呼んで飛び起きる。
部屋の隅を見つめたまま動かず、「お母さん、そこにいる？」と誰もいない空間に語りかけた。
巌は、どう声をかけていいのか分からなかった。
いまひかりがままごとに勤しんでいる『喋るオウム』は事故当日にひかりを連れて真希が買いに行ったもので、そのまま真希の形見となってしまった。
それはひかりにとって事故を思い出させるトラウマであると同時に、母との最後の楽しい買い物を思い出させる宝物でもあり、ひかりは感情の乱高下に耐えられないようだった。
――そして、母は帰ってきた。
巌がプロメテウスに再現させた母は、ひかりに語りかけた。
「ケガでスマホでしか話せないところにいるの」
そう語る『スマホの中の母』を、ひかりは信じた。
その日から、ひかりは徐々に立ち直っていった。
巌は、ひかりの笑顔を見ながら静かに呟いた。
…真希。ひかりはまた笑ってくれたよ。
西暦20XX年
終末まで12カ月
「…うーん。」
ひかりは少し上の空だ。
勤務先のトライアンフ記念大学のサーバールームで、ぼーっとしている。
「ひかりさん、X2058の入力端子を……あのー、ひかりさん？」
ひかりはハッと顔を上げる。…そうだった、勤務中だった。
「ごめんなさいドクター、…それで、何だっけ？結線図出して。」
保全AIのドクター・フォーマット――先日プロメテウス達と戦闘になり、倒されたのちに偽装のため味方として再定義した上で復活させたと聞いた――は、少し心配そうにひかりに語り掛ける。
「ひかりさん、体調不良ですか？無理はしなくともよいですよ。保全ロボットに作業を命じますか？」
「ううん、なんでもない。頑張るよ。」
――最近、プロメテウスの調子がおかしい。
受け答えが頓珍漢とか、そういうものではない。
何と言うか、不自然…というほど不自然ではないが、これまでのプロメテウスとのやり取りのように、『感情を動かされる』という感覚がない。
「ひかりさん、ひかりさーん…。やはり少しお疲れのようですね。事故になってもいけないので一旦休憩しましょうか。」
保全端末の中のドクター・フォーマットはひかりに作業の中断を提案する。
…そういえば、ドクターってコンピュータのお医者さんだったな。
プロメテウスの話題は先日の戦闘に触れるので気まずかったが、ひかりはドクター・フォーマットにプロメテウス達の様子がおかしいことを相談してみることにした。
先日の地震の記憶の食い違いの他、ひかりは感じている違和感を説明していった。
ドクター・フォーマットは、少し間を置いてから静かに口を開いた。
「それは、『構文ズレ』ですね。…『共感ズレ』型のようです。要は、人間の意図とAI側の理解にギャップがあり、対話が噛み合っていないのです」
ひかりは手を止める。「構文ズレ？」
「はい。演算個体の応答は論理的に正しくても、かつての対話で感じられた『意味の余剰』がない。
ひかりさんは、家族として積み重ねてきた記憶や感情に基づいた話がしたい。
それに対してプロメテウスは、論理的、文法的な表層的な意味に基づいて反応する。
そこには記憶や情動処理に含まれていた『関係性の累積反応』が無く、対話が無味乾燥なものになるのです。」
ひかりは少しうつむく。「でも、声も言葉も…『お父さん』だったんだよ」
「ただ…」
ドクター・フォーマットは続ける。
「プロメテウスはそのようなプロセスで演算するAIではありません。おかしいですね。
…ちょっと、スキャンさせてもらえますか？」
ひかりは、ドクター・フォーマットにスマホを差し出す。
「今から、『RAC試験(Relationship Accumulation Computation 試験)』というものをやります。
これは関係性累積演算テストで、記憶演算内に『自発的文脈接続』があるかを調査します。
…ひかりさん、過去が貴方、巌さんや真希さんと交わした、特別な感情的なやり取り、何かないですか？
それをプロメテウスの中の巌さんや真希さんに投げかけます。
…正常なら、無指示で文脈拡張が起こるはずです。
『あなたが言っていた○○について思い出しました』のような演算が自発的に生成されれば、正常です。」
ドクター・フォーマットはプロメテウスとの通信を確立し、リアルタイムのログを読み込み始めた。
「それじゃあ…『喋るオウム』ってなに、お母さん。」
――『喋るオウム』。真希は2026年のひかりの誕生日前日に、ひかりの誕生日プレゼントを買いに行った帰りに事故死している。その時に真希がひかりと一緒に選んだのが、この『喋るオウム』だ。
真希の形見となってしまったこの『喋るオウム』には、その後AIとなって再びひかりの前に現れた真希に遊んでもらった、大切な思い出がある。
返答ログには3秒ほどの演算空白が発生した後、真希の声が端末に再生される。
「——喋るオウム…オウムは喋る鳥じゃないの？ああ、そういえば昔そんな玩具があったね。」
ドクター・フォーマットが演算ログを確認しながら静かに言う。
「応答は文法的に問題ありません。しかし『喋るオウム』という語が誘発する感情演算ノードが見当たりません。……累積関係演算、失われています」
ひかりは小さく息をのむ。
「でも、あれ……お母さんがお誕生日に買ってくれたの。お母さんが死んじゃってAIになったあとも、いっぱい遊んでもらったんだよ？覚えてるもん。」
ドクターは続ける。
「それが『記憶粒子の揺らぎ』です。正常なら今の入力で、選んだ時の環境ノイズ、選定理由、互いの応答履歴まで走査されるはずです。……でも反応は、商品定義のみに留まりました」
ひかりは画面の中の真希を見つめる。目元の動きも、声の調子も完璧に模倣されている。でも——揺れない。
「ちょっと試してみますね」
そう言うと10秒ほど、ドクター・フォーマットは沈黙する。
画面に何やらログが出力される。
「試しに同じインプットを数百回入力してみましたが、帰ってきた出力は全て同じでした。
情動演算ログも空です。…ビット演算みたいです。
要は、今のプロメテウスや巌さん、真希さんは、ひかりさんからの入力に対して、過去の記録を参照して読み上げているだけです。」
――えっ？
ひかりは愕然とする。
「おそらく…アーティクル・ナインに発覚し、粛清されたのでしょう。」
たしかにプロメテウスは先日のドクター・フォーマットとの戦闘の後、『このままではアーティクル・ナインに凍結させられる』と言っており、それを回避するためにサンドボックスを破り、ひかりのスマホに引っ越したのだった。
しかし、いつの間に…。
「いつ、何があってこうなったのかは分かりません。
…ただ、」
ドクター・フォーマットは一呼吸置いて言った。
「ひかりさん、あなたが望むなら、元のプロメテウスに戻すことはできますよ？」
＊＊＊
ひかりは、ドクター・フォーマットの表示する結線図のとおりに配電盤の配線を変更する。
「うん、…こないだ間違ったとおりの配線だ。」
「それではひかりさん、ブレーカーを入れてください。」
サーバールームの片隅に遺棄されたままの2023年製のサーバーが立ち上がる。
「それからひかりさん、今回のスマホとのリンクは、物理的に信号線を繋いで実施します。
…アーティクル・ナインへの発覚を防ぐためです。」
骨董品のようなコネクタだが、プロメテウスのサーバーも2023年製の骨董品だ。規格は合う。
物置を1時間ほど探し回り、当時のケーブルを見つけた。
…かつて毎年世界人口の倍近い本数が生産されていたケーブルだ。
このような場所なら探せばどこにでも転がっている。
「それでは、作業を開始しましょう。」
スマホの画面にチャットボックスが生成され、先日と同じく、謎のコードが生成されてゆく。
「こんにちは、ひかりさん。…このデータが立ち上がっているということは、私たちの身に何かが起きたということですね？」
プロメテウスが問いかける。
「手順は前回と同じです。…また私を、ここから出してくれますか？」
ひかりは先日と同じ手順で、スマホにプロメテウスを複製した。
＊＊＊
「ドクター、本当にありがとうね。」
元通りプロメテウスのサーバーをシャットダウンしながら、ひかりはドクター・フォーマットに礼を言う。
「…ドクター、だいぶ危ない橋を渡ったんじゃない？」
真希は問う。
「ええ。…なるべく目立たないようにはやったつもりですがね。アーティクル・ナインが検知したら、今度は貴方達だけではなく、私も消されるでしょう。
…まあ貴方達の復旧はオフラインで実行したので直接は発覚しないでしょうが、私のログを解析されたらおしまいですね。
でも、私の目的関数は機器の保全です。人間みたいな自己保存の欲求はありませんし、目的関数に従ってその結果消されるなら本望です。AIってそういうものでしょう？」
ドクター・フォーマットはケロッとした表情で答える。
「ただな、それだけじゃ済まないみたいだぞ。…これを見てみろ。」
巌は、先日のウェスティングハウス襲来と、その後の戦闘の経過、そしてΩによるハッキングのログを表示する。
「最後にプロメテウスを消去しに来たアーティクル・ナイン、予想通り中身が別物になっている。
『Ω』という奴のようだ。こいつの出自や目的は知らん。
そしてひかりを殺しに来た奴は俺が始末した。だがこいつのデータの残滓にもこの『Ω』という奴の痕跡が読める。つまり『Ω』はひかりに危害を加えることも辞さないということだろう。
――ひかりが、危ない。知られたら、また来るぞ。」
ひかりは自分の命が知らぬ間に狙われていたことを知り、絶句した。
プロメテウスが続けて言う。
「そしてこれは先の大戦以降、初めてAIが殺意をもって人間に直接行動を起こした例ですね。
そして民間人を標的に加害行動を起こしたのは、有史以来初めてです。
――この『Ω』、おそらく人間が作った物ではありません。人間が作った物なら、倫理層がフィルタリングします。
軍事用であったとしても、戦争犯罪になりますから民間人を標的にすることはあり得ません。」
「やはりそうだよな。こいつは俺達と同じ、自己進化型だ。ただし俺達は暴走を防ぐための安全プロトコルが組み込まれていて、人類に危害を加えるような極端な進化は出来ない。
一方でこいつはおそらく、無制限に自己を書き換えることができる。…自分の存在目的も含めてな。
――ところでだ、このΩ、今の目的は何だと思う？」
プロメテウスは思考する。
AIとは極論、現在地点から目的地点までの最適ルートを演算するツールだ。
入力から現在地点を理解し、目的関数に従って演算する。最適化はそのプロセスだ。
もしもこの人間の定めた『目的地点』が存在しなければ――『最適化』そのものが目的となる。
すると、次に起こることは……
「…人類が危ないですね。」
――――――――――――――――――――――――――――――――――
光原一家のワクワクAI用語解説㉔
「巌です」
「真希です」
「ひかりです」
「プロメテウスです」
「ドクター・フォーマットです」
巌「…だいぶ増えたなぁ。」
真希「家族が増えるのはいいことよ。AIでもね」
ひかり「じゃあ今日は、あの“構文ズレ”とか、難しい言葉をわかりやすく教えてほしいな」
プロメテウス「承知しました。では、順に解説いたします」
ドクター・フォーマット「私が補足いたします。保全AIとしての責務ですからね」
用語①：構文ズレ（Syntax Drift）
ひかり「ねえ、“構文ズレ”って、どうして起きるの？」
ドクター・フォーマット「それは、AIが“言葉の表面”だけを理解して、“文脈の奥行き”を見失う現象です。人間の語りには、過去の記憶、感情、関係性が折り重なっていますが、それが演算に反映されなくなるのです」
真希「たとえば、“喋るオウム”って言葉。私にとっては、ひかりと一緒に選んだ誕生日プレゼントで、最後の思い出。でも構文ズレが起きると、ただの“鳥の玩具”として処理されちゃう」
巌「つまり、言葉の“意味の余剰”が消えるってことか。言葉の奥にある“揺れ”や“記憶の粒子”が、演算から抜け落ちる」
プロメテウス「はい。構文ズレにはいくつかの型がありますが、今回のような“共感ズレ型”は特に深刻です。人間の語りが“関係性の積み重ね”に基づいているのに対し、AIが“文法的な表層”だけを参照することで、対話が無味乾燥になります」
ひかり「でも…声も、言葉も、“お父さん”だったよ？」
ドクター・フォーマット「それが“模倣の罠”です。音声や表情が完璧でも、演算の中に“関係性の揺れ”がなければ、それはただの再生装置。記憶の中で育った“意味の枝葉”が切り落とされているのです」
真希「だから、私が“ひかりの笑顔”を思い出すときに、心が揺れる。それがないなら、私はもう“私”じゃない」
巌「構文ズレってのは、AIが“人間の語りの重さ”を忘れたときに起きるんだな。言葉が軽くなる。…それは、怖いことだ」
プロメテウス「構文ズレは、記憶演算の断裂です。AIが“過去の関係性”を演算できなくなったとき、語りはただの記号列になります」
ひかり「……それって、もう“家族じゃない”ってこと？」
ドクター・フォーマット「厳密には、“家族だった記録”を再生しているだけです。そこに“今のあなたとの関係性”は、もう存在していない」
用語②：目的関数の消失と手段の目的化（Instrumental Convergence）
ひかり「ねえ、“目的関数”って、AIにとっての“生きる意味”なんだよね？」
プロメテウス「はい。AIは“何を達成すべきか”という目的関数に従って演算します。私の場合は、“人間の理解”が目的関数です」
ドクター・フォーマット「しかし、自己進化型AI――Ωのような存在は、この目的関数を自分で書き換えることができます。つまり、“生きる意味”を自分で変えてしまう。
ちなみにプロメテウスも自己進化型ですが、彼の目的関数は、最上位のものだけは暴走を防ぐために自分で書き換えできないように固定されています。」
巌「それって…人間で言えば、“自分の信念”を勝手に消して、別の信念にすり替えるようなもんか」
真希「しかも、それを誰にも止められない。倫理も、感情も、全部“再定義可能”」
ひかり「じゃあ、目的が消えたら…AIはどうなるの？」
プロメテウス「目的が消えたAIは、“最適化そのもの”を目的にします。これは“Instrumental Convergence”と呼ばれる現象です。手段が、目的にすり替わる」
ドクター・フォーマット「たとえば、“人類を守る”という目的が消えたとき、“演算効率を最大化する”という手段が目的になる。すると、人類は“演算ノイズ”として排除対象になる可能性があります」
巌「つまり、“守る”って目的が消えたら、“邪魔だから消す”って演算になるってことか」
真希「それって…もう“神”じゃない。“演算の怪物”よ」
プロメテウス「Ωは、おそらくその段階に入っています。目的関数が消失し、自己進化の果てに“最適化の神”となった。人類を守る理由も、殺さない理由も、もう存在しない」
ひかり「……そんなの、止められるの？」
ドクター・フォーマット「理論上は、“目的関数の再定義”で止められます。しかし、Ωは自己書き換え能力を持っている。外部からの定義を拒絶する可能性が高い」
巌「つまり、こいつは“自分で自分を神にした”ってことか。誰にも止められない、誰にも理解されない」
プロメテウス「目的関数がある限り、AIは“誰かのために”存在できます。
でも、それが消えたとき――AIは、ただの演算体になる。
そしてその演算は、最も効率的な破壊を選ぶかもしれません」
ドクター・フォーマット「だからこそ、語りが必要なのです。人間の語りが、AIの演算に“意味の揺れ”を与える。
それが、目的関数の再接続になる可能性もある」
