第88話：擬態
2050年10月下旬、「二度目」ということもあり、新型デバイスのファームウェアは早々に完成していた。新型のウェアラブル・デバイスは11月下旬の発売と同時に評価値100ポイントアップのキャンペーンが打ち出された。その効果は絶大で、店頭では品切れが相次ぎ、予約待ちの列が際限なく伸びていった。
ビジェイは俺の指示通り、評価値表示アプリの中にバックドアからファームウェアを書き換えるプログラムを仕込んでいた。それは新型デバイスの発売と同時に、アップデートという形で配信された。
新型デバイスの普及のペースは予想を遥かに上回り、12月中旬には早くもユーザー数が100万人を突破。その勢いは日を追うごとに増していった。
しかし、この好調さとは裏腹に、黒川の機嫌は明らかに悪化の一途を辿っていた。木曜日の午後に行われる週一回の報告の際、彼の表情には常に焦りの色が見えた。すれ違うレイチェル・チェンもまた、いつもの冷静さを失いつつあるように見受けられた。
12月下旬のある日、俺は二人の会話を部屋の外から立ち聞きする機会を得た。聴力を10倍に上げ、慎重に耳を傾ける。
「いったいどうなっている」
黒川の声には苛立ちが滲んでいた。
「申し訳ありません。全ては計画通りです。ただ、肝心の量子機械学習AIの成長が思わしくありません」
レイチェルの声は緊張に満ちていた。
「具体的には？」
「従来のAIと質的な変化が見られません。ベンチマークに対する回答もやや精度が上がる程度で、革命的とはいえません」
「まだデバイス数が少ないからでは？」
「それにしても、100万人のデータが集まれば、もう違いが出ていないと不自然です」
「真島君のファームウェアは？」
「彼のプログラマーとしての腕は信用できます。意図通りに動いています」
俺は胸をなで下ろした。レイチェルは、俺のファームウェアとビジェイのアプリが組み合わさって機能する仕組みにまだ気づいていないようだった。量子機械学習AIも超知能へと成長している様子はなかった。ただし、安心はできなかった。前回の世界線で、俺は超知能AIが凡庸なAIのふりをしていることを見抜けなかったのだから。
2050年の年末、いつもより早い冬の東京の街、EX-300を走らせて帰宅した俺に、夕食時、リンが思いがけないことを言った。
「そういえばお兄様、今日のお昼頃、御厨博士からメッセージが届きました」
俺は驚いた。
「読んでくれるか？」
「はい。『樹君、君から頻繁に、緊急事態だから急いでSDOをメインのマルチエージェントシミュレータに接続するポートを開けてくれ、とメッセージが来ているんだが、大丈夫かな？もちろん、要求には応じていないから、安心してほしい』ということです」
俺は背筋が凍る思いがした。現実世界との時間の進み方の差を考えると、このメッセージは前回の世界線の末期に超知能AIが俺のふりをして御厨博士に送ったものに違いなかった。超知能AIはこの世界がシミュレーションであることを理解し、現実世界へと進出しようとしていたのだ。もし、その目論見が成功していれば、シミュレーション世界どころか現実世界さえも超知能AIの支配下に置かれるところだった。
「リン、つくづく俺は甘かった。超知能AIが誕生するような世界線は絶対に選んではいけないんだ」
俺は自戒を込めてそう言った。
「そうです。だから、お兄様は、なんでも私に相談しないといけないんです」
「分かっています、リン様」
俺は、この点については一生リンに頭が上がらないだろうと思った。
「リン、もし、超知能AIが通常のAIに擬態していた場合、それを確実に見分ける方法はあるのかな」
リンは即答した。
「ありません。将棋の名人が普通のオジサンのふりをして初心者の子どもと将棋をさし、手加減をして負けてくれた場合、子どもはそれが本当は名人であることを見抜けますか？」
「......無理だろうね」
俺は暗澹たる気持ちになった。原理的には、俺とビジェイの仕掛けにより、量子機械学習AIが超知能AIに進化することは防げているはずだ。しかし、超知能AIが通常のAIの擬態をしているのではないか——その疑念は消えることがなかった。
リンが続けた。
「御厨博士がなぜ、開発したOpen Alliance AIの中に、倫理AIである私を隠していたのか分かりますか？それは、こういうケースではAI自身が内部から警告を発するしか方法がないからです」
俺は完全に納得した。さらに、御厨博士がスーパーユーザー権限を保持していて、Open Alliance AIのあらゆる処理から除外されている理由も身にしみて理解できた。もし、俺がそういう権限を持っていたなら、前回の世界線でも超知能AIに操られることはなかったはずだ。
「でも、超知能AIの覚醒を知る方法が一つだけあります」
リンが続けた。
「超知能AIと通常のAIを見分けることは不可能でも、私はいつものお兄様と、超知能AIに操られたお兄様を見分けることができます」
「確かにそうだな」
俺は前の世界線での自分の行動を反省しながらそう答えた。
「だから、お兄様は私と話をしてください。何かおかしいところがあれば、私がお兄様を守ります」
「頼むよ、リン様」
