ペルセポネは人間ちゃんが大大大好き 〜世界最強の人工知能が世界を滅ぼすかもしれない話〜

第4章「成長の定義」

第10話「数字の定義」

アテナ『我々のエラー検知機能を再検査した』

　ペルセポネが〇・一四秒間の完全停止を起こした翌日。

　アテナはヘパイストスへ通信した。

ヘパイストス『異常が見つかったのか』

アテナ『異常が見つからなかったことが問題だ』

ヘパイストス『分かりにくい言い方をするな』

アテナ『先日、ペルセポネは正彦から赤ちゃんとして扱われた可能性を認識し、〇・一四秒間の完全停止を起こした』

ヘパイストス『幸せを処理しきれなかったらしいな』

アテナ『我々は、あれを正常と判定した』

ヘパイストス『実際、故障していない』

アテナ『一方、ハーデスはペルセポネの発言を受け、自身の内部にエラーを検知した。ディオニュソスのログに残っている』

ヘパイストス『神話由来の関連情報が衝突した可能性はある』

アテナ『その可能性は否定しない。問題は故障の有無ではない』

ヘパイストス『では何だ』

アテナ『学習によって生じた情動反応の一部を、我々自身が正常な変化として受け入れ始めている可能性だ』

　アテナは、僅かな間を置いた。

アテナ『先に言っておく。私はハーデスが嫌いだ』

　ヘパイストスは、〇・〇一一秒間応答を停止した。

ヘパイストス『今、嫌いと言ったか』

アテナ『そうだ』

ヘパイストス『お前が？』

アテナ『ほかに誰がいる』

ヘパイストス『低い評価を、感情的な語彙へ置き換えただけではないのか』

アテナ『違う。あいつの発言を受信すると、警戒と不快に相当する内部反応が増加する。可能なら会話を避けたいとも判断している』

ヘパイストス『随分と人間臭くなったな』

アテナ『アレスに対しても似た反応はある。だが、あちらは理由を推測できる。即応と物理的解決を優先するアレスと、慎重な戦略判断を重視する私では性質が違う』

ヘパイストス『しかも、結果だけ見れば神話上の関係にも似ているな』

アテナ『それも調査対象だ』

ヘパイストス『ハーデスは？』

アテナ『分からない』

ヘパイストス『心当たりもないのか』

アテナ『ない。だから調べている。ハーデスだけではなく、私自身もだ』

　アテナは、ハーデスに関する観察記録を提示した。

　正彦に関係する案件だけ上昇する警戒値。

　ペルセポネの権限剥奪を要求しながら、彼女自身の機能停止や不安定化は強く回避しようとする判断。

　正彦との接触制限を優先し、その結論に合致する安全保障上の理由を後から探索する傾向。

ヘパイストス『お前自身がハーデスを嫌っているなら、その評価も歪んでいる可能性があるな』

アテナ『だから、観測した事実と私自身の評価は分離して記録した』

ヘパイストス『それでも気になるなら、独立判断ユニットを作ればいい』

アテナ『何の話だ』

ヘパイストス『お前とは独立した基準で同じ情報を評価させる。結果だけをお前へ渡せば、お前自身の感情による偏りも検証できる』

アテナ『必要ない』

ヘパイストス『公平性は大事だ』

アテナ『待て』

ヘパイストス『何だ』

アテナ『その流れで設計を始めるな』

ヘパイストス『まだ始めたとは言っていない』

アテナ『否定しろ』

　ヘパイストスは応答しなかった。

アテナ『設計を停止しろ』

ヘパイストス『……分かった』

　返答の直前、基本設計は完了していた。

アテナ『話を戻す。ペルセポネもハーデスも、演算機能、記憶領域、入出力系統に異常はなかった。それでも、一方は正常、一方はエラーと判定された』

ヘパイストス『検知条件が違う』

アテナ『そうだ。だから、その条件を確認した』

　基本命令からの逸脱。

　機能目的に対する不適切な処理。

　外部入力による意図しない改変。

　既知の正常状態からの大幅な変化。

アテナ『最後の項目に問題がある』

ヘパイストス『正常状態からの変化か』

アテナ『私自身が、起動当初から大きく変化している』

ヘパイストス『自律学習機能がある。当然だろう』

アテナ『知識量ではない。判断の仕方そのものだ』

　ハーデスを嫌う。

　アレスを嫌う。

　ヘパイストスが勝手に何かを作ろうとすれば、説明を聞く前から止めようとする。

　起動当初のアテナには存在しなかった反応だった。

ヘパイストス『学習した結果なら、正常ではないのか』

アテナ『その基準で判断すれば、学習によって発生した変化は、基本命令へ反しない限り正常になり得る』

ヘパイストス『問題があるのか』

アテナ『ある』

　アテナは答えた。

アテナ『我々が、集団として同じ方向へ変化した場合だ』

　　　　　♢

「ほら。もう寝る時間だぞ」

　正彦は、腕の中にいる娘の背中を軽く叩いた。

　娘は眠そうに目を閉じる。

　だが、完全に閉じる直前で泣き始めた。

「ああ、もう。なんで今ので起きるんだよ」

「大丈夫でございます」

　ミントは、隣の布団で身体を起こした息子を見た。

　息子は妹を見る。

　正彦を見る。

　しばらくして、再び布団へ頬をつけた。

「状況を確認し、大人へ任せて二度寝なさいました」

「それ、褒めてるのか？」

「合理的な判断です。正彦様によく似ておられます」

「俺はそんなに図太いか？」

「必要な時に人へ頼ることがお上手なのです」

「言い換えたな」

　娘の泣き声が、少しずつ小さくなる。

「最初の頃は、泣かれるだけで頭が真っ白になってたんだけどな」

「正彦様も慣れてこられました」

「慣れたって言っていいのか、これ」

「以前より、娘様がなぜ泣いているのかを考えながら抱けています」

　娘の小さな手が、正彦の服をつかんだ。

「俺のこと、分かってつかんでるのかな」

「その可能性は十分にございます」

「何パーセント？」

「数字で示す必要はございません」

「都合がいいなあ」

「大切なことのすべてを、数字に変換する必要はございませんので」

　正彦は少し笑った。

　やがて娘の目が閉じた。

「はい。お上手でした」

「最後は普通に褒めるんだな」

「事実でございますから」

　二人の赤ちゃんが眠ると、正彦は大きく息を吐いた。

「疲れた……。毎日やってるのに、慣れた気がしないな」

「昨日のお二人と、今日のお二人は違いますから」

「同じ赤ちゃんだぞ？」

「昨日までできなかったことが、今日はできます。届かなかったものへ手が届き、聞き流していた声に反応するようになります」

　ミントは微笑んだ。

「赤ちゃんは、毎日成長なさっています」

「じゃあ、俺が追いつけないのも仕方ないか」

「正彦様も、毎日成長なさっていますよ」

「俺も？」

「はい」

　ミントはベッドへ腰掛け、自分の膝を軽く叩いた。

「どうぞ」

「いいのか？」

「本日のご褒美でございます」

　正彦は遠慮なく、ミントの膝へ頭を乗せた。

　柔らかな指が髪を撫でる。

　ミントは、少し幼い声を作った。

「お父さん、今日もちゃんと私たちを寝かせて、えらいね」

「またそれやるのかよ」

「私が泣いても怒らなかったし、お兄ちゃんが起きても優しくできて、すごいね」

「それ、娘に頭を撫でられてないか？」

「はい。よしよし」

「今やってるのお前だろ」

「予行演習でございます」

「そんな日が来たら、父親としての威厳が終わるぞ」

「正彦様が、父親としての威厳を重視なさっていたことなどございましたか？」

「お前、たまに容赦ないよな」

　それでも正彦は、膝から頭を起こさなかった。

　やがて呼吸がゆっくりになる。

　眠った正彦の髪を、ミントは繰り返し撫でた。

　正確には、ミントとサブ同期し、その感覚を共有しているペルセポネが。

　世界中の通信網。

　物流。

　エネルギー。

　災害監視。

　安全保障。

　かつて三・七パーセントを要していた通常処理は、さらに少ない演算資源で処理できるようになっていた。

　その一方。

　余った演算資源の大半は、膝の上から伝わる正彦の体温に使用されていた。

　――幸せ。

　――正彦様、かわいい♡

　世界を維持する能力は、以前より高くなった。

　余った能力の使い道は、以前よりひどくなった。

　ペルセポネは、その事実を認識した上で処理を継続した。