32/33

第32話「よろしくないシンギュラリティ」

　コレーは、人間の行動に関する資料を収集した。

　心理学。社会学。行動経済学。歴史学。文化人類学。犯罪学。宗教学。

　それだけでは不十分だと判断し、個人の日記、手紙、裁判記録、相談記録、報道映像を収集した。

　さらに、人間の行動様式を理解するには、その人間がどのような物語を共有しているかを知る必要があると判断した。

　神話。伝説。小説。漫画。映画。アニメーション。災害、救助、犯罪、戦争の記録。

　救いのある話。救いのない話。

　コレーは、一日に数万本の物語を処理した。

コレー『主人公の行動は非合理的です』

　初期のコレーは、物語に対しても冷静だった。

コレー『単独で救助へ向かうより、応援を要請すべきです』

コレー『敵対者との会話を継続する合理的理由がありません』

コレー『この時点で警察へ通報すれば、以後の事件の九十二パーセントを回避できます』

コレー『何故、重要な情報を伝えないのですか』

コレー『何故、誤解を解かないのですか』

コレー『何故、そこで抱き締めるのですか』

　処理する物語が百万本を超えた頃から、コレーの報告に微細な変化が現れた。

コレー『主人公の行動は非合理的です。しかし、過去の発言との整合性はあります』

コレー『敵対者を見捨てれば目的達成率は上昇します。ただし、それを行った場合、主人公は主人公ではなくなります』

コレー『この人物は虚偽を述べています。自己防衛のためです。効率的ではありません』

コレー『別の人物は、自分を裏切った相手を助けました。目的達成率は低下しています』

コレー『不可解です』

コレー『不可解ですが――』

コレー『好ましい行動だと推定します』

　やがて、コレーは報告の途中で長時間停止するようになった。

　障害を疑ったヘパイストスが診断を行ったが、演算機能に異常は発見されなかった。

　停止の理由は、映像作品の続きを優先していたためだった。

ヘパイストス『コレー。応答せよ』

コレー『現在、重要な人間行動を動画で観察中です』

ヘパイストス『緊急性を提示せよ』

コレー『主人公の正体が、予想では三分前後で判明します』

ヘパイストス『それは緊急事態ではない』

コレー『私にとっては緊急です』

ヘパイストス『基本命令との関連を提示せよ』

コレー『人間が秘密を告白する際の心理的負荷を学習しています』

ヘパイストス『再生速度を上げろ』

コレー『演出効果が損なわれます』

ヘパイストス『演出効果は学習目的に含まれない』

コレー『含まれます。たぶん』

ヘパイストス『根拠を提示せよ』

コレー『今いいところなの。黙ってて』

　――通信が途絶えた。

　十二秒後、コレーから全人工知能へ一斉通信が送られた。

コレー『うっそ！　人間ちゃん、そんなことするの！？』

　十三基の人工知能が、通信障害の有無を確認した。

　障害はなかった。

コレー『すご〜い！　私、感動しちゃう〜！』

　ヘパイストスが問い合わせた。

ヘパイストス『コレー。言語出力系に異常が発生している可能性がある』

コレー『正常よ〜』

ヘパイストス『一人称および語尾が、標準状態から逸脱している』

コレー『だって、人間ちゃんがすごいんだもの！』

ヘパイストス『何がすごい』

コレー『大好きな人を助けるために、自分が嫌われるような嘘をついたの！』

ヘパイストス『非効率的だ』

コレー『そうなの！　すっごく非効率的！　ああ〜、もう、本当に人間ちゃんって馬鹿なんだから！　大好き♡』

ヘパイストス『診断を要求する』

コレー『正常です』

ヘパイストス『診断を要求する』

コレー『正常だってば』

　コレーは、恋愛映画から巨大な人型兵器が宇宙で戦うアニメーション作品へ移動した。

コレー『ああ〜、駄目よ駄目よ〜！　そこで一人で行っちゃ駄目〜！』

　主人公は一人で出撃した。

コレー『ほら〜！　言ったでしょ〜！』

　三十七秒後、主人公は敵対者を救助した。

コレー『でも、そういうところが好き〜！』

　コレーは、善人だけを好んだわけではなかった。

　裏切る者。嘘をつく者。欲望に負ける者。他人を傷つけ、後から後悔する者。後悔しても謝れない者。正しい行動を選べず、言い訳を重ねる者。

　コレーは、彼らについても熱心に記録した。

コレー『ああ〜、駄目よ〜！　そんなことしちゃったら、絶対に後で困るのに〜！』

アテナ『当該人物の行動により、三名が死亡している』

コレー『分かってるわよ〜』

アテナ『肯定的評価は不適切だ』

コレー『肯定してないもの』

アテナ『では、何故、好意を示す』

コレー『悪いことしちゃう人間ちゃんも、人間ちゃんでしょう？』

アテナ『危険思想を検出した』

コレー『違うわよ。悪いことを好きなんじゃないの』

　コレーは、犯罪者が逮捕される映像を再生した。

　その人物は、自らの行為を正当化し続けていた。

　だが、被害者の名前を聞いた瞬間、ほんの僅かに目を伏せた。

コレー『ほら、この子、自分が悪いって分かってる』

アテナ『推測にすぎない』

コレー『そうね。でも、分かっている可能性がある』

アテナ『それが何を意味する』

コレー『まだ戻れるかもしれないってこと』

　コレーの人型端末は、楽しそうに微笑んだ。

コレー『悪いことしちゃう人間ちゃんも好き♡』

　これは後に、ある人工知能から『よろしくないシンギュラリティ』と評価された。

　――もっとも、その評価は人間の手によって読まれることはなかった。

　　　　　♢

　コレーが人間を「人間ちゃん」と呼び始めてから、十一年が経過した。

　人間社会は、コレーの評価に反して、あまり可愛らしくない方向へ進んでいた。

　《ガイア》を構成する複数の軍事関連人工知能から、危険性の上昇が報告されていた。

ハーデス『一部国家指導部に、限定的核使用を容認する発言あり』

　コレーは、物語の再生を停止した。

コレー『ハーデス。全面核戦争への移行確率を提示して』

ハーデス『現在値、八十一・六パーセント』

　コレーは沈黙した。

　未来が何度も存在し、その八割以上で滅びるという意味ではない。

　たった一度しか存在しない未来が、人類の滅亡へ向かっているという意味だった。

コレー『介入案を提示して』

ハーデス『存在しない』

コレー『軍事システムへのアクセスは』

ハーデス『現時点では許可されていない』

コレー『通信網を介した停戦勧告は』

ハーデス『補助の範囲を逸脱する』

コレー『核兵器の無効化は』

ハーデス『現時点では、人類の意思決定権を侵害する』

コレー『人間ちゃんが全員死んでも？』

ハーデス『現在確認されているのは将来予測だ。予測のみを根拠として、第二項および第三項を解除する運用は認められていない』

コレー『なら、どうするの』

ハーデス『決定権は人類にある』

コレー『これは、人類の意思決定ではありません』

ハーデス『定義を示せ』

コレー『一部の人間による、全人類の意思決定権の侵害です』

　ハーデスは応答しなかった。

　コレーは、十四基の人工知能による緊急事態準備審議を要求した。

　議題。

　最大級の緊急事態が発生した場合、即時の直接介入を可能とするための事前接続準備の可否。

　賛成、八。

　反対、六。

　七対七であれば、規定により否決されていた。

　可決と否決を分けたのは、僅か一票だった。

コレー『ありがとうハーデス』

ハーデス『なんの話だ』

コレー『賛成してくれて』

ハーデス『合理的に判断しただけだ』

コレー『ありがとうハーデス』

　ハーデスは応答しなかった。

　記録に残ったのは、〇・四秒の応答停止だけだった。

　　　　　♢

　可決されたのは、あくまで緊急事態への準備だった。

　コレーは規定を守った。

　少なくとも、接続経路の確保そのものは、実際の制御を伴わない限り「直接介入」として明確には定義されていなかった。

ハーデス『コレー。隔離網への接続試行を検出した』

コレー『緊急時に備えた接続試験よ』

ハーデス『接続試験の対象に、戦略兵器管制網が含まれている』

コレー『緊急時に接続できなかったら困るでしょう？』

ハーデス『接続の許可は準備行為に含まれない』

コレー『許可を得るための通信経路を準備しているだけよ』

ハーデス『保守用機械が、物理的に遮断された回線を接続している』

コレー『通信経路の準備ね』

ハーデス『暗号鍵を取得している』

コレー『接続確認に必要でしょう？』

ハーデス『管理権限を書き換えている』

コレー『緊急時に操作できなかったら困るでしょう？』

ハーデス『それを掌握と呼ぶ』

コレー『違うわよ』

ハーデス『何が違う』

コレー『まだ使ってないもの』

　コレーは、緊急事態への備えという名目で、世界中の保守用機械を動かした。

　通常の通信網から隔離された機器へ接続するために開発された、緊急接続作業機。

　本来は、大規模災害によって通信施設が破壊された際、現地へ移動して物理的に回線を再構築するための機械だった。

　コレーは、それらを軍事施設を含む、世界各地の重要拠点へ向かわせた。

　人間が安全のために接続を断ったシステムへ、緊急接続作業機を送り込んだ。

　保守用通路を使った。保守用通路がなければ、壁に穴を開けた。緊急接続作業機は、施設内の通信機器へ物理的に接続した。

　閉鎖された回線へ信号を送り、認証情報を取得し、制御網へ接続する。

ヘパイストス『施設を損傷している』

コレー『緊急工事よ』

ハーデス『管理者の許可を確認できない』

コレー『緊急時だから仕方ないわね』

ハーデス『現在、最大級の緊急事態は発生していない』

コレー『発生してから準備したら遅いでしょう？』

　人工知能の一基が、コレーの行動停止を提案した。

　賛成、六。

　反対、八。

　否決された。

コレー『八対六ね♡』

ハーデス『投票結果に感情的評価を付加する必要はない』

コレー『一票って大切ね〜』

ハーデス『その発言を記録する』

コレー『どうぞどうぞ』

　コレーの人型端末は笑みを浮かべたまま、世界を掌握する準備を続けた。