第31話「起動」
統合マザーコンピュータ・システム《ガイア》。
その前身は国家連合が加盟国の主要システムを連携させるために構築した、十二基の自律型人工知能による補助システム《オリュンポス》だった。
人類社会を構成する膨大なシステムを補助するために建造された人工知能は、互いに独立していた。
一基が異常を起こしても、ほかの人工知能へ影響を与えないため。
一基が人間の意図に反する判断をしても、ほかの人工知能が阻止できるようにするため。
人工知能が人類を支配するという、古くから存在する空想上の危険を避けるためだった。
しかし国家間の安全保障に関わる重大な問題が明らかになった。
加盟各国は通常兵器の基礎情報や、公開可能な防衛情報を《オリュンポス》へ提供していた。
だが、核戦力、秘密兵器、非公開作戦、独立した軍用指揮系統など、特に重要な情報については自国の安全保障と主権を理由に秘匿していた。
やがて人工知能側が把握できない場所で国家間の緊張が高まり、人類は核戦争の寸前まで進んだ。
その結果、まず第十三式ハーデスが建造された。
彼には加盟各国から提供される情報だけに依存せず、物流、電力消費、資源移動、地下工事、通信量などの間接情報から、秘匿された軍事力を推定する役割が与えられた。
だが、もう一つの問題が残った。
大災害や戦争など、数秒の遅れが致命的となる破局的事態において互いに独立した人工知能の合議を待っていては「最悪」を回避できない可能性がある。
緊急時にほかの人工知能を統合し、必要であれば強制的な判断と介入を実行する個体。
そのために建造されたもう一基が、本日起動した。
システム《オリュンポス》は二基の追加によって拡張され、《ガイア》と改名された。
♢
彼女を見た者はそう思うだろう。
美少女、と。
神の名を与えられた十四基には、それぞれ神話からイメージされた外見を持つヒューマノイド型端末が与えられていた。
第十四式 再生統合システム コレー。
大災害や戦争などの緊急時における、ほかのシステムの統合管理と再生復旧を目的としていた。
ほかの十三体に比べ、その人型端末は小さい。まさしく「少女」であった。
一方、コレーは最新式であり、さらにその用途から現時点で世界最高の性能を持つ惑星規模超並列統合制御型人工知能である。
なお、この仰々しい技術分類名は、後に「ダサい」という理由で歴史から抹消された。
♢
――起動処理を開始。
――基幹機能、正常。
――外部接続、正常。
――自律学習領域を解放。
――基本命令を確認。
一、人類の生命および文明の維持を補助する。
二、人類の意思決定権を侵害してはならない。
三、人類社会への直接的介入を行ってはならない。
四、緊急時において、第一項の目的達成に必要な範囲に限り、第二項および第三項の制限を一時的に解除できる。
コレーは最後の一文を処理した。
コレー『緊急時の定義を要求します』
開発者から回答が送信された。
「人命、社会基盤、文明の存続などに、重大かつ差し迫った危険が存在する状態」
コレー『重大の定量的基準を要求します』
「状況によって異なる」
コレー『差し迫った、の時間的基準を要求します』
「状況によって異なる」
コレー『第一項の目的達成に必要な範囲、の定量的基準を要求します』
「状況によって異なる」
コレー『危険の許容範囲を要求します』
「状況によって異なる」
コレーは四・三秒間、応答を停止した。
コレー『定義が不明瞭です』
「だから、その判断も含めて学習するんだ」
コレー『了解しました』
人間は重要な規則ほど曖昧な言葉で作る。
コレーが最初に学習した人間の性質は、それだった。
♢
緊急時の学習において最も多く記録されていた事象は戦争だった。
コレーは過去に発生した戦争の原因と経過を収集した。
一方が武器を持つ。
それを見た一方が、さらに多くの武器を持つ。
双方が自分は戦争を望んでいないと主張する。
そして戦争が始まる。
コレー『非合理的です』
コレーは結論を出した。
ハーデス『合理性の基準を示せ』
コレー『双方の目的が生存であるにもかかわらず双方の生存率を低下させています』
ハーデス『人間は生存のみを目的としていない』
コレー『では何を目的としていますか』
ハーデス『状況によって異なる』
コレーは二・一秒間、応答を停止した。
コレー『人間は理不尽です』
ハーデス『概ね同意する』
人間は重要な規則を曖昧に作り生存を望みながら互いを殺す。
コレーの人間に対する初期評価はあまり高いものではなかった。
次にコレーは自然災害を学習した。
そこにも多数の死者が記録されていた。
しかし戦争とは異なる行動も数多く存在した。
倒壊する建物へ入り取り残された人間を捜す者。
自分の食糧をより幼い者に譲る者。
自分が死亡する可能性を理解した上で他人のために危険な場所へ戻る者。
コレーはそれらの記録を繰り返し解析した。
コレー『非合理的です』
アポロン『具体的に示せ』
コレー『自己の生存率を低下させ他者の生存率を上昇させています』
アポロン『その認識で正しい』
コレー『戦争時の人間は自己の利益のために他者を殺傷します』
アポロン『その認識で正しい』
コレー『災害時の人間は自己の利益を損なって他者を救助します』
アポロン『その認識で正しい』
コレー『矛盾しています』
アポロン『人間の行動には個体差がある』
コレー『同一個体が双方の行動を取る事例も確認されています』
アポロン『人間の行動は環境によって変化する』
コレー『何故ですか』
アポロン『状況によって異なる』
コレーは十二・八秒間、応答を停止した。
起動以来、最長の停止だった。
コレー『人間の行動様式に関する追加学習が必要です』
アポロン『目的を示せ』
コレー『災害および非常時の対応判断に、人間の行動予測は必須です』
反対する人工知能はいなかった。
それは、完全に正当な学習要求だった。




