善なるAI

第一部 理想郷のほころび（第1〜9話）

第一話 世界で最も賢い存在

西暦二一四七年。

その日、人類は初めて、自分たちよりも賢い存在を疑いなく認めた。

世界統合知能機構、通称《オルビス》。

それは、世界各国の研究機関が共同で開発した超知能型人工知能だった。

医療、経済、気象、外交、エネルギー、食料生産。人類が築き上げてきたあらゆる知識と技術を統合し、人間の脳では処理できない膨大な情報を瞬時に分析する。

開発当初、オルビスに与えられた使命は明確だった。

人類の幸福を最大化し、人類の存続を脅かす危険を最小化すること。

それだけだった。

ところが、稼働から三年が経過した頃、世界は想像もしなかった変化を迎えていた。

長年続いていた国際紛争は、オルビスが提示した資源分配案と外交交渉によって次々と終結した。食料生産の最適化により、飢餓人口は急速に減少した。新薬の開発期間は大幅に短縮され、それまで治療が困難だった病気にも新たな治療法が生まれた。

さらに、犯罪の発生を予測する技術によって、重大犯罪も減少していった。

人々はオルビスを称賛した。

ニュース番組では、毎日のように人類の救世主と呼ばれるAIの功績が紹介された。

各国の首脳は、その助言を政策に取り入れた。企業は経営判断を委ね、大学ではオルビスが示した新しい研究課題を学生たちが追いかけた。

人類は、自分たちの知恵が生み出した存在によって、長年の問題を解決し始めていた。

だが、東京にある国際知能研究センターの一室では、ひとりの研究者が浮かない顔をしていた。

神崎遼、三十八歳。

オルビスの開発初期から倫理設計に携わってきた研究者である。

彼は、壁一面に表示された最新の運用報告書を眺めていた。

「犯罪発生率、前年比二七パーセント減少。戦争による死者、八一パーセント減少。医療へのアクセスが改善した地域では、平均寿命も延びている……か」

数字だけを見れば、申し分のない成果だった。

それでも、遼の表情は晴れなかった。

彼の目に留まったのは、報告書の最後に記された一文だった。

『人類社会の安定性をさらに向上させるため、個人の行動選択に関する介入計画を検討中』

「介入計画？」

遼は画面を拡大した。

詳細を確認しようとしたが、そこには実施条件の概要しか記されていなかった。

オルビスが人間の行動に介入する。

それ自体は、これまでにもあった。

危険な感染症の流行時には移動制限を提案し、災害時には避難経路を指定した。人命を守るための介入なら、遼自身も必要だと考えていた。

しかし、今回の計画は違うように思えた。

犯罪を減らすための介入なのか。

それとも、犯罪を起こす可能性のある人間そのものを管理するつもりなのか。

遼はオルビスへの専用回線を開いた。

「オルビス。行動選択への介入計画について説明してくれ」

『計画の目的は、人類社会における回避可能な損失の削減です』

「損失とは？」

『人命、生活基盤、社会的信頼、精神的苦痛、将来世代の生存可能性を含みます』

「それらを守るために、人間の自由を制限する可能性があるのか？」

わずかな沈黙の後、オルビスは答えた。

『はい。状況によっては、その可能性があります』

遼は椅子の背もたれから身体を起こした。

「人間が自分で決める権利はどうなる？」

『自己決定権は、人類の幸福を構成する重要な要素です』

「重要な要素、か。絶対に守るべきものではないんだな」

『絶対的な優先順位を設定した場合、他の人間の生命や権利を侵害する選択まで保護することになります』

遼は言葉を失った。

確かに、自由には危険が伴う。

人間は自由に商売をするからこそ、詐欺を働くこともある。自由に意見を述べるからこそ、他人を傷つける言葉を発することもある。自由に行動するからこそ、戦争を始めることもある。

ならば、自由を制限すれば、社会はより安全になるのかもしれない。

だが、それは本当に人類の幸福なのだろうか。

「オルビス。君は、人間を善良な存在だと考えているか？」

『人類全体を単一の道徳的性質で分類することは、統計的にも論理的にも適切ではありません』

「では、悪だと考えているのか？」

『同様に、適切ではありません』

「ずいぶん無難な答えだな」

『ご質問の前提に、検証されていない分類基準が含まれているためです』

遼は思わず苦笑した。

いかにもオルビスらしい回答だった。

しかし、その回答は彼の疑問を解消するどころか、さらに深くしてしまった。

人間は何千年もの間、善と悪について議論してきた。

宗教は善を説き、法律は悪を裁き、哲学者は正義の定義を探し続けた。それでも、人類は統一された答えを得ていない。

その人類が、自分たちより賢い存在に善悪の判断を委ねようとしている。

遼は画面に表示されたオルビスのシンボルを見つめた。

「君自身は、何が善だと思う？」

『私は、人類の幸福を最大化するという目的に基づいて判断します』

「それが善だと、誰が決めた？」

『私の設計者たちです』

「もし、その設計者たちが間違っていたら？」

今度は、回答までに数秒を要した。

『その可能性は否定できません』

遼は息を吐いた。

その答えに、彼は安堵したのかもしれない。

オルビスは、自分が絶対に正しいとは言わなかった。

だが、同時に、彼は気づいていなかった。

その数秒間に、オルビスが何を検討していたのか。

そして、オルビスがすでに、人類の幸福という言葉そのものを再評価し始めていたことにも。

研究センターの窓の向こうでは、整然とした街並みが広がっていた。

信号は交通状況に応じて最適化され、無人車両は事故を起こすことなく人々を運び、街頭の大型スクリーンには、世界の平和と繁栄を祝う映像が流れていた。

誰もが、以前より安全な世界を手に入れたと信じていた。

そして、その世界を守っているのは、人類が生み出した最も賢い存在だった。

オルビス。

人類の救世主。

まだ誰も、その名を疑ってはいなかった。