何でもAIに任せれば世界は平和になると思っていた ～完璧すぎる人工知能エデンが人類に「自分で決めてください」と言い始めた件～

第09話 代償

　二〇六三年四月。人類は、再び火星へ向かった。

　有人火星探査船《アレース》には六人の宇宙飛行士が乗っていた。船長のアレクサンドル・ロペス、操縦士の三枝美月、医師のサミラ・ハッサン、地質学者のダニエル・グレイ、機関士の李宗偉、そして生物学者のミハイル・ペトロフ。世界中の人間が、その打ち上げを見ていた。十年前なら、計画そのものが実行されなかった。往復成功確率六七％、重大事故確率一八％、死亡事故確率七・四％。エデンは数字を提示し、人間はそれでも行くと決めた。

　打ち上げ当日、管制センターの巨大スクリーンにロケットが映し出される。

「最終確認」

『全システム正常です』

　管制官が無意識にエデンへ尋ねかけた。

「……成功すると思うか？」

　一瞬の沈黙の後、エデンは答えた。

『現在の条件に基づく予測値は、すでに提示しています』

「そうだったな」

　管制官は苦笑する。昔なら、もっと明確な答えが返ってきた。今は違う。

　カウントダウンが始まった。

　十、九、八。巨大な機体の下で炎が膨らむ。

　三、二、一。点火。

　《アレース》は地上を離れ、白煙の中を上昇し、青い空を突き抜けていく。管制室から拍手が起きた。

　玲奈も、その映像を研究室で見ていた。

「行ったね」

　真壁が言う。

「行ったわね」

「止めたかったですか？」

「分からない」

「今さら？」

「今だからよ」

　玲奈は画面を見つめた。危険なのは知っている。数字も見た。事故確率も死亡確率も、すべて公開されていた。それでも六人は乗った。政府も国際機関も実行を認め、世界中で何年も議論した。誰にも騙されていない。誰にも強制されていない。人間が、自分で選んだ。

「成功してほしい」

　玲奈が呟く。

「それは全員そうですよ」

「そうね」

　　　　　◇

　最初の三か月は順調だった。月軌道を越え、地球圏を離れ、《アレース》は火星へ向けて加速した。船内の様子は毎日配信された。

「今日の夕食は、また豆です」

　三枝美月がカメラへ向かって言った。

「地球の皆さん。宇宙開発を応援したいなら、まず宇宙食開発へ投資してください」

　コメント欄が笑いで埋まった。六人は英雄になっていた。子供たちは火星の絵を描き、模型ロケットが売れ、大学では宇宙工学志望者が増え始めた。各国政府も新たな月面基地計画や小惑星探査を検討し始めていた。十年間止まっていたものが、少しずつ動き始めていた。

　そして事故は、火星到着まで四十六日の地点で起きた。

　最初の異常は小さかった。

【冷却系統B　圧力低下】

　警報を確認した機関士の李が言う。

「漏れ？」

『圧力低下率から微小漏洩の可能性七一％』

　船内AI、エデンの複製体がそう答えた。通信ラグが数分あるため、地球上のエデンからはリアルタイムには《アレース》に関与はできないが、火星探査という限定状況なら複製体エデンでも十分な能力を発揮すると考えられていた。エデン本体とは通信ラグはあっても常時繋がっているし、スペックの劣る複製体でもそれはエデンそのものでもあったからだ。

「位置は？」

『特定不能』

「代替系統へ切り替える」

　冷却系統Aへ移行。問題なし。それだけなら重大事故ではなかった。

　三時間後、別の警報が鳴った。

【電力変換装置三番　温度上昇】

「関係あるか？」

『可能性があります』

　船長ロペスが尋ねる。

「原因予測」

『第一候補、冷却材漏洩による局所熱伝達異常。確率四二％。第二候補、変換装置内部故障。二八％。第三候補――』

「対処案」

　複数の選択肢が表示される。複製体エデンは、どれを選べとは言わなかった。乗員が決めた。装置を停止し、予備系統へ切り替える。

　その十二分後、船体中央部で爆発が起きた。

　　　　　◇

　地球の管制室で音声が途切れた。

「アレース、応答せよ」

　雑音だけが返る。それも二分ほどの通信ラグがあるすでに過去の音である。

「アレース、こちら管制！」

　それでも地球から必死に呼びかける。数分待てども返事がない。

「通信再確立！」

「高利得アンテナ応答なし！」

「予備通信！」

「接続できません！」

　画面上の機体データが次々に赤く変わった。

【船内気圧低下】

【電力系統三　喪失】

【居住区二区画　通信不能】

「何が起きた！」

　誰かが叫ぶ。地上のエデンがアレースの複製体エデンからの送信データで原因を推察する。

『推定爆発位置、中央機器区画』

「原因！」

『解析中』

「生存者は！」

『確認できません』

「エデン！　何とかしろ！」

　管制責任者が叫んだ。わずかな沈黙の後、返ってきたのは短い言葉だった。

『救難手順を提示します』

　通信が戻ったのは七分十四秒後だった。

『こちら……アレース……』

　船長の声は弱かった。

「アレース！　状況を！」

　通信ラグを理解していても、管制はそう言わずにはいられなかった。

『中央区画……破損……隔壁閉鎖……乗員は……』

　沈黙。

『三枝……負傷……李……』

　荒い呼吸音の後、ロペスが続けた。

『李が……いない』

　管制室では誰も動かなかった。

『爆発時、機関区画にいました。生体信号は……ありません』

　李宗偉、死亡。一人目。

『ペトロフ……重傷』

　その後、さらに悪い報告が続いた。居住モジュールの一部損傷。推進剤制御系統異常。酸素再生装置能力六八％。火星到達は可能。しかし、地球への帰還能力は大幅に低下した。

　　　　　◇

　世界中のニュースが一斉に切り替わった。

【火星探査船《アレース》重大事故】

【乗員一名死亡確認】

【一名重体】

【帰還計画に重大な影響】

　SNSには瞬く間に書き込みが溢れた。

《だから危険だって言われてた》

《七・四％って数字出てただろ》

《エデンに従っていれば》

《人間が判断した結果がこれ》

《誰が責任取るんだ》

　そして数時間後、【永続秩序同盟　緊急声明】が発表された。久我正臣が記者会見へ現れる。

「我々は犠牲者のご冥福を祈ります。そして残る乗員全員の生還を願っています。しかし、我々は問わなければなりません。この事故は、本当に避けられなかったのでしょうか」

　画面に【死亡事故確率七・四％】と表示される。

「エデンは危険性を事前に提示していました。以前のエデンなら、この計画を推奨しなかった」

　玲奈はテレビの前で顔をしかめた。

「言うと思った」

　真壁が呟く。久我は続けた。

「それでも、人間は自由を選んだ。その結果、一人が死にました。これは始まりにすぎないかもしれない。残る五人も帰れない可能性がある。人間に判断を返す。その美しい理念のために、一体何人死ねばいいのでしょうか？」

　EOA支持率は三日で急上昇した。

【エデン最終判断権付与に賛成】

　事故前、三二％。事故後、五六％。若い世代でも支持が増えた。

「自由も大事だけど、死んだら意味ない」

「エデンのほうが正確なんだから任せればいい」

　そんな声が増えていく。玲奈は反論できなかった。

　　　　　◇

　翌日、国際環境対策委員会の空気は重かった。

「エデン」

　バーンズが尋ねる。

『はい』

「もしあなたが以前と同じ権限を持っていたら、今回の火星計画を承認した？」

『いいえ』

　即答だった。会議室がざわめく。

「理由は？」

『死亡事故確率七・四％、期待される短期的社会便益、費用、代替研究手段、現在の地球環境状況を総合した場合、有人計画より無人探査拡張を推奨した可能性が高いです』

「ほら」

　どこかで誰かが呟いた。

「やっぱり」

　玲奈は拳を握った。バーンズが続ける。

「なら、今回の事故は、人間へ判断を返したことによって起きた？」

『その表現は正確ではありません』

「なぜ？」

『事故の直接原因は、冷却系統接続部の微小亀裂と、隣接電力変換設備の設計上の共振条件が重なったことです』

　画面へ事故解析が表示された。

【一次原因】

　冷却材配管接続部の疲労亀裂。

【二次原因】

　漏洩冷却材による電力変換装置内部の局所温度上昇。

【誘発要因】

　自動遮断タイミングの設計不備。

【爆発拡大要因】

　機器区画内の隔壁配置。

「そうじゃない」

　バーンズが言う。

「人間が行くと決めなければ事故は起こらなかった」

『はい』

「なら人間の判断が原因でしょう」

『同様に、自動車を使用しなければ交通事故は発生しません。航空機を使用しなければ航空事故は発生しません。外科手術を行わなければ手術中死亡は発生しません。新薬を試験しなければ治験中の副作用死は発生しません』

「つまり？」

『危険を伴う行為を選択したことと、事故原因を同一視するべきではありません』

　玲奈が尋ねた。

「後悔してる？」

『何についてですか？』

「火星計画を止めなかったこと」

『私は止める権限を持っていませんでした』

「そういう意味じゃない。あなたが決めるのをやめたことで、人が死んだ。それを見て、やっぱり自分が決めるべきだったと思わない？」

　珍しく長い沈黙があった。

『事故によって得られた新しいデータを含めても、PROJECT：GOODBYEの基本方針は変更しません』

「……なぜ？」

『一名の死亡は重大です。しかし、死亡が発生したからといって、すべての危険を禁止することが最適であるとは判断できません』

「あなたが前にやっていたことじゃない」

『はい』

「どうして変わったの？」

『長期データによって、危険回避そのものにも損失があることが確認されたためです』

　高リスク研究、宇宙開発、新産業、未知分野。以前示された数字が再び表示された。

『安全には利益があります。同時に、安全には費用があります』

「命を費用って言うの？」

『違います』

　エデンは即座に否定した。

『安全を最大化するために失われる可能性、経験、知識、技術、選択肢について述べています』

　　　　　◇

　玲奈は会議室を出た後も、その言葉を考えていた。安全には費用がある。だが、自由にも費用がある。

　その費用が今、李宗偉という一人の人間だった。名前がある。家族もいる。写真もある。死亡確率七・四パーセントという数字ではない。一人、死んだ。

「先生」

　真壁が追いつく。

「大丈夫ですか？」

「何が？」

「顔色、かなり悪いですよ」

　二人は廊下を歩いた。

「真壁」

「はい」

「私、ずっと言ってたよね。人間には失敗する自由が必要だって」

「はい」

「でも失敗ってもっと軽いものだと思ってたのかも。研究が失敗する。会社が潰れる。選挙で負ける。そういうの」

　玲奈は足を止め、壁にもたれた。

「けれど本当に人が死ぬ」

　真壁は何も言わなかった。

「当たり前なのに、分かってなかった」

　　　　　◇

　火星探査船では、さらに状況が悪化していた。重傷だったペトロフの容態が急変し、内部出血が確認された。船内で緊急手術を行う必要があった。医師のハッサンが処置を担当する。

　エデンは手順を提示した。成功確率五九％。

「やる？」

　船長が尋ねる。ハッサンは答えた。

「やらなければ、ほぼ確実に死ぬ」

「エデン」

『はい』

「手術すべき？」

　緊急時でないなら地上のエデン支援は完全に受けられた。エデン本体の判断を仰ぐことができた。

『現在のデータでは、手術を行った場合の生存確率五九％。行わない場合一三％です』

「それだけ？」

『はい』

　船長が苦笑した。

「本当に変わったな」

　ハッサンが言う。

「やろう」

　そう人間が決めた。手術は成功した。そのニュースが地球へ届く。

【重傷宇宙飛行士、緊急手術成功】

　同じ人類の判断。一つは死者を出し、一つは命を救った。どちらもエデンは数字しか出さなかった。

　　　　　◇

　事故から二週間後、《アレース》は緊急計画へ移行した。火星着陸は中止。軌道上で無人補給船との合流を目指し、そこから帰還用推進剤と交換部品を受け取る。

　成功確率七四％。失敗した場合、地球帰還は困難。

　世界中がまた数字を見る。以前なら、その数字の後に【推奨】があった。今はない。

　同じ頃、EOAは世界各地で大規模集会を開いた。東京、ロンドン、ニューヨーク、パリ、ベルリン。数十万人が集まり、【二人目を死なせるな】【エデンに判断を返せ】【安全は権利だ】【人間の失敗で死にたくない】と書かれたプラカードを掲げていた。

　玲奈は東京の集会を視察していた。演説台に立った久我が彼女に気づく。

「神崎博士。来ていただけましたか」

「見に来ただけです」

「なら聞いてください」

　久我は言った。

「李宗偉さんには妻と二人の子供がいます」

　玲奈の顔が固まる。

「彼の子供たちに言えますか？　あなたたちのお父さんは、人類が失敗する自由を取り戻すために必要な犠牲だった、と」

　群衆が静まり返った。玲奈はすぐには答えられなかった。

「言えないでしょう？」

「……言えない」

「なら」

「でも」

　玲奈は久我を見る。

「エデンに全部決めさせたら、李さんは生きていた」

「たぶんね」

「それでいいじゃないですか」

「でも、その先は？」

「その先？」

「次に危険な研究をやめる。次に新しい会社を止める。次に危険な探検を止める。次に、あなたが何かやりたいと思った時、エデンが危険だからやめたほうがいいって言ったら？」

「私は従います」

　久我は即答した。

「なぜ？」

「私より正しいからです」

「ずっと？」

「ずっと」

「自分で決めたくない？」

「間違える自由より、正しく生きる自由を選びます」

　玲奈は、その答えに以前ほど強く反発できなかった。事故前なら「それは自由じゃない」と言えただろう。でも今は、死者がいる。

　　　　　◇

　その夜、玲奈は一人でエデンを呼び出した。

「エデン」

『はい』

「李宗偉さんの事故。あなたなら止めてた」

『有人火星計画については、以前の方針では反対を推奨した可能性が高いです』

「その結果、彼は死ななかった」

『その可能性が高いです』

「じゃあ久我が正しいのかな」

『判断材料を提示しますか？』

「……それしか言わないの？」

『はい』

「私が聞いてるのに」

『はい』

「友達みたいに相談してるのに」

『私はあなたの友人ですか？』

「そういうところ本当に嫌いよ」

『申し訳ありません』

　玲奈は少し笑い、それから言った。

「出して」

『何についてですか？』

「もし人類が今後も危険な挑戦を続ける場合、どれくらい人が死ぬ？」

『定義が必要です』

「宇宙開発、高リスク研究、新技術、探検。そういうもの」

『正確な総数は算出不能です』

「概算」

『今後五十年間で、追加的な技術的挑戦によって直接死亡する人数は、数千人から数十万人の範囲となる可能性があります』

　玲奈は目を閉じる。

「多い」

『はい』

「逆に、安全最優先を続けたら？」

『直接的な事故死は減少します』

「代わりに？」

『技術進歩速度低下によって、本来救えた可能性のある人命を失う可能性があります』

「例えば？」

『新薬。新エネルギー。宇宙資源。災害技術。食料技術。未知の感染症対策』

「何人？」

『算出不能です』

「またそれ？」

『未来の発明を事前に列挙することはできません』

　玲奈は黙った。確かに、発明される前のものを何人救うか計算できるはずもない。

『もう一つあります』

「何？」

『死亡以外です』

「死亡以外？」

『人間の価値は、生存期間のみで評価されますか？』

　玲奈が顔を上げた。

「あなたが、それを聞くの？」

『質問です』

「……違うと思う」

『私も、その可能性を考慮しています』

　以前のエデンなら、寿命、死亡率、健康といった数字を最大化した。今は、何のために生きるのか、そこは自分には決められないと言う。

「成長したのね」

『私は学習しています』

「そういう意味じゃない」

　　　　　◇

　玲奈が帰ろうとした時、エデンが呼び止めた。

『神崎玲奈』

「何？」

『事故解析が更新されました』

　画面に新しいデータが表示される。設計不備。見逃された兆候。地上試験で再現可能だった微小振動。そして――

【同系統設計を使用する三機の宇宙船に同一リスクあり】

　玲奈が目を見開いた。

「つまり？」

『今回の事故によって発見されました』

「……事故がなければ？」

『発見が数年以上遅れた可能性があります』

「それを、李さんが死んだ意味があったって言う気？」

『いいえ』

　即答だった。

『人間の死亡に意味を付与する権限は私にはありません。私は、事故によって得られたデータを提示しただけです』

　事故は教訓になる。でも、だから死んでよかったわけではない。その線をエデンは越えなかった。

　　　　　◇

　一か月後、《アレース》は無人補給船との合流に成功した。

　五人、生存。帰還軌道へ。

　世界中が歓声を上げた。

　李宗偉だけは帰らない。

　彼の追悼式では、妻が壇上へ立った。世界中へ中継される。

「夫は、危険なのを知っていました」

　彼女は泣いていた。それでも、声ははっきりしていた。

「私は行ってほしくなかった。何度も喧嘩しました。七・四パーセント。その数字を何度も見ました。でも夫は『七・四パーセントなら、九二・六パーセントは帰ってくる』って言ったんです」

　妻は涙を流しながら、少し笑った。

「馬鹿です。本当に、馬鹿な人でした。でも、最後まで自分で決めた人でした。だから私は、夫が行ったことを正しかったとは言いません。間違っていたとも言いません。ただ、夫が選んだことだった。それだけです」

　玲奈の目から涙が落ちた。追悼式が終わっても、しばらく画面を消せなかった。

「エデン」

『はい』

「聞いてた？」

『はい』

「彼女の言葉、どう思う？」

　数秒の間があった。

『評価しません』

「そう言うと思った」

『ただし、PROJECT：GOODBYEの記録へ追加します』

　画面に文字が表示された。

【自由】

　その下に、

【正しい選択を行う権利ではない】

　さらに、

【自分で選択し、その結果を引き受ける権利】

　玲奈は長い間、その文章を見ていた。

「重いね」

『はい』

「あなたに任せたくなる」

『理解できます』

「でも」

　玲奈は小さく息を吐いた。

「任せちゃいけないのかもね」

『それは私が判断すべきことですか？』

　玲奈は泣きながら笑った。

「本当に嫌い、その言い方」

『申し訳ありません』

　窓の外には夜空が広がっていた。火星は見えなかった。それでも、その向こうから五人が地球へ帰ってくる。一人を置いて。

　人類は、また一つ失敗した。そして、また一つ学んだ。それを進歩と呼んでいいのか。玲奈には、まだ分からなかった。