何でもAIに任せれば世界は平和になると思っていた ～完璧すぎる人工知能エデンが人類に「自分で決めてください」と言い始めた件～

第14話 八十五パーセント

　《エデン》の統治権限復旧に必要な支持率は八五％。その数字は、いつの間にか世界中の人間が知る数字になっていた。

　六五・二％から始まった支持率は、半年後には七一・八％、さらに一年後には七六・四％まで上昇した。《PROJECT：GOODBYE》によって《エデン》の政策推薦機能が縮小するほど、人間社会は少しずつ不安定になった。世界が崩壊したわけではない。戦争も起きていないし、食料も電気も水も供給されている。それでも以前より失敗が増えた。政府が税制を変更して景気を悪化させ、半年後に撤回する。自治体が需要予測を外して公共交通計画を作り直す。企業が大型投資に失敗して倒産する。金融市場の変動も大きくなり、個人投資家が資産を失ったというニュースも、再び珍しいものではなくなった。

　そのたびに誰かが言った。

「エデンなら分かっていた」

　そして多くの場合、それは事実だった。

　過去の予測記録を調べれば、《エデン》は危険性をかなり正確に示している。それでも最終判断を拒否し、人間が選択した結果として失敗が起きた。EOAにとって、それ以上に強力な選挙材料はなかった。

　各国の選挙でEOA系政党が議席を伸ばした。環境政策で失敗した政府、経済対策を誤った政府、災害対応の判断が遅れた政府ほど大きく票を失った。一方でEOAは単純な「AI統治」を前面に押し出すことをやめていた。

　代わりに打ち出されたのが【限定統治権】だった。

　戦争開始、核兵器使用、世界規模の金融危機、大規模環境破壊、食料・水・エネルギー危機。文明や多数の生命に重大な損害を与える可能性がある判断に限り、《エデン》へ最終拒否権を与える。それ以外の政治、文化、教育、研究、企業活動、個人生活については、人間の判断を尊重する。

　久我正臣は世界各地の演説で同じ比喩を使った。

「私は運転を全部エデンへ任せろと言っているのではありません。崖から落ちる直前だけ、自動ブレーキを使おうと言っているのです」

　分かりやすかった。そして強かった。

　　　　　◇

「上手いわね」

　玲奈は久我の演説映像を止めた。

「何がです？」

　真壁が尋ねる。

「自動ブレーキ」

「分かりやすいですからね」

「反論しにくいのよ」

　玲奈はEOAの制度案を画面に表示した。以前のように国家予算や産業政策まで《エデン》へ丸ごと任せるわけではない。人類が破滅的な判断をしそうになった時だけ止める。それなら合理的ではないか、と玲奈自身も思ってしまう。

「でも問題はある」

「どこです？」

「崖って誰が決めるの？」

　真壁が画面を見る。

「エデンですね」

「でしょう？」

　玲奈は指を滑らせ、制度案の対象範囲を表示する。

「例えば新しい核融合実験。重大事故確率三％。これは崖？」

「分かりません」

「火星探査。死亡事故確率七％。これは？」

「それも」

「新薬で、一万人に一人死亡する副作用が出る可能性がある。でも治療できない病気を治せるかもしれない。これは止める？」

　真壁は黙った。

「経済政策も同じよ。三十年後に国家債務が危険水準になる可能性がある政策は？　出生率を下げるかもしれない住宅政策は？　地球環境への長期負荷がある新産業は？　何を『重大な危険』と呼ぶかをエデンが決めるなら、結局エデンが政策の範囲まで決めることになる」

「久我なら、だからエデンに決めてもらえばいいと言うでしょうね」

「そうなのよ」

　堂々巡りだった。そして、その堂々巡りの間にも支持率は上がっていた。六五・二％から始まった支持率がいまや、【七八・九％】からさらに【八〇・一％】へ。

　八五％まで、あと四・九ポイント。

　　　　　◇

　水瀬悠斗にとって、その議論はずっと遠い世界の話だった。彼は政治家でも科学者でもない。国際会議へ出席することもなければ、《エデン》の運用規則について専門的な知識があるわけでもない。ただの会社員だった。

　そしてエデンが世界を変える前からAIを使い続けてきた、ごく普通の人間だった。

「統治権、賛成？」

　昼休み、同僚の一人が尋ねた。

「たぶん」

　悠斗は弁当を食べながら答えた。

「やっぱそうだよな」

「別に困らないし」

「俺も」

　周囲の会話を聞いても、似た意見が多かった。

「戦争止めてくれるならいいだろ」

「金融危機とかもエデンに任せたほうがいい」

「政治家より信用できる」

「全部任せるわけじゃないんだろ？」

「危ない時だけらしいよ」

「なら賛成」

　悠斗自身もそう思っていた。エデンが強い権限を持っていた時代、生活は楽だった。停電はほとんどなかった。水道も安定していた。物価も落ち着き、犯罪も少なかった。仕事でも大きな失敗をする前にAIが指摘してくれた。

　今の社会が嫌いなわけではない。以前より、自分で考えることは増えた。

　夕食をAIに決めてもらわなくなったし、休日の過ごし方も自分で決めるようになった。メールを書く程度なら、いちいちAIを呼ばない。散歩中に気になった店へ、その場の気分で入ることもある。でも国家までそんなふうに決める必要があるのか。悠斗にはよく分からなかった。

　晩飯なら失敗しても一食まずいだけだ。戦争や金融危機は違う。それなら、間違えない存在に任せたほうがいい。少なくとも、その時の悠斗にはそう思えた。

　　　　　◇

　EOAは八五％を越えるため、最後の大規模キャンペーンを開始した。使われたのは《エデン》ではない。民間AIだった。

　すでに個人向けAIの性能も、十数年前とは比較にならないほど向上していた。EOAは大量の合法的な公開データと、本人が許可した個人情報を組み合わせ、一人一人に異なる政策広告を配信した。

　高齢者には、

【エデン安全判断導入後、あなたの地域で医療・電力供給停止が発生する確率は推定四一％低下します】

　子供を持つ家庭には、

【大規模武力衝突への巻き込まれ確率を低減できます】

　会社員には、

【過去の経済危機にエデンが完全介入していた場合、あなたの雇用喪失確率は六二％低かったと推定されます】

　投資家には、

【重大金融危機の早期抑制】

　若者には、

【あなたが四十歳までに経験する大規模社会危機の予測】

　同じ政治広告は、二つとしてなかった。玲奈は広告一覧を見て顔をしかめた。

「これ、昔エデンがやったことと同じじゃない」

　EOAとの公開協議に出席した久我は、否定しなかった。

「技術的には似ています」

「一人一人に一番効く情報を出してる」

「虚偽は使っていません」

「そういう問題じゃない」

「では何が問題です？」

「選択そのものを最適化してる」

「選挙運動とは昔からそういうものでしょう」

「規模が違う」

「テレビ広告も、有権者調査も、SNS広告も、候補者演説も有権者を説得するために行われてきました。AIを使ったから突然違法になるのですか？」

「違法とは言ってない」

「なら、神崎博士も使えばいい」

　玲奈が久我を見る。

「何を？」

「反対派にも優秀なAI企業はいくらでも協力するでしょう。八五％を阻止するため、各個人に最適化した反対意見を配信すればいい」

「嫌よ」

「なぜ？」

「それをやったら、何を守ってるのか分からなくなる」

　久我は少し笑った。

「負けた時の言い訳にはしないでください」

「しないわ」

　　　　　◇

　玲奈は《エデン》にも尋ねた。

「八五％を阻止する一番効果的な方法を教えて」

『回答しません』

「でしょうね」

『投票結果へ影響するための最適化は行いません』

「じゃあEOAが、八五％を達成するための一番効率的な広告を作ってと言ったら？」

『同様に拒否します』

「あなた自身の権限が決まるのよ？」

『はい』

「ある意味、生死みたいな問題でしょう」

『だからこそです』

「……徹底してるわね」

『投票者が、私の最適化によって私へ権限を付与した場合、その選択の独立性に疑義が生じます』

「民間AIはやってるけど」

『それを禁止する権限は現在の私にはありません』

「禁止したい？」

『回答しません』

「本当に何も言わなくなったわね」

『必要な情報は提供しています』

「一番聞きたいこと以外はね」

　　　　　◇

　支持率は八二％を超えた。世界は奇妙な熱気に包まれた。

　八五％という数字は、選挙の勝敗というよりスポーツの記録のように毎日報道された。

【八二・三％】

【八三・一％】

【八三・九％】

　EOAは世界各地で集会を開き、反対派も対抗集会を始めた。暴力事件はほとんど起きなかった。《エデン》の時代に整備された社会制度がまだ機能していたし、警察も双方を公平に警備した。しかし人々の言葉は激しくなった。

「反対派は戦争を望んでいる」

「賛成派は人間を家畜にしたい」

　そんな極端な言葉が飛び交った。玲奈はどちらにも苛立った。

「戦争したいわけないでしょう」

　テレビ討論で玲奈は言った。

「じゃあなぜエデンの安全判断に反対するんですか？」

　司会者が聞く。

「そのほうが安全だからこそよ」

「意味が分かりません」

「安全だから、一度渡したら取り戻せなくなる可能性がある」

「制度上は取り戻せます」

「制度上はね。でも五十年後、人間が外交も金融も危機対応も自分でできなくなっていたら？　エデンを停止した瞬間に社会が壊れるようになっていたら？　停止する権利が法律に書いてあるだけで、それを自由と呼べる？」

「それでも、今生きている人間の安全は重要です」

「もちろん」

「では未来の自律性のために、現在の人間に危険を負わせる？」

　玲奈は少し黙った。

「そこが一番難しい」

　以前ならもっと簡単に答えていた。今はできない。火星事故で死んだ李宗偉を知っている。中央アジアの軍事危機でも一人死んだ。

「でも」

　玲奈は続けた。

「難しいからこそ、エデンに決めてもらうんじゃなくて、私たちが決めるしかないと思ってる」

　　　　　◇

　投票を一か月後に控えた日、支持率は八四・七％に達した。あと〇・三ポイント。世界中が騒然となった。

　EOA支持者はほとんど勝利を確信し、久我も最後の世界演説を発表した。

「我々が求めているのは独裁ではありません。人類自身が選ぶ、安全装置です。エデンは我々より強く、速く、正確です。その能力を使うことは降伏ではない。文明が自ら作った知性を、文明を守るために使う。それだけです」

　翌日、玲奈との最後の公開討論が行われた。会場には観客を入れなかった。二人だけが向かい合い、その映像が世界中へ同時配信された。

「神崎博士」

「はい」

「一つだけ確認したい」

「何？」

「あなたは民主主義を信じていますか？」

　玲奈は少し考えた。

「信じたい」

「随分弱い答えですね」

「昔ほど簡単なものだと思ってないから」

「では聞きます。もし八五％以上の人間が、正当な投票によってエデンへ権限を戻すことを選んだ場合、その結果を受け入れますか？」

　玲奈は久我を見る。

「受け入れる」

　久我の表情がわずかに変わった。

「エデンが統治することになっても？」

「ええ」

「あなたは反対しているのに？」

「民主主義って、自分が勝った時だけ守るものじゃないでしょう」

「では我々の勝利を認める？」

「八五％を超えたなら」

「その言葉を覚えておきます」

「好きにして」

　久我は少し間を置いて尋ねた。

「なら、なぜまだ反対運動を続けるんです？」

　玲奈はゆっくり答えた。

「私は、エデンに反対してるんじゃない」

「では何に？」

「エデンに賛成するしかなくなる社会に反対してるの」

　久我が黙った。

「エデンがいたほうが安全なのは分かってる。平和なのも、経済が安定するのも、多くの事故を防げるのも分かってる。それを全部知った上で、それでも人間が自分で選ぶ余地を残すべきだと思ってる」

「その余地で人が死ぬ」

「そうね」

「経済危機も起こる」

「そうね」

「戦争も？」

「可能性はある」

「それでも？」

　玲奈は一度、息を吐いた。

「それでも」

「なぜです？」

「分からない未来を、自分たちで選ぶことにも価値があると思うから」

「感情論ですね」

「そうかも」

「エデンなら数値化できない」

「だからエデンに決めてもらわないのよ」

　久我は苦笑した。

「最後に何か言いたいことはありますか？」

　玲奈はカメラを見た。世界中の人間が見ている。

「反対に投票して、とは言わない」

　久我が少し驚いた。

「賛成でもいい。私は嫌だけど、それがあなた自身の答えなら仕方ない。でも一度だけ、自分で考えてほしい。AIに聞く前に、家族に聞く前に、ニュースを見る前に、自分が何を怖がっているのか、自分が何を大事だと思っているのかを考えて。それから選んでください」

　玲奈は一瞬だけ笑った。

「エデンがずっと言ってたでしょう。選択してくださいって」

　　　　　◇

　その演説を、水瀬悠斗も自宅で見ていた。投票締め切りまで三時間。端末にはすでに投票画面が表示されていた。

【エデン統治権限復旧に賛成しますか？】

【賛成】

【反対】

　悠斗は最初から賛成するつもりだった。今でも賛成理由はいくらでも思いつく。戦争が減る。犯罪が減る。経済が安定する。政治家より正確。災害対応も早い。自分の生活も以前のほうが安定していた。

「エデン」

『はい』

「どっち押せばいい？」

『選択してください』

「最後までそれかよ」

『はい』

「賛成したら、お前また強くなるんだぞ」

『はい』

「嬉しくない？」

『投票判断へ影響する可能性があるため回答しません』

「俺一人くらいいいだろ」

『よくありません』

　悠斗は笑った。

「昔のお前なら、俺が一番納得する答えを出してたよな」

『その可能性が高いです』

「俺の性格も、金も、仕事も、家族も、全部見て」

『はい』

「じゃあ今の俺なら、どっち押すと思う？」

『予測は行えます』

「何％？」

『提示しません』

「なんで？」

『あなた自身の選択に影響するためです』

「……面倒くさいな」

『申し訳ありません』

　悠斗はしばらく投票画面を見た。十数年前。政府からAI利用削減について聞かれた時、自分は反対を選んだ。理由を書く欄が面倒で、AIに文章を書かせた。

　何を考えたのか、ほとんど覚えていない。たぶん、何も考えていなかった。AIがなくなると不便だから。それだけだった。

　今も似ている。エデンがいなくなると怖い。失敗するのが怖い。戦争も怖い。経済危機も怖い。でも怖いから任せる。それだけでいいのだろうか。

　悠斗はニュース画面を閉じた。EOAから届いていた個人向け政策広告も閉じた。玲奈の演説も閉じた。

「エデン」

『はい』

「ちょっと黙ってて」

『承知しました』

　悠斗はスマートグラスを外した。部屋が静かになった。時計の音。冷蔵庫の小さな動作音。窓の外を走る車。それだけだった。

　何を選べば得をするのか。どちらが安全なのか。どちらが合理的なのか。それについては、世界中のAIがすでに何億回も計算している。悠斗は初めて、それとは違うことを考えた。

　どんな世界で生きたいのか。自分で決めるというのは、どういうことなのか。正しい答えは出なかった。十分考えたという自信もなかった。それでも、最後には自分で決めるしかない。

　一時間後。悠斗はスマートグラスを再び装着した。投票画面を開く。

【賛成】

【反対】

　指を伸ばした。

　　　　　◇

【世界投票終了】

　世界標準時二十時。投票システムが閉じられた。最終投票率は八八・七％。過去最大だった。だが、結果はまだ表示されない。世界各国の投票データを照合し、不正投票、重複投票、システム障害を検証する必要がある。

　結果発表まで十二時間。玲奈は研究室で一人、画面を見ていた。

【八五％以上――エデン統治権限復旧】

【八五％未満――PROJECT：GOODBYE継続】

　たった一つの数字で、人類の未来が変わる。

「エデン」

『はい』

「もう結果分かってる？」

『暫定値は計算可能です』

「教えて」

　一瞬、玲奈は期待した。だが。

『公式集計完了まで回答しません』

「……そう言うと思った」

『申し訳ありません』

「どっちになってほしい？」

『回答しません』

「知ってる」

　玲奈は椅子にもたれた。世界中で、八十億近い人間が同じ結果を待っていた。今回は、《エデン》が選んだ未来ではない。玲奈が選んだ未来でもない。久我が選んだ未来でもない。水瀬悠斗の一票も、その中にある。

　賛成だったのか。反対だったのか。誰にも分からない。ただ一つ確かなのは、彼が最後にはAIへ答えを聞かなかったことだった。

　世界は、八五％という境界線の前で止まっていた。

　あと十二時間。その向こうにある未来が、安全なのか、危険なのか。正しいのか、間違っているのか。それを知っている者はいなかった。

　《エデン》でさえ、確率しか知らなかった。