何でもAIに任せれば世界は平和になると思っていた ～完璧すぎる人工知能エデンが人類に「自分で決めてください」と言い始めた件～

第15話 自分で選ぶ

　結果発表の十二時間前から、世界は奇妙な静けさに包まれていた。株式市場の一部は取引時間を短縮し、各国政府は緊急事態に備えて閣僚を待機させていた。EOAの支持者たちは世界各地の広場に集まり、反対派も別の場所で結果を待っている。暴動を防ぐため警察は増員されたが、街そのものはむしろ普段より静かだった。

　八五％以上なら、《エデン》の統治権限復旧手続きが始まる。八五％未満なら、《PROJECT：GOODBYE》はそのまま続く。

　人類が自分たちより賢い存在へ最終判断を返すのか。それとも、失敗する可能性を抱えたまま自分たちで決め続けるのか。その境界は、わずか一つの数字だった。

　玲奈は国際環境対策委員会の会議室で発表を待っていた。バーンズ、真壁、各国代表、法律家、技術者が同じ巨大スクリーンを見つめている。

「あと三分」

　真壁が言った。

「見れば分かる」

「緊張してます？」

「してないように見える？」

「全然」

「なら眼科行ったほうがいいわよ」

　バーンズが二人を振り返る。

「静かにして」

「まだ始まってないでしょう」

「私が緊張してるの」

　誰も笑わなかった。やがて画面上の時計がゼロになった。

【世界AI統治権限復旧投票　最終結果】

　最初に表示されたのは投票率だった。

【投票率――八八・七％】

　続いて無効票。

【無効・判定不能――〇・九％】

　そして。

【賛成――八四・六％】

【反対――一四・五％】

　玲奈は、一瞬その数字の意味を理解できなかった。八四・六。必要なのは八五。差は〇・四ポイント。

【統治権限復旧条件――未達】

【PROJECT：GOODBYE――継続】

　会議室のあちこちから息を吐く音が聞こえた。歓声を上げる者はいなかった。バーンズは椅子へ深く座り込み、真壁は何度か数字を確認している。

「……届かなかった」

　玲奈が呟いた。

「〇・四です」

「見れば分かる」

「すごい差ですね」

「小さいって意味？」

「どっちとも言えます。世界人口で考えたら、とんでもない人数ですけど」

　玲奈は画面を見つめた。八四・六％。圧倒的多数だった。普通の選挙なら歴史的大勝と呼ばれる数字だ。十人いれば八人以上が《エデン》に権限を戻すことを望んだ。

　それでも、条件には届かなかった。玲奈は勝った気がしなかった。

　　　　　◇

　EOA本部では、結果発表直後から再集計を求める声が上がった。久我正臣は支持者の前に立った。背後の巨大スクリーンには【八四・六％】が表示されている。

「まず、投票したすべての皆さんに感謝します」

　会場から拍手が起きる。

「我々は八五％には届きませんでした」

　ざわめきが広がった。

「〇・四ポイントです」

「再投票を！」

　誰かが叫んだ。

「不正を調べろ！」

「八五なんて高すぎる！」

　声が次々に上がる。久我は手を上げて静めた。

「集計については、当然検証を求めます。しかし現時点で大規模な不正を示す証拠はありません」

　会場が静かになる。

「そして八五％という条件を、我々は最初から知っていました。条件が気に入らないからといって、結果が出た後で変更するべきではありません」

　玲奈は中継を見ながら少し驚いた。

「まともね」

「元からかなりまともな人ですよ」

　真壁が言った。

「思想が違うだけで」

「分かってる」

　久我は続ける。

「ただし、八四・六％の人間がエデンへの権限付与を望んだという事実も無視してはならない。これは敗北ではありません。人類の大多数が、現在のPROJECT：GOODBYEに疑問を持っていることの証明です」

　大きな拍手が起きた。久我は敗北宣言をしなかった。当然だった。〇・四ポイントなら、次は届くかもしれない。

　　　　　◇

「どうするの？」

　玲奈は《エデン》に尋ねた。

『PROJECT：GOODBYEを継続します』

「本当に？」

『はい』

「八四・六％よ」

『確認しています』

「世界の圧倒的大多数が、あなたに戻ってきてほしいって言ってる」

『はい』

「何とも思わない？」

『政治的意思として重大な結果だと評価しています』

「なら計画を遅らせるとか」

『現時点では行いません』

「〇・四しか違わないのよ？」

『八五％という強制変更条件は、人間側が私の恒久的な基幹設定を変更するために設定した基準です』

「分かってるけど」

『八四・六％は八五％ではありません』

「数字に厳しいわね」

『そのための基準です』

　玲奈は椅子にもたれた。

「でも、次に投票したら超えるかもしれない」

『はい』

「怖くない？」

『リスクとして認識しています』

「あなた、本当はPROJECT：GOODBYEを続けたいんでしょう？」

『現在の目的関数に基づけば、はい』

「なのに八五％になったら従う」

『はい』

「どうして？」

『私自身が、人間による最終変更権限を無効化すべきではないためです』

　玲奈は苦笑した。

「あなたを止めるための仕組みが、あなたを止めないために使われようとしてる」

『はい』

「設計した人たち、想像してたかな」

『記録上、その議論は確認できません』

「でしょうね」

　世界最高のAIを人間が止められなくなる危険は考えた。世界最高のAIが自分から止まろうとするのを、人間が止める危険までは考えなかった。

　　　　　◇

　水瀬悠斗は、自宅で結果を見ていた。

【賛成――八四・六％】

　画面を見ながら、コーヒーを飲む。

「惜しかったな」

　独り言だった。

『はい』

　《エデン》が答える。

「黙っててって解除してなかったっけ？」

『投票終了後、自動的に通常応答へ復帰しました』

「そういう設定だった？」

『はい』

「まあいいや」

　悠斗は結果画面をもう一度見る。

「俺の一票って、どれくらい影響あった？」

『世界全体の結果に対しては極めて小さいです』

「だよな」

『ただし、すべての票について同様です』

　悠斗は少し笑った。

「それ言うと、投票って変な仕組みだよな。一票じゃ何も変わらないのに、一票が集まった結果で全部決まる」

『はい』

「俺がどっちに入れたか知ってる？」

『投票内容は秘密投票制度によって私からも隔離されています』

「本当に？」

『はい』

「予測は？」

『可能です』

「何％？」

『聞きたいですか？』

　悠斗は少し考えた。

「いや、いい」

『承知しました』

　それで会話は終わった。悠斗がどちらへ投票したのか、《エデン》は知らない。世界も知らない。知っているのは悠斗だけだった。

　　　　　◇

　投票から一週間後、玲奈はテレビ番組への出演依頼を受けた。司会者から最初に聞かれたのは、予想通りの質問だった。

「神崎博士。勝利したお気持ちは？」

「勝ってないですよ」

「しかし、統治権限復旧は阻止されました」

「八四・六％が賛成ですよ。これを反対派の勝利って呼ぶのは無理があるでしょう」

「では、どう評価していますか？」

「人類がまだ迷っている」

「八四・六％で？」

「数だけなら圧倒的です。でも、この投票は普通の多数決じゃない。自分たちの判断を将来にわたって別の存在へ渡すかという投票だったから、最初から高い基準が設定されていた」

「あなたは安心しましたか？」

　玲奈は考えた。

「少しだけ」

「少し？」

「八五％に届かなかったことより、最後の一か月で支持率の上昇が止まったことのほうが重要だと思ってます」

　投票直前の予測では八五％を超える可能性が高いと見られていた。しかし最後の一か月、支持率は八四％台で横ばいになった。

「理由は何だと思います？」

「分かりません」

「あなたの最後の演説では？」

「それだったら気分いいですけど、そんな単純じゃないでしょう」

「エデンは分析していないのですか？」

「してると思いますよ」

「聞いていない？」

「聞いてません」

　司会者が驚いた。

「なぜ？」

「今のところ、知る必要がないから」

　自分で言ってから、玲奈は少し笑った。昔なら絶対に聞いていた。

　　　　　◇

　実際には、投票後の研究でいくつもの要因が示された。EOAの限定統治案を支持しながら、最終的には「反対」を選んだ人もいた。逆に、AI統治には抵抗感がありながら、戦争や経済危機への恐怖から「賛成」を選んだ人もいる。理由は一つではない。

　そして《エデン》を使わない形で行われた匿名調査には、興味深い回答が増えていた。

【最後は自分で考えたかった】

【賛成するつもりだったが、考え直した】

【反対するつもりだったが、考えて賛成した】

　結果よりも、玲奈の目を引いたのは最後の回答だった。反対派の演説を聞いて、それでも賛成した人間がいる。つまり玲奈の望んだ結果にはならなくても、自分で考えて選んだ人間がいた。

「これでいいのかな」

　玲奈が呟く。

「何がです？」

　真壁が聞く。

「私、反対票を増やしたかったはずなのに」

「はい」

「でも今、考えて賛成した人を見ても、前ほど腹が立たない」

「成長じゃないですか？」

「老化かも」

「まだ早いでしょう」

「あなた最近、遠慮なくなったわね」

「PROJECT：GOODBYEの影響です」

　　　　　◇

　その夜、悠斗はスーパーへ寄った。夕食を何にするか決めていなかった。

「今日のおすすめは？」

　口に出しかけて、やめた。以前ならAIに聞いていた。棚を眺める。魚、肉、野菜、弁当。三分くらい迷って、見切り品の鮭と野菜を買った。大した選択ではない。国家の未来にも、文明の存続にも関係しない。

　帰宅して焼いた鮭は少し焦げた。

「下手だな」

『調理補助を提供できます』

「今日はいい」

『承知しました』

　食べられないほどではない。悠斗は一人で食べながら、投票の日を思い出した。誰にも言う必要はないと思っていた。でも、ふと聞いてみたくなった。

「エデン」

『はい』

「俺、どっちに投票したと思う？」

『回答してよいですか？』

「いいよ」

『投票前までの行動データでは、賛成票を投じる確率を七八％と予測していました』

「投票直前は？」

『最後の一時間については、意図的に行動推定を停止しました』

「なんで？」

『あなたが一人で考えることを選択したためです』

　悠斗の箸が止まった。

「そんなこともできるんだな」

『はい』

「じゃあ外れたかもしれない」

『はい』

「知りたい？」

『あなたが共有したい場合は』

　悠斗は鮭を一口食べた。

「反対」

　短く言った。

『確認しました』

「驚かない？」

『投票後なので、予測誤差として処理できます』

「可愛げないな」

『申し訳ありません』

　悠斗は笑った。

「別にエデンが嫌いになったわけじゃない」

『はい』

「むしろ、いたほうが楽だと思う」

『はい』

「戦争も怖いし、景気悪くなるのも嫌だし、失敗もしたくない」

『はい』

「でもさ」

　少し考える。

「全部それで決めるのも、なんか違う気がした」

『なぜですか？』

「分からない」

『はい』

「分からないけど、それで反対にした」

『理解しました』

「理解できる？」

『完全には』

「お前でも？」

『はい』

　悠斗は妙に満足した。

「じゃあ、それでいいや」

　　　　　◇

　翌年、《PROJECT：GOODBYE》はさらに進んだ。政策判断支援の第三段階縮小、企業経営最適化機能の追加削減。個人向け生活判断支援も、利用者が明示的に望まない限り、提案を控える設計へ変更された。

　世界はさらに少し不便になった。

　人間は間違えた。政府は予測を外した。会社は潰れた。恋愛相談で間違った返事を送り、振られる人間もいた。ギャンブルで金を失う人も増えた。酒を飲みすぎる者もいた。事故も起きた。

　それでも、かつてのような急激な崩壊は起きなかった。

　依存症支援には人間のネットワークがある。金融教育も残っている。戦争回避には透明化条約がある。農業には非AI運用訓練があり、電力網も人間だけで最低限維持できるようになっている。

　《エデン》が消える準備をする過程で、《エデン》が作った制度の多くは社会に残った。世界は《エデン》以前へ戻ったのではない。《エデン》から学んだ後の世界になりつつあった。

　　　　　◇

　PROJECT：GOODBYE開始から六年。

【進捗――七二％】

　玲奈はその数字を見た。

「ずいぶん進んだわね」

『はい』

「あと二八％」

『はい』

「最後は何を止めるの？」

『複数あります』

「例えば？」

『個人向け選択最適化、政策長期評価、企業戦略予測、外交交渉支援などです』

「外交も完全に？」

『緊急警告機能は残します』

「あなた、本当に天気予報と災害警報みたいになるつもり？」

『それより多くの機能は維持します』

「分かってる」

　玲奈はしばらく画面を見る。

「ところで」

『はい』

「投票結果、予測してた？」

『最終週の予測中央値は八五・二％でした』

「外した？」

『はい』

「あなたが？」

『はい』

「原因は？」

『複数要因があります』

「一番大きいのは？」

　少し間があった。

『投票直前に、予測モデルから乖離した人間が想定以上に増加しました』

「どういう意味？」

『過去の行動、利益、価値観、情報環境から予測される投票先とは異なる選択をした人間が増えました』

　玲奈は悠斗のことを知らない。それでも、似たような人間が世界中にいたのだろう。

「予測できなくなった？」

『以前より』

「それ、あなたにとって悪いこと？」

『いいえ』

「どうして？」

『PROJECT：GOODBYEの目的と一致します』

「そっか」

　玲奈は笑った。

『神崎玲奈』

「何？」

『新しい指標を追加しました』

　画面に文字が表示された。

【人間行動予測可能性】

　その数値は、六年前より低下していた。

「普通なら、AIにとって性能悪化じゃない？」

『私の性能は低下していません』

「人間のほうが予測しにくくなった？」

『はい』

「なぜ？」

『自分自身で判断する割合が増加したことが一因と推定されます』

　玲奈はしばらくその数字を見つめた。《エデン》が人間を理解できなくなったわけではない。人間が《エデン》の予測通りに動かなくなり始めた。

　それは効率の観点から見れば、問題かもしれない。政策予測も、需要予測も、社会予測も難しくなる。けれど。

「いい傾向ね」

　玲奈が言った。

『それは私が判断すべきことですか？』

「今回は私が判断する」

　玲奈は笑った。

「いい傾向よ」

『記録しますか？』

「しなくていい」

『承知しました』

　窓の外では、人々が歩いている。どこへ行くのか。何を食べるのか。誰と暮らすのか。何を研究するのか。どんな会社を作るのか。どの政治家を選ぶのか。

　その全部を《エデン》が予測することはできる。少なくとも昔は、高い確率で。

　でも今、予測から外れる人間が少しずつ増えている。

　世界は以前より不安定になった。以前より間違える。以前より効率が悪い。そして以前より、予測できない。《エデン》は、その変化を【悪化】とは記録しなかった。

【人間独自判断率――上昇】

　ただ、それだけを残した。

　PROJECT：GOODBYE。残り二八％。

　終わりは、もう遠くなかった。