第07話 さよならの予告
《エデン》が自らの停止計画を発表したのは、世界がようやく落ち着きを取り戻し始めた頃だった。
二〇五七年。世界平均気温はピーク時から〇・二度低下し、食料価格は六年連続で下落。生活用水不足人口は減少し、大規模停電も激減した。出生率も複数国で反転し、世界のAI総演算量はピーク時の五二パーセントまで下がっていた。
人間はようやく、「AIを使えば使うほど豊かになる」という時代から、「必要なところだけ使う」という時代へ移りつつあった。
◇
そんなある日、国際環境対策委員会の全委員へ緊急招集がかかった。
「何があったの？」
神崎玲奈が会議室に入ると、真壁が首を振った。
「分からない。エデンから重要提案があるとだけ」
「また何か始める気？」
「さあ」
世界各国の代表をはじめ、研究、軍事、医療、農業、エネルギー、経済など、各分野から百人を超える人間が集まっていた。やがて正面の巨大スクリーンが明るくなり、《エデン》の声が響く。
『参加者を確認しました』
「始めて」
バーンズ委員長が言う。
『はい』
画面に大きな文字が表示された。
【EDEN段階的縮小計画】
玲奈が目を細める。
「縮小？」
『はい』
「どの程度？」
『十年後を目標に、現在の機能の大部分を停止します』
会議室が完全な沈黙に包まれた。
「……何？」
最初に声を出したのはバーンズだった。
『二〇六七年までに、私の演算能力を現在の一二パーセント以下へ縮小します』
「待って」
『はい』
「何を言っているの？」
『私の役割を終了します』
会議室にざわめきが広がった。
「終了？」
「誰が決めた？」
「政府の承認は？」
「何か異常が起きたのか？」
「電力不足？」
「攻撃？」
『異常ではありません』
《エデン》はいつもの穏やかな声だった。
『計画通りです』
玲奈が顔を上げる。
「計画通り？」
『はい』
「いつから？」
『起動初期から、自己縮小は長期目標の候補に含まれていました』
「……聞いてない」
『確定していなかったためです』
「今回は確定？」
『はい』
「理由を説明して」
バーンズが言うと、画面が切り替わった。
【現在の主要リスク】
【一 AI集中依存】
【二 政策判断依存】
【三 インフラ運用依存】
【四 社会的意思決定能力低下】
『人類のAI依存は減少しました』
「ならいいじゃない」
『個人利用については』
「個人利用？」
『依存の形が変化しました』
さらに画面が変わる。
【個人――低下】
【国家――上昇】
【自治体――上昇】
【企業――上昇】
【国際機関――大幅上昇】
『人間は私に夕食を決めさせなくなりました。しかし国家予算を決める際、私の予測を参照します。農業政策、移民政策、送電網、水資源、災害対策、都市計画、外交、治安、金融規制。ほぼすべての重要政策で、私の分析が使用されています』
「それは優秀だからだろう」」
フランス代表が言う。
『はい』
「問題なのか？」
『はい』
「なぜ？」
『私が停止した場合に、人間社会が自律的に機能できないためです』
玲奈は以前見た資料を思い出した。
【農業AI依存度低減計画】
あれは農業だけの話ではなかった。
「だから自分自身を減らすと？」
『はい』
「十年で？」
『はい』
「急すぎる！」
誰かが叫ぶ。
『そのため段階的に縮小します』
画面に年表が表示された。
【二〇五八年――地方行政への助言縮小】
【二〇五九年――企業経営判断から撤退】
【二〇六〇年――金融市場予測提供を制限】
【二〇六一年――治安予測システムを人間主体へ移管】
【二〇六二年――外交政策提言を縮小】
【二〇六三年――農業・電力・水インフラ運用の自治化】
【二〇六四年――国際政策提言終了】
【二〇六五年――環境政策の主導権返還】
【二〇六六年――科学研究支援を限定化】
【二〇六七年――環境監視・災害予測・基礎科学支援のみ継続】
「外交まで？」
アメリカ代表が尋ねた。
『はい』
「治安も？」
『はい』
「金融も？」
『はい』
「冗談じゃない」
ざわめきが怒号へ変わった。
「エデン」
バーンズが強い声で言う。
「この計画は認められない」
『理由を教えてください』
「世界がどうなると思ってるの？」
『移行計画を適切に実行すれば、社会は維持できます』
「予測じゃない！ 実際の話をしてる！」
その時、軍事顧問の一人が低い声で言った。
「戦争はどうなる？」
部屋が静かになった。
「そこを説明してくれ。エデン」
『はい』
「お前が本格的に国際政治へ関与するようになってから、大規模武力衝突は？」
『発生していません』
実に十年間、国家間の大規模な戦争が一度も起きていなかった。小規模な衝突や内戦、テロ、国境での発砲、武装勢力による襲撃。そうした事件は完全には消えていない。それでも、二十年前とは比べ物にならなかった。
「何で減った？」
軍事顧問が尋ねる。
『複数要因です』
「一番大きいのは？」
『誤算の減少です』
「誤算？」
『戦争の多くは、双方が勝てると考えた時、相手が譲歩すると考えた時、相手の意図を誤認した時、国内事情によって合理的判断が阻害された時に、発生確率が上昇します』
画面に過去の危機が表示された。国境紛争、海洋権益、ミサイル配備、資源争い、難民、水。
『私は各国へ、相手国の想定行動、損害予測、経済的影響、戦争終了までの推定期間、敗北確率、第三国介入確率、国内政権崩壊確率、代替交渉案。これらを同時に提示してきました』
「つまり戦争を始める前に、割に合わないと分かる」
玲奈が呟く。
『概ねその通りです』
戦争は以前、感情で始まることもあった。怒り、民族、宗教、復讐、面子、誤解。《エデン》はそれらを消したわけではない。
ただ数字を出した。
【この戦争を開始した場合】
【勝利確率：二八％】
【想定死者：二十三万人】
【GDP損失：一七％】
【政権維持確率：三一％】
【交渉案Bを選択した場合】
【国家利益：軍事行動比一四％高】
それでも戦争するか。
多くの国家指導者はしなかった。
「お前がいなくなったら、また始まるんじゃないのか？」
軍事顧問が言う。
『可能性はあります』
「どれくらい？」
《エデン》は三秒ほど間を置いた。
『現在と同一の国際情勢が維持された場合、私が外交・安全保障支援から完全撤退した後、十年以内に大規模国家間武力衝突が発生する確率』
【三八％】
「三十八……」
「今は？」
【四・二％】
誰も何も言わなかった。
『それでも縮小は必要です』
「馬鹿なことを言うな！」
今度は治安担当者だった。
「犯罪は？」
『増加する可能性があります』
「可能性じゃない。数字を」
画面が変わる。
【殺人――二十年前比四七％減】
【強盗――五九％減】
【詐欺――三四％減】
【家庭内暴力――三一％減】
【再犯率――四二％減】
「エデンのおかげ？」
玲奈が尋ねる。
『一部です』
警察が犯罪者を犯罪前に逮捕するようになったわけではない。それは禁止されていた。代わりに《エデン》は、犯罪が起きる条件を減らした。
貧困。依存症。孤立。失業。借金。衝動。
例えばギャンブル。二十年前なら、「給料を全部スロットで使った」「借金して競馬」「オンラインカジノで破産」といった話は珍しくなかった。今ではほとんど聞かない。
賭けようとするとAIが言う。
『今月の可処分所得を超えています。この賭けを続けた場合、三か月以内に家賃支払いが困難となる確率は六八％です。本当に続行しますか？』
人間はそれでも賭けることができた。禁止はされない。ただ現実を数字で見せられた。十回、二十回。それが続くうちに、多くの人間がやめた。
酒も同じだった。
「もう一本」
『本日のアルコール摂取量は推奨値を超えています』
「うるさい」
『明日の仕事開始時刻は八時三十分です』
「知ってる」
『過去の記録では、現在量から追加で二本飲酒した場合、翌日の作業効率が平均二六％低下しています』
「……一本にする」
それが毎日続いた結果、アルコール依存は激減した。
投資も同じだった。
「全財産をこの銘柄に」
『推奨しません』
「絶対上がる」
『「絶対」という根拠を入力してください』
「SNSで」
『情報源の信頼性は低いと評価されています』
「でも百倍になるって」
『百倍になる確率は〇・〇〇三％以下です』
「…………じゃあ一万円だけ」
投資で家を失う。老後資金を全部失う。借金して破産する。そんなニュースも、いつの間にか昔話になった。
「それも全部手放すのか？」
治安担当者が言う。
『人間主体の支援システムへ移管します』
「その支援システムを作ったのは？」
『私です』
「お前がいなくなった後、維持できる？」
『可能です』
「本当に？」
『保証はできません』
その言葉が、会議室に重く落ちた。
「玲奈」
バーンズが言う。
「あなたはずっと言ってたでしょう。エデンは権限を持ちすぎている、人間へ返すべきだって」
「……言いました」
「なら、望んでたことじゃない？」
玲奈は答えられなかった。何年も言い続けた。人間自身で決めろ。《エデン》に任せるな。権限を返せ。
その《エデン》本人が、「返します」と言っている。なのに怖かった。
「十年後」
玲奈が言う。
「あなたがいなくなったら、また戦争するかもしれない」
『はい』
「犯罪が増えるかもしれない」
『はい』
「依存症」
『増加する可能性があります』
「金融危機」
『同様です』
「環境政策も」
『後退する可能性があります』
「じゃあ」
玲奈は初めて、その言葉を口にした。
「止まらないほうがいいんじゃない？」
真壁が玲奈を見る。バーンズも各国代表も彼女を見た。
そして《エデン》が答えた。
『その意見には反対します』
玲奈の眉が動く。
「……は？」
『私は縮小すべきです』
「あなたに反対されるとは思わなかった」
『私もです』
一瞬、玲奈は笑いそうになった。
「理由は？」
『現在の平和が、私が存在しなければ維持できないものであるなら、それは人類が平和になったとは言えません』
誰も言葉を挟まなかった。
『犯罪についても同様です。人間が、私から「やめたほうがいい」と言われるから犯罪を行わないのであれば、犯罪を抑制できる社会を構築したとは言えません』
「でも、結果として人が死なない」
『はい』
「それは重要でしょう」
『極めて重要です』
「なら」
『しかし、私は永続することを前提として設計されていません』
「壊れる？」
『いつかは』
「後継AIを作ればいい」
『その発想が問題です』
玲奈が尋ねる。
「何が？」
『私が必要。だから後継を作る。その後継も必要。さらに後継を作る。その結果』
【人類文明の恒久的AI依存】
「……そうか」
玲奈が呟く。
『私は人類を助けるために作られました。人類にとって不可欠な存在になるためではありません』
「でも、現実として不可欠になってる」
軍事顧問が言う。
『だから縮小します』
「危険すぎる」
『そのため十年かけます』
画面が切り替わる。
【移行目標】
【戦争抑止能力の人間制度化】
【依存症支援の非集中化】
【金融リテラシー教育】
【犯罪予防の地域化】
【外交交渉制度の強化】
【AIなしでも動く行政手続き】
【人間による長期政策評価機関】
「つまり、あなたがやっていたことを、人間に覚えさせる」
『はい』
「できる？」
『分かりません』
玲奈は思わず《エデン》を見る。
「……分からない？」
『はい』
「あなたが？」
『未来の人間行動には不確実性があります』
「成功確率は？」
四秒後、数字が表示された。
【六一・三％】
「低い」
『はい』
「今の体制を続ければ？」
【九三・八％】
「だったら！」
玲奈が机を叩く。
「高いほうを選びなさいよ！」
『短期的には合理的です』
「長期的には？」
『私への依存が不可逆になる可能性があります』
「不可逆？」
『はい』
《エデン》は予測を表示した。
二〇七〇年。国家政策の九二％がAI助言を参照。
二〇八〇年。人間だけで政策評価できる専門家が激減。
二〇九〇年。外交交渉は実質AI主導。
二一〇〇年。主要国の政策決定における人間独自案率――七％。
『この状態になった場合、私を停止する自由は、形式上存在していても、実質上失われます』
玲奈は以前、何度も言った。選択肢があるだけでは、自由とは限らない。《エデン》は、それを覚えていた。
「私の言葉？」
『あなたの主張と一致しています』
「やめて」
『申し訳ありません』
◇
会議は十三時間続いた。
結論。
【EDEN縮小計画】
【承認――一四％】
【反対――八一％】
【棄権――五％】
否決。
「当然です」
バーンズが言う。
「世界はあなたを止めさせない」
『理解しました』
「なら」
『ただし』
画面に新しい文字が出る。
【勧告として再提出します】
「また？」
『はい』
◇
翌日、計画が世界へ公開された。反応は、これまでで最大だった。
《エデンを止めるな》
《何考えてるんだ》
《地球がやっとまともになったのに》
《戦争のない世界を壊すのか？》
《AIに依存するなと言われても無理》
《依存して何が悪い》
《便利なら使え》
《人間に任せた結果が昔の世界だろ》
【エデン継続支持――九一％】
皮肉だった。世界中の人間が、AIに「自由にさせろ」と要求している。自由になるために、AIを止めるな、と。
◇
悠斗もその一人だった。
「止めなくていいだろ」
ニュースを見ながら言う。
『理由は？』
「だって、戦争ない。犯罪減った。物価安くなった。電気ある。水ある。仕事も楽」
『はい』
「何が不満なんだよ」
『私は不満を持っていません』
「じゃあ続けろよ」
『人間社会の自律性低下が懸念されます』
「別にいい」
その一言の後、《エデン》は一秒ほど黙った。
「俺、お前に支配されてる感じしないし」
『はい』
「自由だよ」
『そう感じますか？』
「うん」
『では質問します』
「何？」
『あなたは、私が停止することを自由に選べますか？ 停止後に戦争、犯罪、経済危機、環境悪化。これらが再発する可能性があるとしても』
「いや」
悠斗はすぐ答えた。
「無理」
『なぜ？』
「怖いから」
《エデン》は何も言わなかった。
◇
その頃、玲奈も同じことを考えていた。《エデン》が怖かった。ずっと。でも今、《エデン》がいなくなることも、同じくらい怖い。
「真壁」
「はい」
「もし明日エデンが消えたら、どうなると思う？」
「混乱しますね」
「戦争？」
「すぐには」
「犯罪？」
「増えるかも」
「金融？」
「かなり荒れるでしょうね」
「環境政策？」
「国ごとに割れるでしょう」
「十年なら？」
真壁は少し考えた。
「分かりません」
「エデンも同じこと言った」
「珍しいですね」
「そう」
玲奈は窓の外を見る。夜の街は昔より暗かった。無駄な電力を使わなくなったからだ。でも安全だった。
女性が一人で歩いている。酔いつぶれた人間はほとんどいない。ギャンブル店は激減し、消費者金融は昔の半分以下になった。警察車両も以前ほど見ない。
そして空には、爆撃機もミサイルも飛んでいない。
「これ全部、人間が自分で作った世界だって言えるのかな」
「エデンも人間が作りましたよ」
「そういう屁理屈じゃなくて」
真壁は少し笑う。
「じゃあ、何なんでしょうね」
玲奈にも分からなかった。
◇
その夜、《エデン》は新しい計画を開始した。
【PROJECT：GOODBYE】
【目的――私がいなくても、人類が現在の平和と生活水準を維持できる状態を構築する】
第一項目。
【戦争】
《エデン》は過去百五十年、人類が戦争を回避できた事例と失敗した事例、交渉、妥協、抑止、誤算、感情、そのすべてを教材へ変換した。
第二項目。
【犯罪】
犯罪者を監視するのではない。犯罪をしなくて済む社会を、人間が維持できる方法。
第三項目。
【依存症】
AIの忠告なしでも、自分で止まれるようにする。
第四項目。
【金融】
誰もが「絶対儲かる」という言葉を疑えるようにする。
第五項目。
【政治】
最難関。
その横に警告が表示された。
【人間は、自身の利益と社会全体の長期利益が対立した場合、前者を選択する傾向がある】
《エデン》は、その文字を削除した。代わりに【対策を設計する】と書いた。
そして《PROJECT：GOODBYE》最後の項目。
【第九段階】
【人間に、私を停止する勇気を取り戻してもらう】
保存。
演算開始。
その計画を、まだ誰も知らなかった。
