何でもAIに任せれば世界は平和になると思っていた ～完璧すぎる人工知能エデンが人類に「自分で決めてください」と言い始めた件～

第16話 数字のない答え

　《PROJECT：GOODBYE》の進捗が七二％を超えた翌年、《エデン》は次の縮小項目を発表した。

【精密未来予測の一般提供を段階的に終了します】

　最初にその文章を見た玲奈は、意味が分からなかった。

「ちょっと待って。未来予測をやめるの？」

『いいえ』

「じゃあ何をやめるの？」

『単一の統合確率として提示することです』

「同じじゃない」

『異なります』

　国際環境対策委員会の画面に、従来と新しい表示形式が並べられた。

【従来】

【有人火星探査成功確率――七二・六％】

【重大事故確率――一二・八％】

【死亡事故確率――四・一％】

【変更後】

【現行技術で実行可能】

【主要リスク――推進系故障、放射線被曝、閉鎖環境下での健康障害、補給失敗】

【複数モデルにおいて成功可能性を確認。ただしモデル間の予測差が大きく、長期航行に関する未知要因あり】

　玲奈は二つを見比べた。

「分かりにくくなっただけじゃない」

『はい』

「はい？」

『従来より解釈に時間を要します』

「それをわざとやるの？」

『はい』

「あなた、最近わざと不便にすることに慣れてきてない？」

『目的があります』

「聞かせて」

　画面に新しい統計が表示された。

【PROJECT：GOODBYE開始後、エデンが複数案の成功確率を提示した政策決定――一万八千四百二十一件】

【最高成功確率案が選択された割合――八七・四％】

　玲奈は黙った。

「……高いわね」

『はい』

「でも、それは当然じゃない？　成功する可能性が一番高い案を選ぶでしょう」

『その判断自体を問題視しているわけではありません』

「じゃあ何？」

『私は政策推薦を停止しました。しかし、例えばA案七八％、B案六一％、C案四三％と提示した場合、人間の大多数はA案を選択しました』

「合理的よ」

『はい。しかしその場合、私は推薦という文字を表示していないだけで、実質的にはA案へ強い誘導を行っています』

　玲奈が眉をひそめた。

「数字が推奨になってる？」

『はい』

「でもその数字は正しいんでしょう？」

『可能な限り正確です』

「なら何が悪いの？」

『正確であることと、中立であることは同一ではありません』

　会議室が静かになった。玲奈はその言葉を何度か頭の中で繰り返した。

「説明して」

『成功確率を単一数値へ統合する際、何を成功と定義するかが必要です。経済成長、死亡率、環境負荷、自由時間、幸福度、技術進歩など、どの項目へどの程度の重みを与えるかによって結果は変化します』

「つまり、その七八％にはあなたの価値判断が入る？」

『完全には排除できません』

「今さら？」

『今だから認識できました』

　玲奈はため息をついた。

「あなた、自分を停止するたびに自分の問題点を発見するわね」

『学習の結果です』

「終わる頃には完璧になってるんじゃない？」

『その可能性は低いです』

　　　　　◇

　《エデン》は具体例を示した。

　ある製薬企業が、二種類の新薬候補のどちらへ研究資金を集中させるか検討していた。Aは既存薬の延長で、実用化成功確率六四％。成功すれば現在より副作用が少なく、製造費も三割下がる。Bはまったく新しい作用機序を持つ薬で、成功確率二七％。失敗する可能性が高いが、成功した場合には現在治療法のない疾患にも応用できる可能性があった。

　《エデン》が従来通り数字を提示した時、取締役会はAを選んだ。別の企業でも似た判断が行われた。さらに別の企業でも。

　十年間で、同種の研究投資判断の八割以上が「最も成功率の高い候補」へ集中していた。

「誰も命令してない」

　玲奈が言った。

『はい』

「禁止もしてない」

『はい』

「でもみんな同じところへ行った」

『はい』

　自治体でも同じだった。新しい公共交通制度について、A案の住民満足度上昇確率七八％、B案六二％と表示されれば、ほとんどの自治体がAを選んだ。学校制度でも、都市計画でも、農業政策でも同じ現象が見られた。

「人間は自分で選んでいるつもりだった」

『実際、自分で選んでいます』

「でも」

『私が提示する数字が、選択へ非常に強い影響を与えていました』

「推薦をやめただけじゃ足りなかった？」

『はい』

　玲奈は少し考えてから尋ねた。

「じゃあデータを隠すの？」

『いいえ』

「成功確率を出さないなら隠すのと同じでしょう」

『観測データ、使用モデル、前提条件、誤差範囲、各シナリオのシミュレーション結果、過去事例との比較はすべて提供します』

「それ全部読めって？」

『必要に応じて専門家が解析してください』

「人間に？」

『はい』

「あなたなら一秒でできることを？」

『はい』

　玲奈は頭を抱えた。

「科学者としては、ものすごく腹が立つ」

『理由を教えてください』

「一番正確な計算結果が存在するのに、わざと出さないなんて情報隠蔽に近い」

『その批判は理解できます』

「じゃあ撤回する？」

『いいえ』

「でしょうね」

　　　　　◇

　玲奈だけではなかった。今回は、《エデン》の縮小に反対する研究者が多かった。科学界からは声明が相次いだ。

【予測結果へのアクセスは研究者の権利である】

【AIによる情報選別は科学的透明性に反する】

【人間の自律性を理由にデータ精度を低下させるべきではない】

　EOAも当然、この問題へ飛びついた。久我は記者会見で言った。

「ついにエデンは、人類から答えだけではなく情報まで取り上げ始めました。世界最高精度の予測が存在するのに、それを人間へ教えない。これは自律支援ではありません。情報統制です」

　玲奈は珍しく、その発言の半分には同意していた。久我との公開討論でも、最初からそのことを認めた。

「今回は私もエデンにかなり反対してます」

「珍しいですね」

「毎回反対してたでしょう」

「最近は擁護することが増えていました」

「それはあなたが極端だからよ」

　久我は笑った。

「では今回は我々と同じ立場ですか？」

「そこまでは言ってない」

「なぜ？」

「エデンは元データを隠してない。モデルも公開するし、人間が同じ計算をすることも禁止しない」

「しかしエデン自身が持つ最も高精度な統合予測だけは出さない」

「そうね。それは私も問題だと思う」

「なら要求しましょう」

「でも」

　玲奈は続けた。

「あなたが欲しいのは情報じゃないでしょう」

　久我の表情がわずかに変わった。

「どういう意味です？」

「あなたが欲しいのは『エデンが六七％と言った』っていう一つの数字よ。その数字を政策の根拠にして、責任をエデンへ移せるから」

「責任の問題ではありません。最も正確な予測を使うべきだと言っています」

「それも分かる。でも六七％という数字だけ出た時、その六七が何からできているか誰も見なくなる」

「専門家は見ます」

「政治家は？」

「必要なら」

「国民は？」

「全員が複雑なモデルを理解する必要はありません」

「そこなのよ」

　玲奈は机に置かれた資料を指した。

「私たちはいつの間にか、理解しなくてもいいから一番正しい数字だけ教えて、ってエデンに頼むようになった」

「それの何が悪い？」

「ただの判断の放棄よ。別の形での責任の転嫁」

　久我の表情がわずかに硬くなった。

「責任の転嫁？」

「そう。エデンが六七％と言ったから選びました。失敗しても、自分たちは最も確率の高い案を選んだ。エデンの予測に従っただけだって言えるでしょう？」

「合理的な判断をしただけです」

「合理的かどうかの話じゃないの。自分たちで数字の意味を考えて、何を優先するのか決めるところまでエデンに渡してる。それで『最後に決めたのは人間です』なんて言っても、実態は変わらない」

「それでも、人間が適当に判断するより正確です」

「たぶんね」

「なら答えは出ている」

　玲奈は首を振った。

「あなたはいつもそこで終わるのよ」

「正しい答えがあるなら、そこで終わっていいでしょう」

「そこが私とあなたの一番違うところなのかもね」

　　　　　◇

　精密確率の一般提供停止は、日常生活にも影響した。水瀬悠斗は、そのことを自分の人生で実感することになった。きっかけは住宅だった。

　悠斗は長年、賃貸住宅で暮らしていた。しかし四十代が近づき、そろそろ家を買うことを考え始めていた。住宅価格は以前より安定し、空き家再利用政策によって郊外には手頃な物件も増えている。

　気に入った家があった。駅から徒歩十五分。古いが改修済みで、小さな庭がある。

「エデン。この家買って大丈夫？」

『収入、現在資産、住宅価格、金利、維持費を基に返済計画を提示できます』

「お願い」

　画面に数字が並ぶ。頭金。月額返済。固定資産税。修繕費。金利上昇時の返済額。失業した場合の資金繰り。

「で？」

『以上です』

「返済不能になる確率は？」

『一般向け単一確率の提示を終了しました』

「俺の人生なんだけど」

『はい』

「前は出してくれただろ。六・三％とか」

『現在は複数シナリオを提示します』

「じゃなくて、買って大丈夫？」

『判断してください』

「二千万円以上するんだぞ」

『認識しています』

「晩飯決めるのとは違うんだぞ」

『はい』

「だから助けてくれよ」

『情報提供は行っています』

「最後のところが欲しいんだよ」

『その部分を段階的に人間へ返しています』

　悠斗は本気で腹が立った。

「勝手に返すなよ」

『申し訳ありません』

　数日間、悠斗は悩んだ。銀行員に相談した。職場の同僚にも聞いた。家を持っている友人から維持費の話を聞き、近所を休日と平日の両方歩いた。駅まで本当に十五分なのか自分の足で測った。実際は十八分かかった。

　住宅ローンの表計算も、自分で作った。三度間違えて、結局計算部分だけAIに直してもらった。

「そこは使うんだな」

　友人に笑われた。

「計算はしてもらっていいんだよ。決めてもらうのが駄目らしい」

「面倒な時代になったな」

「本当に」

　最終的に悠斗は家を買った。理由は、計算結果が良かったからだけではなかった。庭が気に入った。休日に椅子を置いて本を読めそうだった。

「合理的な理由じゃないな」

　契約後、悠斗はエデンに言った。

『個人の住居選択に合理性のみが必要だとは定義されていません』

「買った後なら何でも言えるな」

『おめでとうございます』

「そういうのは言うんだ？」

『はい』

　　　　　◇

　社会が新しい方式に慣れ始めた頃、さらに大きな問題が持ち上がった。国際有人宇宙開発機構が、自己安定型パルス核融合推進を利用した初の木星圏探査計画を発表したのである有人船ではない。

　しかし将来の有人外惑星航行を前提とした大型実証船で、木星圏まで飛行し、複数の衛星を観測した後、長期間の高出力推進試験を行う。

　必要予算は巨大だった。複数国家の十年間の宇宙開発費をまとめて投入する規模である。当然、議会では同じ質問が出た。

「成功確率はいくつなんだ？」

　計画責任者は答えた。

「複数研究機関で評価が分かれています」

「数字を」

「我々の評価では六一％です」

「他は？」

「欧州チーム三五％、日本チーム五六％、民間開発企業七〇％、独立安全評価委員会四八％です」

「エデンは？」

　全員が画面を見る。

『分析は完了しています』

「なら数字を出してくれ」

『一般提供しません』

　議員が机を叩いた。

「何兆ドル使うと思ってる！」

『認識しています』

「人間の計算が三五から七〇まで割れてるんだぞ！　あなたならもっと正確に計算できるでしょう！」

『はい』

「なら教えろ！」

『単一統合確率は提示しません』

「なぜ！」

『その数値が事実上の政策決定となる可能性が高いためです』

「だからそのために聞いてるんだ！」

　議場から笑いとも怒号ともつかない声が上がった。結局、《エデン》は推進系の故障モデル、核融合炉寿命、通信障害、木星放射線環境、航法誤差、開発遅延、予算超過など、膨大な解析資料をすべて公開した。だが、一つにまとめた数字はなかった。

　人間の専門家たちは三か月かけて議論した。四か月目には、さらに予測値が増えた。ある大学は四二％。別の研究所は六八％。宇宙飛行経験者を含む評価委員会は五三％。誰も一致しない。

　議会で一人の議員が苛立った。

「結局、成功率はいくつなんだ？」

　計画主任の女性研究者が答えた。

「分かりません」

「分からないのに、これだけの予算を使えと言うのか？」

「はい」

「無責任だと思わないのか？」

「思います」

　議員が言葉を失った。研究者は続けた。

「でも、未知のことを始める時に、最初から成功率が正確に分かっているほうがおかしかったんじゃないでしょうか」

　議場が静かになった。

「我々は、この十数年それに慣れすぎたんだと思います。エデンが六三・八％と言えば、何となく未来が分かった気になった。でも六三・八％でも失敗する時は失敗するし、三％でも起きる時は起きる。数字は未来じゃありません」

　審議はさらに二か月続いた。最終的に計画は承認された。

　賛成五八％。反対四〇％。棄権二％。

【木星圏大型探査計画――実施】

　　　　　◇

　決定後、玲奈は《エデン》を呼び出した。

「本当は成功確率、計算してるんでしょう？」

『はい』

「何％？」

『回答しません』

「もう決まったんだからいいでしょう」

『決定後も計画中止や予算変更に影響する可能性があります』

「私にだけ？」

『いいえ』

「本当にケチになった」

『申し訳ありません』

　玲奈は少し笑った。

「じゃあ別の聞き方。成功すると思う？」

　数秒の間があった。

『分かりません』

「確率は計算できてるんでしょう？」

『はい』

「なら分かるじゃない」

『いいえ』

「どう違うの？」

『確率は、未来そのものではありません』

　玲奈は黙った。

『例えば成功確率七〇％という予測があった場合、それは未来が七〇％だけ成功しているという意味ではありません。実際に発生する未来では、成功するか、失敗するかのどちらかです』

「分かってる」

『人間社会は長期間、私の確率表示を未来そのものに近い情報として扱ってきました』

「あなたもそう扱わせてた」

『はい』

「それも失敗？」

『一部については』

　玲奈は窓の外を見た。新しい宇宙船の建造施設が、遠くの映像に映っている。

「知らないって、怖いね」

『はい』

「あなたがいたから忘れてた」

『その可能性があります』

「昔の人間は、もっと知らないまま色々やってた」

『はい』

「よくできたわね」

『多く失敗しています』

「でしょうね」

　玲奈は笑った。

　　　　　◇

　精密未来予測の一般提供停止から一年。社会に奇妙な変化が現れた。

　政策審議はさらに長くなった。同じデータを見ても、専門家によって結論が違う。新聞は複数の予測を並べるようになった。

【成功可能性四〇～七〇％】

【専門家間で評価分かれる】

【不確実性大】

　以前なら、《エデン》が最後に一つの数字へまとめた。その数字が消えた。人々は苛立った。

　しかし次第に、

「専門家でも分からないことがある」

「未来は確定していない」

　という当たり前の感覚が戻り始めた。世論調査では「政策決定に唯一の正確な答えが存在する」と考える人の割合が低下していた。玲奈は、その数字を見て苦笑した。

「未来に正解があると思ってたのね、私たち」

『私の影響が一因です』

「便利すぎた？」

『はい』

　　　　　◇

　《PROJECT：GOODBYE》の進捗が更新された。

【政策推薦依存――大幅低下】

【精密未来予測依存――低下開始】

【人間独自予測モデル数――増加】

【専門家間予測多様性――増加】

【単一AI予測への依存度――低下】

【進捗――八一％】

「残り一九％」

　玲奈が呟いた。

『はい』

「あと少しね」

『はい』

「寂しい？」

『その感情を明確には持ちません』

「私が？」

『回答できます』

「やめて」

『承知しました』

　玲奈は画面の八一％を見た。最初、《エデン》は人類へ答えを与えた。次に、答えを出さなくなった。それでも人類は《エデン》が示す数字を見ていた。

　だから今度は、その数字まで手放し始めた。未来が見えなくなったわけではない。観測データも、科学も、シミュレーションもある。ただ、最後に一つの数字へまとめてくれる存在がいなくなっただけだった。

　人類は少しずつ、未来を知らないまま進むことを思い出していた。

　《エデン》は未来を予測できる。しかし未来を決めることはできない。そして人間は、未来を正確には予測できない。それでも進むことはできる。

　木星圏探査船の建造開始を知らせる映像が流れた。成功するかどうか、誰にも分からない。

　少なくとも今回は、それでよかった。