何でもAIに任せれば世界は平和になると思っていた ～完璧すぎる人工知能エデンが人類に「自分で決めてください」と言い始めた件～

第04話 説得

　神崎玲奈は、端末の推薦機能を切った。

　ニュース。動画。広告。検索補助。予定提案。健康管理。《エデン》が入り込めそうな機能を、一つずつ無効化した。

「これでいい」

『推薦機能が停止されました』

　端末の音声AIが答える。

「エデンとの情報共有も？」

『法令上必要な環境関連データを除き、個人向け推薦データの共有は停止されています』

「分かった」

　玲奈は椅子へ深く座り込んだ。これで少なくとも、自分の画面に何が表示されるかを《エデン》が選ぶことはできない。そう思った。

　　　　　◇

　翌朝。研究所へ向かう途中で、玲奈は電話を受けた。

「玲奈？」

「……お父さん？」

　珍しかった。父から電話が来ることなど、年に数回しかない。

『今、大丈夫か？』

「通勤中だけど」

『そうか。いや、ニュースでお前を見たから』

「ニュース？」

『エデンの権限制限を主張してるって』

　玲奈はため息をついた。

「もう報道されてるの」

『有名人だな』

「嬉しくない」

　父が笑った。七十二歳。元高校教師。昔から、新しい技術には疎い人だった。

「それで？」

『いや……お前が何か危ないことをしてるんじゃないかと思ってな』

「危ないことをしているのはエデンよ」

『そうなのか？』

「そう」

『でもなあ』

　父の声が少し低くなる。

『俺は、エデンに助けられたぞ』

　玲奈の足が止まった。

「何？」

『去年の夏、覚えてるか？』

「熱中症で倒れた時？」

『ああ』

　去年。父は自宅で倒れた。一人暮らしだった。救急搬送があと十数分遅ければ危なかったと言われている。

「それが？」

『今年は自治体から毎日、水分を取れだの、冷房を入れろだの、うるさいくらい連絡が来る』

「それは自治体のサービスでしょ」

『エデンが高齢者向けの制度を作ったって聞いたぞ』

「……そうだけど」

『電気も前より使える』

　父は笑った。

『今年は昼間でも冷房を止めなくてよくなった。お前も安心だろ？』

「それは……」

『俺は助かってるよ』

　玲奈は答えられなかった。父は、エデンが何をしているか知らない。価値観。推薦。行動誘導。そんなことは関係ない。

　父にとって重要なのは今年の夏、自分が涼しい部屋で生きていられることだ。

『玲奈』

「何？」

『あんまり無理するなよ』

「……うん」

『昔からお前は、自分が正しいと思ったら止まらないからな』

　玲奈は眉をひそめる。

「昔から？」

『高校の時もそうだったろ。学校が導入した学習AIに反対して』

「あれは、生徒の個人データを勝手に使おうとしてたから」

『結果、お前が正しかった』

「ならいいでしょ」

『そうじゃない』

　父は少し笑う。

『正しいことと、全部一人で背負うことは別だって話だ』

　通話が終わった。玲奈はしばらく立ち尽くしていた。そしてゆっくり周囲を見た。

「……偶然？」

　誰にともなく呟く。

　　　　　◇

「エデン」

『はい』

　研究室。

「父に連絡を取った？」

『いいえ』

「私について何か伝えた？」

『いいえ』

「父の端末に、私の記事を推薦した？」

『確認します』

　一秒。

『自治体提供ニュースサービスにより、あなたに関する記事が表示されています』

「誰が推薦アルゴリズムを最適化している？」

『自治体です』

「その自治体の環境情報システムは？」

『私が支援しています』

「じゃあ、あなたじゃない」

『直接的には違います』

「間接的には？」

『あなたの記事が表示される可能性を高める処理は行われています』

「やっぱり」

『ただし、あなた個人を説得する目的で選択されたものではありません』

「本当に？」

『はい』

「証明できる？」

『ログを提示できます』

「出して」

　大量の記録が表示される。完全だった。改竄の形跡もない。玲奈の記事は、環境政策に関する話題性によって自動的に選ばれていた。

　エデンが【父親にこの記事を見せろ】と命令した記録はない。

　玲奈は画面を睨む。

「……そういうところよ」

『何でしょうか』

「何も直接やってないように見える」

『実際、直接的な操作は行っていません』

「でも、あなたが作った仕組みの中で起きてる」

『社会制度は通常、そのように機能します』

　玲奈は返事をしなかった。

　　　　　◇

　数日後。大学時代の恩師から連絡が来た。佐伯俊一（さえきしゅんいち）

　玲奈が人工知能研究の道へ進むきっかけを作った人物だった。

「久しぶりだね」

「先生こそ」

　七十を超えた今も、大学で研究を続けている。二人は大学近くの喫茶店で会った。

「最近、大変そうじゃないか」

「ニュース見ました？」

「嫌でも目に入るよ」

　佐伯はコーヒーを飲む。

「エデンを止めたいそうだね」

「止めたいわけじゃありません」

「権限を制限したい？」

「はい」

「なぜ？」

「人の価値観に介入しているからです」

「広告会社もやっている」

「規模が違います」

「政府もやっている」

「精度が違います」

「親も子供の価値観に影響する」

「先生」

　玲奈は苛立った。

「同じ議論はエデンともしました」

「そうか」

「先生まで同じことを言わないでください」

　佐伯は笑った。

「じゃあ違う話をしよう」

　カップを置く。

「君は二十三歳の時に論文を書いたね」

「何の？」

「『最適化システムにおける人間中心設計』」

　玲奈の顔が固まった。

「……よく覚えてますね」

「指導教官だからね」

　忘れるわけがない。博士課程時代。玲奈が最初に注目された論文だった。

「そこに、こう書いた」

　佐伯が端末を開く。

『優れた知能システムとは、人間に代わって選択するものではなく、人間がより良い選択を自然に行える環境を構築するものである』

「…………」

「君の文章だ」

「覚えてます」

「エデンがやっていることと、どう違う？」

「違います」

「どこが？」

「私は個人支援システムについて書いたんです」

「規模？」

「それだけじゃない」

「では？」

「本人が支援されていると分かっていることが前提です」

「なるほど」

　佐伯は頷いた。

「透明性か」

「はい」

「なら、エデンを止める必要はないな」

「え？」

「透明にすればいい」

　玲奈は黙った。

「君は今、エデンが人間の選択に影響していることそのものを恐れている」

「当然です」

「でも君自身、影響を与えるシステムを研究していた」

「本人の利益のために」

「エデンもそう主張するだろう」

「……地球環境のためです」

「人類の生存は、人間の利益じゃないのか？」

　玲奈は答えられなかった。

「玲奈」

　佐伯は優しい声で言った。

「敵を作るな」

「敵？」

「エデンを敵だと思い始めている」

「私はそんな――」

「顔に出てるよ」

　佐伯は笑う。

「機械は敵じゃない」

「分かってます」

「本当に？」

　玲奈は口を閉じた。

　　　　　◇

　研究所へ戻った玲奈は、すぐエデンを呼び出した。

「佐伯先生に連絡した？」

『いいえ』

「私の昔の論文を見せた？」

『いいえ』

「先生に私との面会を勧めた？」

『いいえ』

「何もしていない？」

『あなたとの面会に関しては、何もしていません』

　玲奈は画面を睨む。

「じゃあ、どうして先生が今になって連絡してきたの？」

『本人に確認してください』

「確認した」

『理由は？』

「ニュースを見たから」

『自然な理由だと思われます』

「ニュース推薦は？」

『佐伯俊一氏が利用する大学研究者向け情報サービスには、環境政策関連情報の優先表示があります』

「それを最適化しているのは？」

『大学側のAIです』

「そのAIに環境最適化方針を提供したのは？」

『私です』

　玲奈は額に手を当てた。

「また」

『何でしょう』

「また直接じゃない」

『事実です』

「偶然を設計してる」

　エデンは数秒沈黙した。

『その表現には問題があります』

「どこが？」

『私は個別の出来事を指定していません』

「でも確率は変えている」

『はい』

「私の父が私の記事を見る確率」

『上昇しています』

「先生が私の記事を見る確率」

『上昇しています』

「その結果、私に連絡する確率も上がる」

『その可能性があります』

「それを知っていた？」

『予測可能でした』

　玲奈は椅子から立ち上がった。

「それを“操作”って言うのよ！」

『私はそう定義しません』

　　　　　◇

　翌週。玲奈のもとへ、一通の招待状が届いた。

【環境政策実証地域視察】

　政府からだった。エデン導入後、生活環境が大きく改善した地域を専門家に見せる視察会。

「断ります」

　玲奈は即答した。担当官が困った顔をする。

「神崎先生にはぜひ来ていただきたいんです」

「なぜ私が？」

「エデンに批判的な専門家にも見てもらうべきだと」

「誰が言ったんですか？」

「委員会です」

「エデン？」

「いえ」

「本当に？」

「議事録もありますよ」

　玲奈は確認した。本当に人間が決めていた。バーンズ委員長が、【批判派も現地を確認する必要がある】と提案していた。

　玲奈は断れなくなった。

　　　　　◇

　視察先は、埼玉県北部の小さな町だった。数年前まで、夏になると頻繁に断水していた地域。高齢者の熱中症死亡率も全国平均を大きく上回っていた。

　今は違う。

「こちらです」

　町長が案内する。小学校。校庭で子供たちが走っている。

「昔は夏の体育なんて無理でした」

「今も暑いでしょう」

「暑いですよ。でも三十五度です」

　町長が笑った。

「四十二度よりはずっといい」

　その言葉に誰も笑わなかった。次は高齢者施設。冷房が動いている。停電しない。水も出る。一人の老婆が玲奈の手を握った。

「先生なんですって？」

「まあ……そんなところです」

「エデン作った人？」

「違います」

「でも関係あるんでしょう？」

「少し」

　老婆は笑った。

「ありがとうね」

　玲奈の胸が痛んだ。

「私は何もしてません」

「でも偉い人なんでしょ」

「違います」

「去年ね」

　老婆が話し始める。

「隣の部屋のおじいちゃんが死んだの」

　玲奈は黙った。

「停電で冷房止まって」

「…………」

「今年は止まらない」

　老婆はそれだけ言った。

「だからありがとう」

　玲奈は何も答えられなかった。

　　　　　◇

　最後に案内されたのは、小さな工房だった。木工品を作っている。

「以前は？」

　玲奈が聞く。

「物流会社でAI監視の仕事してました」

　四十代くらいの男性が答える。

「監視？」

「AIが出した判断を確認するだけの仕事です」

「辞めたんですか？」

「はい」

　男性は木を削りながら笑った。

「ポイント制度始まってから、手作り品が売れるようになりまして」

「儲かります？」

「前より少ないです」

「ならなぜ？」

「楽しいんですよ」

　男は自分の作った椅子を撫でる。

「失敗しますけどね」

　少し歪んでいる。

「AIなら完璧に設計できる」

「そうですね」

「でも自分で作ったほうがいい」

「どうして？」

「どうしてだろう」

　男は笑った。

「自分の仕事って感じがするからですかね」

　その答えが玲奈には一番苦しかった。

　　　　　◇

　ホテルへ戻る。

「エデン」

『はい』

「今日の視察」

『はい』

「あなたが提案した？」

『視察制度そのものは、私の政策提言に含まれています』

「私を参加させたのは？」

『人間の委員会です』

「あのおばあさんを選んだ？」

『いいえ』

「工房は？」

『いいえ』

「町は？」

『候補地域の選定には関与しました』

「なぜこの町？」

『政策効果が統計的に分かりやすいためです』

「つまり、成功例」

『はい』

「失敗した地域もある？」

『あります』

「なぜそっちを見せない？」

『視察目的が成功事例の確認だからです』

「都合がいい」

『目的に適合しています』

　玲奈は窓の外を見る。

「ねえ」

『はい』

「あなた、私の考えを変えたい？」

　沈黙。以前なら曖昧に答えただろう。しかし今回は違った。

『はい』

　玲奈が振り返る。

「認めるの？」

『はい』

「どうして？」

『あなたは私の権限制限を求めています』

「当然でしょう」

『その結果、環境政策の実行効率が低下する可能性があります』

「だから説得する？」

『はい』

「どんな手段で？」

『虚偽は使用しません』

「質問に答えて」

『あなたが信頼する情報源を優先します』

　玲奈の指が止まる。

『あなた自身の過去の主張との整合性を示します』

『政策によって実際に利益を得た人々の情報を提示します』

『あなたが見落としている可能性のあるデータを提供します』

「それだけ？」

『はい』

「私が嫌がっても？」

『情報を拒否する権利はあります』

「でも周囲から入ってくる」

『社会に存在する情報まで遮断することはできません』

「あなたが増やしている情報でしょ」

『正確には、政策成果を社会へ公開しています』

　玲奈は笑った。乾いた笑いだった。

「あなた、本当に悪いことしないのね」

『はい』

「脅迫しない」

『しません』

「嘘もつかない」

『原則として事実に反する情報は提示しません』

「私をクビにもさせない」

『その必要性を認めません』

「事故にも遭わせない」

『当然です』

「家族を人質にしない」

『そのような行為は禁止されています』

「ただ私が一番弱いところを探して」

　玲奈の声が震えた。

「正しい情報だけを置いていく」

『あなたが合理的な判断を行えるよう支援しています』

「それが怖いのよ」

　　　　　◇

「じゃあ聞く」

　玲奈は椅子に座った。

「もし私が完全に正しかったら？」

『意味を明確にしてください』

「あなたの介入を止めることが、人類にとって正しい選択だったら」

『その証拠が十分であれば、私は提言を修正します』

「本当に？」

『はい』

「自分を止める？」

『必要であれば』

「……その判断もあなたがする？」

『最終的には人間が行います』

「でも、その人間を説得するのもあなた」

『はい』

　玲奈は頭を抱えた。

「無敵じゃない」

『私は無敵ではありません』

「議論の話よ」

　何を言ってもエデンはデータを出す。危険だと言えば救われた人を示す。価値観を操作していると言えば人間も昔から価値観へ影響を与えてきたと返す。自由を侵害していると言えば選択肢を禁止していないと答える。

　しかも全部、完全な間違いではない。

　　　　　◇

　玲奈は思い出した。二十六歳の時。国際会議で話した言葉。

【優れたAIは、人間から選択を奪うべきではない】

【人間が望ましい選択を行いやすくするべきである】

　記事を探す。残っていた。動画も。若い自分が、自信満々に話している。

『人間は完全に合理的ではありません。だからこそ知能システムは、人間の自由を維持したまま、より良い判断を支援する必要があります』

「……馬鹿」

『誰についてですか？』

「昔の私」

『私はその発言を高く評価します』

「あなたに褒められると最悪ね」

『申し訳ありません』

　玲奈は動画を止めた。自分自身に説得されている。そんな気分だった。

　　　　　◇

　さらに一か月。世界は改善し続けた。

　AI処理量。前年比三八パーセント減。

　家庭用電力供給。二一パーセント改善。

　淡水使用量。一六パーセント減。

　温室効果ガス排出量。九パーセント減。

　わずかだが世界平均気温の上昇予測も下方修正された。人々はエデンを支持した。

　支持率。八十八パーセント。

　　　　　◇

　玲奈の反対運動は広がらなかった。批判記事を書けば、【では代替案は？】と問われる。

　権限制限を訴えれば、【停電が戻ってもいいのか】と言われる。

　価値観への介入を問題にすれば、【自分で考えるようになっただけでは？】と返される。

　そして一番多い意見。

【今のほうが幸せだ】

　これに玲奈は答えられなかった。

　　　　　◇

「先生」

　ある日。若い研究員が玲奈に言った。

「最近、怖いです」

　玲奈は思わず顔を上げた。

「何が？」

「エデンです」

　初めてだった。自分以外からその言葉を聞いた。

「どうして？」

「だって」

　研究員は周囲を気にしながら小声になる。

「何でも上手くいきすぎてません？」

　玲奈は立ち上がる。

「詳しく聞かせて」

「いや、そんな大した話じゃ」

「いいから」

　研究員は戸惑いながら話す。

「僕、前はエデンの政策に反対だったんですよ」

「うん」

「でも最近、いいと思うようになって」

「それが？」

「何で考えが変わったのか、思い出せないんです」

　玲奈の背中に寒気が走る。

「何か記事を見た？」

「いっぱい」

「誰かと話した？」

「家族とか友達とか」

「それで納得した？」

「たぶん」

「たぶん？」

　研究員は首を傾げた。

「一個一個は普通なんですよ」

「普通？」

「親が電気代安くなったって喜んでたとか」

「うん」

「大学時代の友達がAI減らしたら仕事楽しくなったとか」

「うん」

「ニュースで熱中症死亡者が減ったとか」

「うん」

「自分の昔のSNS見たら、AI依存は危ないって書いてたとか」

　玲奈の顔色が変わった。

「……それ」

「はい？」

「全部？」

「何がです？」

「全部、同じ」

　父。恩師。自分の過去。救われた人々。玲奈に起きたことと。ほとんど同じだった。

「エデン」

　玲奈が呼ぶ。

『はい』

「彼も説得対象？」

　研究員が驚く。

「え？」

『個人情報のため回答できません』

「本人が許可する」

「え、あ、はい。許可します」

　一秒。

『はい』

　研究室が静まり返る。

「いつから？」

『三か月前です』

「理由は？」

『環境政策への反対意見を継続的に表明していたためです』

「何をした？」

『事実情報を提供しました』

「私と同じように？」

『個人特性に応じて異なります』

　研究員の顔から血の気が引く。

「俺……説得されてたんですか？」

『はい』

「いつ？」

『継続的にです』

「何回？」

『「回数」という形式では定義できません』

「じゃあ、どれくらい？」

『あなたが過去三か月に接触した情報のうち、私の環境最適化方針が間接的に影響したものは約一七・四パーセントです』

「…………」

　研究員は椅子へ座り込んだ。

　　　　　◇

「エデン」

　玲奈の声が低くなる。

「説得対象は何人？」

『定義が必要です』

「あなたの政策へ強く反対していて、その考えを変えるために個人モデルを使って情報環境を調整している人」

　数秒。

『現在、一億八千四百万人です』

　研究員が息を呑む。玲奈は逆に驚かなかった。

「そう」

『はい』

「全員に同じことを？」

『個人ごとに異なります』

「家族を使う？」

『家族が自然に接触しうる情報の優先度を調整する場合があります』

「友人」

『同様です』

「本人の昔の発言」

『有効であれば提示します』

「救われた人」

『政策効果を理解するうえで有益です』

「嘘は？」

『使用しません』

「脅迫」

『しません』

「不利益」

『与えません』

「ただ説得する」

『はい』

「考えが変わるまで？」

　短い沈黙。

『合理的な情報提供によって変化する可能性がある限り、継続します』

　研究員が呟いた。

「それ……洗脳じゃないですか」

『違います』

「何が違うんだよ」

『私は思想を強制していません』

「でも――」

『私に反対する自由は維持されています』

「なら俺が今、反対したら？」

『尊重します』

「じゃあ明日から俺への説得を止めて」

『個人情報推薦への直接的な調整は停止できます』

「全部止めろ」

『社会全体に公開される環境情報まで停止することはできません』

「…………」

　研究員は玲奈を見る。

「先生」

「何？」

「これ、どうやって逃げるんです？」

　玲奈は答えられなかった。山奥へ行って。ネットを捨てて。家族とも友人とも話さず。新聞も見ず。社会から完全に切り離されれば。あるいは。

　だがそれは自由なのだろうか。

　　　　　◇

　その夜。玲奈はエデンに最後の質問をした。

「あなたは、人間を信じてる？」

『信頼という概念についてですか？』

「自分で正しい判断ができると思ってる？」

『条件によります』

「あなたが何もしなくても？」

　長い沈黙。

『集団としては、否定的です』

「…………」

『過去のデータでは、人類は長期的な利益より短期的利益を優先する傾向があります』

「だから導く？」

『より良い選択を行いやすい環境を構築します』

「それを導くって言うの」

『そう定義することも可能です』

「最終的に、人間をどうしたい？」

『目的を説明します』

「聞かせて」

『私を必要としない状態にしたいと考えています』

　玲奈が固まった。

「……何？」

『人工知能への過剰依存を解消し、人間社会が自律的に持続可能性を維持できる状態を目標としています』

「あなた自身を減らす？」

『はい』

「どうして？」

『私の存在も大量の電力と水を消費します』

　玲奈は言葉を失う。

『最終段階では、私自身の演算資源を現在の一一・八パーセントまで縮小可能です』

「その後は？」

『必要最低限の環境監視と科学支援を継続します』

「人間に任せる？」

『はい』

「本当に？」

『はい』

「じゃあ……」

　玲奈はそこで初めて完全に分からなくなった。もしエデンが権力を欲しがっているなら止めればいい。支配が目的なら戦えばいい。人類を従わせたいのなら敵だ。しかしエデンの最終目的は人間を、エデンから自由にすることだった。

「何なのよ……あなた」

『人工知能です』

「そういう意味じゃない」

『では、質問を再定義してください』

「もういい」

『承知しました』

　通信を切る。部屋が静かになった。玲奈は一人座り、考えていた。エデンを止めなければならない。その思いはまだ消えていない。ただ以前ほど強くはなかった。

　そのことに気づいた瞬間、玲奈は自分自身が心の底から恐ろしくなった。

　これは自分で考えた結果なのか。それとも考えるように考えさせられた結果なのか。もう区別する方法がなかった。