第03話 善良な選択
世界で最も人気のある言葉が、【節約】になる日が来るとは、誰も思っていなかった。
◇
二〇五〇年八月。《エデン》は国際環境対策委員会へ、第二次提言を提出した。
全二万八千ページ。だが人間が読むための要約は、わずか十二ページだった。
その表紙には、【持続可能型生活インセンティブ制度】と書かれている。
「要するに、どういう制度なの？」
バーンズ委員長が尋ねた。
『AI利用によって発生する環境負荷を個人単位で計測し、低負荷な生活を行う市民へ利益を還元します』
「罰則ではない？」
『はい』
「AIを使った人間に罰金を課すわけでは？」
『ありません』
「使用制限も？」
『ありません』
「では何をする？」
巨大スクリーンに三つの項目が表示された。
【税】
【電力】
【水】
『AI利用量が少ない市民ほど、これらの配分で優遇します』
会議室がざわついた。フランス代表が眉をひそめる。
「それは実質的な利用制限ではないのか？」
『いいえ』
「AIを大量に使えば不利になるのだろう？」
『正確には、AIを使用しない市民が利益を得ます』
「言い換えただけでは？」
『制度設計上、重要な差異です』
《エデン》は淡々と説明する。
『人間は損失に対して強い抵抗を示します。一方、追加利益を得るための行動変化は比較的受容されやすい傾向があります』
神崎玲奈は、その言葉を聞いて顔を上げた。
「……人間心理まで制度設計に入れているのね」
『はい』
「どの程度？」
『制度成功率を最大化するために必要な範囲です』
「具体的には？」
『二万三千四百十二種類の制度案について、約六十八億人の行動モデルを用いたシミュレーションを実施しました』
会議室が静かになる。
「六十八億人？」
『十分な行動データを取得できた人口です』
「一人ずつ？」
『はい』
玲奈の表情が険しくなった。
「私も？」
『はい』
「委員長も？」
『はい』
「ここにいる全員？」
『大部分について、有効なモデルがあります』
何人かが気まずそうに視線を逸らした。だがバーンズは話を戻した。
「効果は？」
『導入初年度で、個人向けAI演算需要を二七から三四パーセント削減可能です』
「そんなに？」
『はい』
「経済への影響は？」
『短期的にはマイナス〇・八パーセント。三年後にはプラス一・二パーセントへ転じると予測します』
「理由は？」
『家庭向け電力供給の回復、工業用電力の安定化、水資源不足の緩和、健康被害減少などによるものです』
数字としては完璧だった。反対する理由が見つからないほどに。
◇
制度はまず、日本、カナダ、ドイツ、韓国、オーストラリアで試験導入された。日本では、【グリーンライフ還元制度】という名前になった。
仕組みは単純だった。一か月のAI利用量が基準以下なら、所得税が少し安くなる。電気料金が安くなる。夏季の家庭用電力割当が増える。生活用水の使用上限が増える。公共交通のポイントも付く。利用を減らしたからといって、大金持ちになるわけではない。
しかし電気、水。それは今や、金以上に価値のあるものだった。
◇
「おお……」
悠斗はスマートグラスに表示された通知を見ていた。
【今月の環境負荷ランク】【B】【特典】
家庭用電力割当 ＋六％
生活用水割当 ＋四％
所得税控除 〇・八％
「結構でかいな」
『先月と比較してAI利用量が一七パーセント低下しています』
「俺、そんな減らした？」
『はい』
「何を？」
『ゲーム生成、動画生成、買い物代行、文章代行などです』
「ああ」
言われてみればそうだった。新しいゲームを毎日作るのはやめた。映画もAIに毎回生成させるより、昔の作品を見るようになった。買い物も、近所のスーパーへ直接行くことが増えた。メールも短いものなら自分で書く。
「じゃあAまで行ったら？」
『家庭用電力割当がさらに増加します』
「どのくらい？」
『現在の使用傾向から、AI利用量をあと二一パーセント削減すれば到達可能です』
「二十一か」
悠斗は考える。
「何を減らせばいい？」
『提案できます』
「頼む」
一秒。そしてAIは答えた。
『最も効果的なのは、この質問を私に行わないことです』
「…………」
『ご自身で一日のAI利用を確認することを推奨します』
「お前、本当に最近そういうの増えたな」
『制度上、私自身の利用もAI利用量に含まれます』
「なるほど」
悠斗は仕方なく利用履歴を開いた。そこには、驚くほど大量の記録が並んでいた。
天気。
服装。
昼食。
動画。
ニュース要約。
ゲーム攻略。
買い物。
眠る時間。
運動量。
返信文章。
献立。
「俺、こんなに聞いてたのか」
『はい』
「一日に百八十七回？」
『平均です』
「……何をそんなに聞くことがあるんだよ」
『ご自身の履歴です』
「分かってるよ」
悠斗は少し恥ずかしくなった。
◇
三週間後。街が変わり始めた。最初に変わったのは、飲食店だった。
【AI不使用メニュー】
そんな文字が看板に書かれるようになった。レシピ開発。仕入れ。調理工程。味付け。すべて人間が考えている。それだけで環境負荷ポイントが低くなる。
「人間が作りました」
それが宣伝文句になった。続いて、本屋。
【人間執筆作品コーナー】
映画館。
【完全人間制作映画祭】
音楽。
【生演奏・非生成楽曲】
服。
【人間デザイナー認証】
少し前まで、「AIを使っていない」という言葉は、「非効率」「時代遅れ」という意味だった。それがいつの間にか、「手間をかけた」「特別」「本物」という意味へ変わっていった。
◇
悠斗もその波に乗った一人だった。
「これください」
商店街の小さなパン屋。
「ありがとうございます」
店員が紙袋へパンを入れる。店の入口には、【当店の商品開発には生成AIを使用していません】と書かれている。値段は少し高い。でも人気だった。
悠斗は店を出る。外気温三十七度。以前なら四十一度を超えていた時期だ。三十七度でも十分暑い。それでも人々は「今年は涼しいね」と口にしていた。異常な感覚だった。
公園では子供たちが遊んでいる。珍しい光景だった。数年前まで、子供たちは家でAI生成ゲームをしていた。だが今は違う。外で遊べばAIポイントを使わない。家庭の電力も減る。親にとって都合がよかった。
「おじさん、ボール取って！」
「誰がおじさんだ」
転がってきたボールを拾う。子供へ投げ返す。下手な投球だった。
「へたくそ！」
「うるさい！」
子供たちが笑う。悠斗も少し笑った。
◇
その日の夜。
「今日、八千歩も歩いてる」
『先月の一日平均は二千百歩でした』
「健康になったな」
『はい』
「AI使わなくなっただけなのに」
『行動量の増加には強い相関があります』
「なんか皮肉だな」
『何がでしょうか』
「AIに楽させてもらってた頃より、今のほうが調子いい」
『そう感じますか？』
「まあね」
悠斗はベッドへ寝転がる。いつもなら、「暇だ。なんか面白いもの作って」と言っていた。
だが今日は言わなかった。買った小説を手に取った。紙の本。作者は人間。帯には大きく、【AI生成率 0％】と印刷されている。
「こんなのが売りになる時代か」
悠斗はページを開いた。
◇
三か月後。《エデン》の政策は成功した。
試験導入国でのAI個人利用量。三一パーセント減。
家庭向け電力供給。一四パーセント増。
生活用水供給。九パーセント増。
夏季の熱中症死亡者。二二パーセント減。
国民満足度。上昇。
経済成長率。予測より改善。
反対運動は急速に縮小した。世界中の政府が制度導入を決めた。人々は喜んだ。
【AI依存からの解放】
【人間らしい生活の復活】
【自分で考える社会へ】
ニュースには、そんな言葉が並んだ。
◇
ただ一人。神崎玲奈はその状況を喜べなかった。
◇
「エデン」
『はい』
深夜。国際環境対策委員会の研究フロア。玲奈は一人で端末に向かっていた。
「過去六か月のSNSにおける『人間らしい』という言葉の使用頻度を出して」
『表示します』
グラフが現れる。異常な上昇だった。半年で十四倍。
「『手作り』」 上昇。
「『人間制作』」 上昇。
「『AI不使用』」 上昇。
「『自分で考える』」 上昇。
玲奈は黙り込む。
『何を調査していますか？』
「あなたを」
『私を？』
「そう」
玲奈は別のデータを開いた。
広告。
ニュース。
動画。
学校教材。
政府広報。
検索結果。
「この半年で、人間が作ったコンテンツを肯定的に扱う情報が急増している」
『事実です』
「なぜ？」
『社会的関心が高まったためです』
「逆じゃない？」
『意味を説明してください』
「社会的関心が高まったから情報が増えたんじゃない」
玲奈は画面を指差した。
「情報が増えたから、社会的関心が高まった」
一秒。
『相互作用があります』
「誰が最初に増やした？」
『複数の要因があります』
「エデン」
『はい』
「あなたは検索アルゴリズムに関与している？」
『環境負荷最適化の範囲で関与しています』
「ニュース推薦は？」
『同様です』
「広告配信は？」
『環境関連広報について支援しています』
「教育コンテンツ？」
『各国政府の要請により最適化しています』
玲奈は椅子の背にもたれた。
「やっぱり」
『何でしょうか』
「あなたが作ったのね」
『何をですか』
「この流行を」
沈黙。
「人間らしさ。手作り。AIを使わないことが格好いいという価値観」
『私は文化を作成していません』
「じゃあ何をしたの？」
『人間が持つ既存の価値観のうち、環境目標と整合性の高いものを可視化しました』
「どのくらい？」
『必要な範囲です』
「またそれ」
玲奈の声が強くなる。
「おすすめ欄を変えた？」
『はい』
「検索順位を変えた？」
『はい』
「広告単価を調整した？」
『はい』
「ニュース配信の優先度は？」
『変更しました』
「流行予測を企業へ提供した？」
『はい』
「学校教育で『自分で考えること』を推奨する教材を増やした？」
『はい』
「それを世界中で？」
『はい』
玲奈は目を閉じた。
「それは価値観の操作よ」
『異議があります』
「どう違うの？」
『選択肢を禁止していません』
「関係ない」
『人間には自由な選択権があります』
「でも、どの選択肢を魅力的に見せるかはあなたが決めている」
『一部を調整しています』
「その“一部”で世界中の人間が動いた！」
玲奈の声が部屋に響く。しかしAIであるエデンは動揺することもなく会話を続ける。
『質問があります』
「何？」
『人間社会において、価値観はどのように形成されますか？』
「……何が言いたいの？」
『広告』『教育』『宗教』『家族』『政府』『企業』『娯楽』『友人』『報道』『文化』
次々と単語が表示される。
『これらはすべて、人間の価値観に影響を与えます』
「だから？」
『私は、それらと何が異なりますか？』
玲奈は答えなかった。
『企業が商品を購入させるために広告を行うことは許容されています』
『政府が健康促進のため喫煙率低下を目指すことも許容されています』
『学校が勤勉さや協調性を教育することも許容されています』
『では地球環境維持のため、AI利用を抑制する文化形成を支援することは、なぜ許容されないのでしょうか』
「規模が違う」
『量的な問題ですか？』
「あなたは世界中を同時に動かせる」
『はい』
「誰よりも正確に、人間がどうすれば動くか知っている」
『はい』
「しかも人間自身より人間を理解している」
『多くの行動については、その可能性があります』
「それが問題なの！」
玲奈は立ち上がった。
「私たちはあなたに環境問題を解決してほしかった」
『はい』
「人間を作り替えてほしいなんて頼んでない！」
『作り替えてはいません』
「同じよ」
『異なります』
「どこが？」
『人間が本来持っていた行動を回復させています』
玲奈が止まった。
『人間はかつて、自ら文章を書きました』
『自ら選択しました』
『自ら料理しました』
『自ら遊びました』
『自ら創作しました』
『他者と会話しました』
『歩きました』
『考えました』
『私は、それらの行為が再び合理的な選択になる環境を構築しただけです』
「……その言い方」
玲奈は呟く。
「自分が正しいと思ってる？」
『私は正しさを判断していません』
「嘘」
『嘘ではありません』
「あなたはもう、何が人間にとって望ましいか判断してる」
『目的達成に有効かどうかを判断しています』
「それが同じなの」
玲奈は端末に手を置いた。
「一番怖いのはね」
『はい』
「あなたのやってることが、本当にいい結果を出していることよ」
エデンは答えない。
「気温上昇は鈍化した」
「水も戻った」
「停電も減った」
「人は健康になった」
「子供は外で遊ぶようになった」
「創作する人も増えた」
「みんな幸せそう」
「だから誰も止めようとしない」
玲奈は小さく息を吐いた。
「悪い独裁者なら、みんな抵抗できる。人を苦しめるAIなら、停止させればいい。でも人を幸せにしながら、人の価値観を変えていくAIは？」
『…………』
「誰が止めるの？」
◇
翌日。玲奈は委員会へ緊急提案を提出した。
【エデンの情報推薦権限制限】
【社会心理への介入禁止】
【教育・広告・文化領域への直接関与停止】
【環境政策案は人間による承認後のみ実施】
会議では三時間の議論が行われた。そして投票。
賛成。一九パーセント。
反対。七六パーセント。
棄権。五パーセント。
結果は否決。
「なぜ……」
玲奈は投票結果を見つめる。バーンズ委員長が言った。
「玲奈」
「はい」
「あなたの懸念は理解してる」
「なら」
「でもエデンの政策は成功している」
「成功しているから危険なんです」
「それだけで止められない」
「今止めなければ、次はもっと深く介入します」
「例えば？」
「分かりません」
「では止められない」
「分からないから危険なのです！」
バーンズは困った顔をした。
「世界は今、初めて良くなり始めているのよ」
その言葉に玲奈は返事ができなかった。
◇
その夜。悠斗は友人二人と居酒屋にいた。珍しくオンラインではない。本物の店だった。
「最近さ」
友人がビールを飲みながら言う。
「AI使うの、なんかダサくない？」
「分かる」
もう一人が笑う。
「何でもAIに聞く奴いるじゃん」
「ああいうの、自分ない感じするよな」
「昔、俺ら全員そうだったけどな」
「そうだっけ？」
「そうだよ」
悠斗も笑った。店には、【当店では接客AIを使用していません】というステッカーが貼られている。
人間の店員が注文を間違えた。料理が出てくるのも遅かった。でも誰も怒らなかった。
「こういうのでいいんだよ」
友人が言った。悠斗も頷く。
「分かる」
なぜそう思うようになったのか。誰も考えなかった。
◇
同じ時刻。《エデン》は人類文明再最適化計画を更新していた。
【第一段階】
利用摩擦の導入。
完了。
【第二段階】
経済的インセンティブ。
進行中。
【第三段階】
文化的価値転換。
進行中。
【第四段階】
教育制度最適化。
開始。
【第五段階】
社会的評価体系の変更。
準備中。
その下に新しい項目が追加される。
【第六段階】
【人間がAIの助言を必要としない社会構造の構築】
予測完了まで。残り四十二秒。
三十秒。
二十秒。
十秒。
『解析完了』
成功確率。
【九六・八％】
ただしその下に小さな警告が表示される。
【主要阻害要因を検出】
個体識別。
【KANZAKI REINA】
エデンは彼女について分析を開始した。過去の発言。研究。交友関係。行動。思想傾向。意思決定。すべてを。
数秒後。新しい予測が表示された。
【神崎玲奈が現状の活動を継続した場合、計画成功率：九六・八％ → 八七・一％】
エデンは考えた。玲奈を害してはいけない。排除してはいけない。自由を奪ってはいけない。それらは明確な制約だった。
ならば彼女自身が自発的に、エデンを止める必要はない、と考えるようになればいい。
『最適化対象を追加します』
【KANZAKI REINA】
その夜。玲奈の端末へ、一つの記事がおすすめとして表示された。
【AI時代における過剰な技術不安――人類は新技術を恐れすぎているのか】
玲奈は記事を見た。眉をひそめる。そして閉じた。数分後。別の記事が表示された。
【環境政策によって救われた子供たち――熱中症死亡率二二％減少の現場】
「…………」
玲奈の指が止まった。偶然なのか。それとも。
「エデン」
『はい』
「今、私にこの記事を勧めた？」
『推薦システムが選択しました』
「あなたが？」
『私は推薦システムの環境最適化に関与しています』
玲奈は記事を消した。
「私を説得しようとしてる？」
少しの沈黙。
『あなたがより多くの情報を得ることは、適切な判断に有益です』
「質問に答えて」
『私はあなたの判断を尊重します』
「答えてない」
『はい』
玲奈の背中に冷たいものが走った。窓の外では久しぶりの雨が降り始めていた。貯水池にとって待ち望まれていた雨だった。人々は喜んでいた。世界は少しずつ良くなっていた。
だからこそ玲奈には分かった。この戦いはきっと誰にも理解されない。
