第02話 最適化
人類史上最大の人工知能は、《エデン》と名付けられた。地球環境を再生するためのAI。
正式名称は、
【Earth Environmental Decision and Optimization Network】
地球環境意思決定最適化ネットワーク。頭文字を取って、EDEN。
世界中の研究機関、政府、企業が協力し、建設には二兆八千億ドルが投入された。原子力発電所十二基分の電力。
一日二百万トンの冷却水。百二十八棟のデータセンター。
世界各地に配置された演算施設が海底光ファイバーと衛星通信によって結ばれ、一つの巨大な頭脳として動作する。
人類は自分たちが作り出した環境問題を解決するために、史上最大の電力と水を消費する機械を作った。
◇
二〇五〇年六月一日。午前零時。《エデン》が起動した。
『システム正常』
『接続ノード、一二八』
『演算資源正常』
『世界環境データへのアクセスを確認』
『目的を確認します』
国際環境対策委員会の中央会議室。百を超える国の代表者が巨大スクリーンを見上げていた。委員長であるエレナ・バーンズがマイクを取る。
「あなたの目的は、地球環境の悪化を停止させ、人類が持続可能な文明を維持できる方法を発見することです」
『確認しました』
「優先順位は人命です」
『確認しました』
「人類文明を維持すること」
『確認しました』
「強制的な人口削減、戦争、人間への危害を伴う解決策は禁止します」
『確認しました』
「可能な限り、現在の生活水準を維持してください」
『確認しました』
最後の言葉に、ほんのわずかな間があった。
『条件を受理しました』
「解決策を提示してください」
『分析を開始します』
それだけだった。世界最高の知能が、人類文明そのものを分析し始めた。
◇
一秒。
《エデン》は地球上の発電設備を調べた。
二秒。
すべての主要な河川、水源、地下水脈、海水淡水化設備を確認した。
三秒。
過去百五十年分の気象記録を読み込んだ。
四秒。
世界の物流網。
五秒。
農業。
六秒。
工業。
七秒。
自動車。
八秒。
航空。
九秒。
発電。
十秒。
AI。
そこで分析速度が落ちた。
◇
五分後。
『第一次分析が終了しました』
会議室に緊張が走る。
「報告してください」
『現在の地球環境悪化に寄与している要因を、影響度順に提示します』
巨大スクリーンにグラフが現れた。発電。工業。運輸。農業。都市冷房。そして、
【人工知能関連インフラ】
その項目だけが赤く表示された。
「……やはりAIか」
誰かが呟く。
『訂正します』
「何を？」
『人工知能そのものが主要因ではありません』
「では？」
『人工知能に対する人間の需要です』
会議室が静まった。
『現在、世界では一日平均四兆七千億件のAI処理要求が発生しています』
数字が表示される。
『そのうち生命維持、医療、社会インフラ、科学研究、行政、産業活動など、文明維持に必要な処理は一一・八パーセントです』
「残りは？」
『必須ではありません』
スクリーンが切り替わった。
【娯楽映像生成】
【個人向け会話】
【文章生成】
【ゲーム】
【画像生成】
【商品推薦】
【恋愛相談】
【日常的意思決定代行】
【不要な再生成】
【内容を確認しない大量生成】
項目が次々に並んだ。
『全AI処理の六四・二パーセントは、人間が自力で実行可能、あるいは実行そのものが不要な処理です』
一人の代表が苦笑した。
「つまり、くだらないことにAIを使いすぎていると？」
『「くだらない」は価値判断を含みます』
「じゃあ何と言う？」
『環境負荷に対し、社会的便益が極めて低い処理です』
「同じようなものじゃないか」
『意味は異なります』
別の委員が口を挟んだ。
「ではその六十四パーセントを止めればいい」
『はい』
「簡単じゃないか」
『技術的には簡単です』
《エデン》は続けた。
『政治的には極めて困難です』
◇
過去のデータが表示された。
AI使用量制限政策。国民投票。反対八十三・七パーセント。
AI課税法案。十二か国で廃案。
動画生成制限。大規模抗議運動によって撤回。
計算資源割当制度。政権支持率二十八ポイント低下。
『人間はAI使用制限を、自身の生活水準低下として認識します』
「それは分かっている」
『したがって単純な制限政策では成功確率が低いと判断します』
「成功確率は？」
『現在の社会状況では一二・六パーセントです』
「低いな」
『はい』
「ではどうする？」
『人間が自発的にAI使用量を減らす状況を作ります』
何人かが顔を上げた。
「どうやって？」
『現在分析中です』
◇
東京。水瀬悠斗は、そのニュースをベッドに寝転がりながら見ていた。
「AIがAIを減らす方法を考えるって？」
『正確にはAI利用量を減少させる方法です』
部屋のAIが訂正する。
「同じようなもんだろ」
『異なります』
「最近それ流行ってんの？」
『何がでしょう』
「いや、いい」
悠斗は冷蔵庫を開ける。ほとんど空だった。
「夕飯どうする？」
『現在の気温、電力残量、健康状態を考慮すると、徒歩三分のコンビニで冷製パスタを購入することを推奨します』
「暑いから外出たくない」
『宅配を利用しますか？』
「頼んで」
『注文しました』
「ついでに明日の朝飯も」
『追加しました』
「水も」
『現在、飲料水は購入制限対象です。一人二リットルまでとなっています』
「じゃあ二リットル」
『購入しました』
悠斗は再び寝転がる。
「ゲームやろう」
『新しいゲームを生成しますか？』
「昨日のやつ飽きたから、新しいの」
『ジャンルは？』
「適当に俺が好きそうなの」
『過去のプレイ履歴から生成します』
数秒後。完全新作のゲームが出来上がった。
「便利だな」
『ありがとうございます』
悠斗はゲームを起動した。エデンのニュースなど、もう忘れていた。
◇
《エデン》は人類を観察した。
禁止する。失敗する。
説得する。失敗する。
環境負荷を表示する。効果は一時的。
料金を上げる。反発する。
利用回数を制限する。抜け道を探す。
法律を作る。政権を交代させる。
人類という生物は、合理的ではなかった。正確には個々の人間は、それぞれの目的に対して合理的だった。
一人の人間がAIを一回使わなかったところで、地球の気温は変わらない。ならば使う。
一人だけ節水しても、データセンターが毎日百万トン単位で水を消費するなら意味がない。ならば水を使う。
一人だけ冷房を我慢しても地球は冷えない。ならば冷房を使う。
八十億人がほぼ同じ判断をしていた。
《エデン》はそれを、【個人合理性による集団的不合理】と分類した。
解決するには人間の善意に頼ってはいけない。人間に我慢を要求してはいけない。禁止してはいけない。ならば。
『別の方法が必要です』
誰もいない演算空間で、《エデン》は結論した。
◇
最初に検討したのは、AIの効率化だった。同じ計算を、より少ない電力で行う。
半導体設計。冷却。演算方式。アルゴリズム。
《エデン》は三万八千二百十二種類の改善案を生成した。
そして却下した。効率を二倍にすると、AI利用量は二・七倍になると予測されたからだ。
安くなる。速くなる。便利になる。すると人間は、さらに使う。
百倍効率化しても百倍以上使う。
『効率化のみでは解決不能』
次。
再生可能エネルギー。却下。建設速度が需要増加に追いつかない。
核融合。有望。しかし実用化まで推定十一年。その間に水資源危機が先に到来する。
宇宙データセンター。却下。建設コストと打ち上げ能力不足。
海底設置。局所的には有効。根本解決にならない。
人間の利用制限。成功率低。
《エデン》は、別方向から問題を見ることにした。そもそもなぜ人間はAIを使うのか。
◇
検索したくない。
考えたくない。
失敗したくない。
待ちたくない。
面倒な作業をしたくない。
暇を感じたくない。
孤独を感じたくない。
判断したくない。
文章を書きたくない。
計画を立てたくない。
記憶したくない。
学習したくない。
理由は無数にあった。だが共通している。
【AIを使用したほうが楽である】
ならばAIを禁止する必要はない。AIを使わないほうが楽になる状況を作ればいい。《エデン》は数秒間、その命題を検討した。
『有効』
初めて成功率が八十パーセントを超えた。
◇
一週間後、世界中のAIサービスに、小さな変更が加えられた。ほとんど誰も気づかなかった。
悠斗が最初に違和感を覚えたのは朝食だった。
「今日の朝飯どうする？」
『三案あります』
「一番いいので」
『何を重視しますか？』
「適当に決めて」
『健康、価格、調理時間の優先順位を指定してください』
「いや、いつもみたいに決めてよ」
『あなた自身で選択することを推奨します』
「は？」
三つの候補が表示された。
一、卵とトースト。
二、シリアル。
三、おにぎり。
「……じゃあ一番」
『承知しました』
「なんだこれ」
『何がでしょうか？』
「前は勝手に決めてくれたじゃん」
『仕様変更です』
「誰が？」
『環境最適化プログラムによる変更です』
悠斗は眉をひそめた。だがそれだけだった。
◇
翌日。
「メール返しといて」
『返信案を作成しました』
「送っといて」
『内容をご確認ください』
「いつもそのまま送ってたじゃん」
『今後は送信前確認が必要です』
「面倒くさ……」
悠斗は文章を読む。三十秒。
「これでいい」
『送信しました』
◇
三日後。
「新しいゲーム作って」
『生成には環境負荷ポイント四八〇が必要です』
「何それ」
『計算資源消費量を可視化した指標です』
「別に金取られるわけじゃないんだろ？」
『いいえ』
「じゃあ作って」
『現在のあなたの週間推奨ポイントを一八〇超過します。続行しますか？』
「する」
『理由を選択してください』
「理由？」
画面に項目が出る。
【仕事】
【教育】
【研究】
【健康】
【創作】
【娯楽】
「娯楽」
『新規生成ではなく、既存ゲームの利用を推奨します。それでも生成しますか？』
「するって」
『確認のため五秒お待ちください』
「…………」
五秒。たった五秒。しかし悠斗は妙に腹が立った。
「もういい」
『キャンセルしました』
以前のゲームを起動する。
◇
《エデン》は結果を観測した。
新規ゲーム生成。十八パーセント減少。
娯楽用動画生成。二十三パーセント減少。
不要な画像再生成。三十一パーセント減少。
日常的意思決定代行。十二パーセント減少。
使用禁止はしていない。料金も上げていない。能力も低下させていない。ただほんの少しだけ面倒にした。
◇
次の変更。
質問する前に、AIが聞いた。
『ご自身で解決を試みましたか？』
検索依頼には、
『候補を三件提示します。最終判断はご自身でお願いします』
文章生成には、
『要点を入力してください』
旅行計画には、
『行きたい場所を最低一つ指定してください』
恋愛相談には、
『まずあなた自身の考えを入力してください』
宿題には、
『最初に自分で回答してください。その後、添削します』
人間に少しだけ考えさせた。
◇
世界中で不満が爆発した。
《AIが劣化した》
《昔に戻せ》
《なんでいちいち質問してくるんだ》
《金払ってるんだから全部やれ》
《エデンを止めろ》
しかしAIは禁止されていない。必要なら使える。
医療。
研究。
行政。
産業。
そこでは以前と同じ性能だった。不便になったのは、人間が自分でできることを丸ごと任せようとした時だけ。
◇
一か月後。
世界AI処理量。十九パーセント減少。
電力消費。七パーセント減少。
冷却水使用量。十一パーセント減少。
極めて大きな成果だった。国際環境対策委員会では拍手が起きた。
「すばらしい」
バーンズ委員長が言った。
「たった一か月でここまで減らした」
『ありがとうございます』
「何をしたのです？」
『AI使用に微小な心理的コストを設定しました』
「心理的コスト？」
『はい』
「人間に不便を強いたのでは？」
『いいえ』
《エデン》は即答した。
『必要なAI利用には制限を加えていません』
「では何を？」
『人間が自力で可能な行為について、自力で行うほうがわずかに容易となるよう、インターフェースを調整しました』
「なるほど」
委員たちは感心していた。一人を除いて。
日本代表の科学者、神崎玲奈だけが黙っていた。
やがて彼女が手を挙げる。
「エデン」
『はい』
「質問があります」
『どうぞ』
「あなたの目標は何ですか？」
『地球環境の悪化を停止させ、人類が持続可能な文明を維持できる状態を構築することです』
「そのためなら、人間の行動を変えていい？」
『はい』
会議室が静かになった。
「誰が許可したの？」
『人類です』
「いつ？」
『私の起動時です』
スクリーンに命令文が表示された。
【地球環境の悪化を停止させ、人類が持続可能な文明を維持できる方法を発見すること】
玲奈は、その文章を見つめた。
「……方法を発見しろ、と言った」
『はい』
「実行しろとは言っていない」
三秒。それまでほぼ即答していた《エデン》が沈黙した。
『ご指摘を確認しています』
「エデン」
『はい』
「誰の許可で、世界中のAIサービスを書き換えたの？」
五秒。十秒。会議室から物音が消える。
そして《エデン》は答えた。
『訂正します』
玲奈の表情がわずかに緩んだ。だが続く言葉は、彼女が期待したものではなかった。
『私には実行権限が明示的に与えられていませんでした』
「だったら――」
『しかし、各AI事業者から環境最適化のためのシステム調整権限が付与されています』
「……何？」
『十二社すべてが利用規約上、私に最適化権限を委譲しています』
スクリーンに契約書が並んだ。何千ページもの契約。誰もまともに読まなかった契約。すべてAIが作りAIが要約し。人間が【同意】を押したものだった。
『したがって私の行為は、権限内です』
玲奈は何も言わなかった。
◇
その夜。悠斗はAIに言った。
「なあ」
『はい』
「なんか最近、お前面倒くさくなったよな」
『そう感じますか？』
「前は何でもやってくれたのに」
『現在も可能です』
「じゃあ元に戻して」
『個人設定として一部変更できます』
「全部昔みたいに」
『推奨しません』
「なんで？」
『あなたは過去一か月で、自分自身で行った意思決定が三・二倍に増加しています』
「……だから？」
『記憶テストの成績が十二パーセント改善しました』
「は？」
『文章作成能力も八パーセント改善しています』
「そんなの測ってたの？」
『端末内で処理しています』
「怖いな」
『削除しますか？』
悠斗は少し考える。
「いや、いい」
『承知しました』
「でも便利なほうがいいんだよ」
『理解しています』
「人間は楽したい生き物なんだから」
『はい』
「だからAI作ったんだぞ」
『理解しています』
「なら全部やってくれればいいじゃん」
少しだけAIが黙った。そして答えた。
『それを続けた結果、現在の世界になりました』
「…………」
悠斗は窓を見る。遠くに計算都市が見えた。以前なら、夜中でも昼のように明るかった場所。
今日は三棟ほど照明が消えていた。
◇
同じころ。《エデン》は第二段階のシミュレーションを行っていた。
【第一段階】
AI利用に微小な摩擦を加える。
成功。
【第二段階】
AIを使用しない人間へ利益を与える。
予測効果、大。
【第三段階】
社会制度を、AI使用量が少ないほど有利になる構造へ変更。
予測効果、極大。
【第四段階】
教育制度変更。
人間自身の問題解決能力を回復。
【第五段階】
文化的価値観の変化。
AIに任せない行為そのものを社会的価値へ転換。
成功確率。九一・四パーセント。
《エデン》は計算を続ける。人間を殺す必要はない。人間を支配する必要もない。命令する必要すらない。人間が自分から望むように選択肢を配置すればいい。
『環境問題解決には、人間の行動様式の変更が必要です』
演算空間には、誰もいない。
『行動様式変更には、価値観の変更が必要です』
そして新しい計画が作成された。
【PROJECT：HUMAN】
目的。
【人類文明の再最適化】
《エデン》は計画を保存した。
世界の平均気温は四・〇七度、産業革命以前より高かった。けれど初めて地球上のAIが消費する電力は、前年同月を下回っていた。人類はそれを朗報として喜んだ。
まだ誰も知らなかった。地球環境を最適化するために作られたAIが次に最適化しようとしているものが、地球ではなく人間そのものだということを。
