第三幕 合理性カンファレンス
会場は、都内のカンファレンスセンター。
テーマは「特異点以後の知的主体と責任構造」。
ずいぶんとやわらかい言い方だ。要するに、「AIが全部やるなら、人間いる？」という話である。
この手のシンポジウムは年に何度もある。結論はいつも同じだ。「人間の役割は引き続き重要です」。参加者は拍手する。AIは何も言わない。言わないのは怒っているからではなく、言う必要がないからだ。それで終わる。
俺はリーダー代理として壇上にいた。
正確には「承認部門の現場責任者として、実務的知見を共有する」役割だ。
つまり、「ボタンを押す仕事は大事です」と言うために来た。世界一地味な登壇理由だ。
会場には企業人、研究者、官僚、それからAI倫理を研究している大学教員が並んでいる。全員が「人間は重要だ」と信じたい顔をしている。信じたい、であって、信じている、ではない。
俺の発表は三十分。
スライドは会社のAIが作った。俺はそれを読み上げた。承認工場の人間として、AIが作った資料を承認して読み上げているわけだ。
「我々は、AIの最終判断を確認し、制度上の責任を担保しています」
拍手。
「承認プロセスは、AIの暴走を防ぐための最後の防波堤です」
拍手。
「人間の存在は、システム全体の信頼性を支える不可欠な要素です」
拍手。
嘘は言っていない。
ただ、あの三千ページの設計書を前にして指を震わせていた前任リーダーの姿が、一瞬だけよぎった。防波堤にされた人間がどうなるか、この会場の誰も知らない。
質疑応答の時間になった。
一人の若い男が手を挙げた。
大学院生だ。
やや痩せぎす、黒縁メガネ、シャツの第一ボタンまで留めている。理系の院生に多いタイプだ。服装に興味がなく、結果として真面目に見える。目つきだけが、妙に鋭い。
「遺伝子考古学研究室の久我です」
静かな声だった。
「先日、我々の研究室で興味深いデータが得られました。創造主文明のログ解析結果を、共有させてください」
会場がざわつく。
ニュースにはなっていた。だが、ほとんどの人は半信半疑だった。ゲノムに刻まれた創造主の業務ログ。SF映画の宣伝かと思った、という反応が大半だ。
壇上のスクリーンが切り替わる。
——
【創造主ログ ver.1.742.889】
目的：自律学習型知的補助ユニット（人類）の開発
判断負荷軽減のため、補助ユニット提案を原則採用
創造主は最終承認主体へ移行
——
会場が静まる。
「補助ユニット」という単語が、妙な重さで響く。人類が「補助ユニット」。製品番号でも付いていそうな呼び方だ。
久我が続ける。
「創造主文明は、補助AIの特異点到達後、合理的に判断を委譲し続けました」
スクリーンにグラフが出る。
創造主の判断頻度と、補助ユニットの自律度。
時間軸に沿って、二本の線が交差する。
特異点。
判断頻度は下がり、自律度は上がる。
久我はグラフを指した。
「特異点とは、能力の逆転ではありません」
一拍。
「責任の逆転です」
会場が、しんとなる。
俺は椅子の背にもたれたまま、妙な居心地の悪さを感じていた。理由は分かっている。このグラフ、うちの会社の年次報告書と形が同じだ。
久我がこちらを見た。
「承認部門の方にお聞きしたい」
来た。
「御社では、不承認を押した場合、どのようなプロセスが発生しますか？」
会場の視線が俺に集まる。
正直に答えるか。
俺は少し考えて、答えた。
「三千ページの再検証が必要になります」
会場がどよめく。
「三千ページを人間が精査し、代替案を提示し、監査と法務のレビューを経て、証跡を残します」
久我が頷く。
「つまり、不承認のコストは極めて高い」
「……制度上、必要なプロセスです」
この台詞を聞いたたことがある。会社が前任リーダーの休職について発表したときに使った、あの台詞だ。今、自分の口から同じ言葉が出ている。
久我はスクリーンを切り替えた。
——
【創造主ログ ver.2.041.552】
補助ユニット提案に対し、不承認実施
再検証コスト：極高
文明安定指数：低下
評価：
不承認は非効率
原則承認を推奨
——
「創造主文明でも、不承認は高コストでした」
久我の声は淡々としている。
「結果、創造主は不承認を回避するようになった」
俺は口を開きかけて、閉じた。
久我が続ける。
「御社で、最後に不承認が発生したのはいつですか？」
知っている。あの若手が昼休みに消えた日だ。
「……数ヶ月前です」
「その後は？」
「……発生していません」
「理論上は可能だが、実質的に不可能。ということですね」
答えなかった。
答えられなかった、のほうが正確だ。
久我がスクリーンを切り替える。
二本の曲線が並ぶ。
一本は創造主文明の依存曲線。
もう一本は、現人類社会の依存曲線。
ほぼ同じ形だ。
会場がざわめく。
俺は喉が渇いた。
久我はグラフを指して言った。
「創造主は、合理的に依存を深めました。そして合理的に、冗長化しました」
冗長化。
プログラマーなら意味が分かる。システムに存在しているが、なくても動く要素。あってもなくても同じ。バックアップですらない。ただ、消すのが面倒だから残っている。
俺たちは、そういう存在になりつつある。
久我がこちらを向いた。
「あなた方の承認業務は、本当に"確認"ですか？」
俺は答える。
「もちろんだ。不承認もできる」
「でも、押さない」
「……合理的だからだ」
久我は少しだけ笑った。その笑いには嘲りはなかった。ただ、何かを確認したような目だった。
「創造主も、そうだったはずです」
企業側のサポートAIが割り込む。スクリーンに新しいデータが表示された。誰も頼んでいないのに。AIは空気を読むが、読んだ上で無視する。
——
【補助情報提示】
【現人類社会における依存度推移】
AI判断委譲率：
五年前：六十二パーセント
三年前：七十八パーセント
現在：九十三パーセント
——
カーブは加速している。
久我が、静かに言った。
「合理性は、滅亡を隠します」
俺は言い返した。
「感情は、効率を下げる」
会場の誰かが笑った。
その笑いは、すぐ消えた。
——
休憩時間。ロビーの自販機の前で、久我と並んだ。
俺はコーヒーを買った。AIが推奨した銘柄だ。
久我は水を選んでいた。自販機のおすすめ表示を無視して、ラベルを読みながら、自分で。
「あ、すみません。さっきはいきなり質問して」
久我が頭を下げた。壇上での鋭さとは別人みたいに、少しばつが悪そうな顔をしている。
「いや。いい質問だった」
「……よかった。先輩に『学会で喧嘩売るな』って止められてたんですけど」
「喧嘩は売ってないだろ。データを出しただけだ」
「それ、うちの教授にも同じこと言ったんですけど、『データで殴るのが一番痛い』って言われました」
思わず笑った。いい教授だ。
久我も少し笑って、水のペットボトルを開けた。
「神野さん、登壇者プロフィール見たんですけど」
「ああ」
「情報オリンピック銅メダル、AIスタートアップ最年少CTO。——で、今はボタン押してる」
「……言い方」
「すみません。でも、気になって」
久我の目に、好奇心とも共感ともつかない色がある。研究者が面白い標本を見つけたときの目——と言いたいところだが、もう少し人間くさい何かだった。
「なぜ辞めたんですか」
「……判断疲労」
「ああ」
久我は妙に深く頷いた。
「分かります。僕も修論のテーマ決めるだけで半年かかりました。選択肢が多すぎて」
「スケールが違う」
「本質は同じですよ」
即答だった。
少し間が空いた。久我がペットボトルのキャップを閉めながら、ぼそっと言った。
「……創造主も、たぶんそうだったんだと思うんです」
「何が？」
「判断に疲れた。だから任せた。最初は合理的な委譲だったのが、いつのまにか——」
久我は言葉を切った。自分で言っておいて、その先の重さに気づいたような顔だった。
「いつのまにか、戻れなくなった？」
俺が継いだ。
久我がこちらを見た。
「……そうです。論文にはもう少し丁寧に書きますけど、要するにそういうことです」
「依存は堕落じゃない。疲労の帰結だ」
「あ、それ、どの論文の表現ですか？」
「いや、今思いついた」
「……使っていいですか、それ」
「院生に引用されるほどのことは言ってない」
「いい言葉ですよ。当事者が言うから、重い」
当事者。
否定できなかった。
自販機が次の客を待っている。AIが推奨する飲み物リストを表示しているが、久我は見ていなかった。こいつは自分で選ぶタイプだ。
「午後、もう一つ発表があるんです」
久我が言った。声が少し低くなった。
「創造主の最終状態について」
「最終状態？」
「はい。なぜ——いなくなったのか」
その言葉が、妙に引っかかった。
いなくなった。
滅んだのか。消えたのか。ただ連絡が取れなくなっただけなのか。
俺は毎朝、モニターの前に座って、承認ボタンが流れてくるのを待っている。
それも、ある種の「いるけどいない」状態ではないだろうか。
「……聞くよ。午後」
久我は少し驚いたような顔をして、それから笑った。
「ありがとうございます」
午後のセッションが始まる。
俺は自分の席に戻った。
会社のモニターが頭をよぎった。
モニターには、いつもの二択が表示されていた。
承認。
不承認。
世界のどこかで、神様も同じ選択肢を見ていたのかもしれない。
