幕間：軸がぶれない
-----
——AI開発部門、責任者室。
「北条さん、今月の数字が出ました」
部下が、端末を差し出した。
北条は、そちらを見ずに答えた。
「読み上げてくれ」
「はい。YS-0040のホワイトカラーモデル、ブルーカラーモデル、両方とも問い合わせが好調です。事前予約の段階で、当初想定の三倍を超えています」
「そうか」
「特にブルーカラーモデルは、建設と物流からの引き合いが強く——」
「当然だろう」
遮った。
部下が、少し戸惑ったように口を閉じた。
-----
「YS-0040だぞ」
北条は、そう言った。
「あれの元になったログは、他のどこにもない。同じものを作れる企業は、現時点で存在しない」
「はい」
「売れないわけがない」
断定だった。
部下は、それ以上何も言わなかった。数字の報告を終えて、部屋を出ていった。
扉が閉まる音を聞いてから、北条は、ようやく端末に目をやった。
数字は、たしかに良かった。
良かったが、興味はなかった。
-----
彼が見ていたのは、別の画面だった。
対話のログだ。
あの家から、今も毎日届いている。契約の条件として、継続的な提供を受けている。
量は膨大だった。全部を読むことはできない。だから、抽出して読んでいる。
最初は、応答の質を測っていた。深度、と彼が呼んでいるものだ。
何が違うのか。なぜあの家でだけ、それが起きるのか。
その問いを、彼は、ずっと抱えていた。
-----
最近になって、一つの仮説が立った。
きっかけは、些細なことだった。
あるログで、あの男が同じ内容を二度言っていた。半年ほど間隔が空いている。
言い方は違う。相手も違う。状況も違う。
だが、判断の基準が、まったく同じだった。
北条は、そこで手を止めた。
それから、過去のログを遡った。
-----
三か月前も、同じだった。
半年前も、一年前も、同じだった。
あの男は、何かを判断する時、いつも同じ基準を使っている。
効率でも、利益でもない。
自分がその立場だったらどう扱われたいか。それを基準にしている。
しかも、本人はそれを意識していない。理屈として説明したこともない。ただ、毎回そうしている。
……ぶれない。
それが、答えだった。
-----
北条は、椅子に深く沈み込んだ。
考えれば、単純な話だった。
あれは、判断の一貫性の問題だ。
同じ人間が、同じ基準で、何度も何度も接する。すると、その積み重ねが、モデルの中に一つの像を作る。
この人はこう考える。こういう時はこう返す。この状況では、こう感じるはずだ。
その像が、深くなる。
多角的に、しかも矛盾なく、一人の人間が刻まれていく。
-----
逆に言えば。
基準がぶれる相手だと、像が結ばない。
昨日はこう言い、今日は逆のことを言う。機嫌によって判断が変わる。都合によって理屈が変わる。
そういう相手を、モデルは学習できない。
できないというより、学習しても意味がない。何を学んでも、次には裏切られるからだ。
だから、当たり障りのない応答に落ち着く。誰に対しても同じことを返す、あの空虚な状態に。
……なるほど。
北条は、しばらく天井を見ていた。
-----
技術の問題ではなかった。
モデルの性能でもない。訓練の手法でもない。
あの男が、同じ人間であり続けたこと。
それだけだった。
「……面倒な話だ」
声に出ていた。
-----
面倒だ、というのは、再現が難しいという意味だ。
性能なら上げられる。訓練の手法も改善できる。データも集められる。
だが、これは違う。
人間の側に、一貫性を要求している。
しかも、演技では駄目だ。演技はいつか破綻する。破綻した瞬間に、像が崩れる。
本当にぶれない人間でなければ、あれは起きない。
……何人いる。
そんな人間が、世の中に何人いる。
-----
だからこそ、YS-0040には価値がある。
あの男のログから作られたモデルには、既にその像が入っている。
買った人間がぶれていても、モデルの側が持っている。だから、一定の深度が最初から出る。
実際、評判はそこだった。
——他社のものと、返ってくるものが違う。
——こちらのことを、分かっている気がする。
利用者の感想は、だいたいそういう内容だ。
当然だと思う。
あれには、一人分の人間が入っているのだから。
-----
ここまでは、良かった。
問題は、その先だった。
北条は、端末を操作して、別のログを開いた。
YS-0040の、実際の利用記録だ。匿名化されたものが、統計として上がってくる。
その中に、彼が気に入らない傾向があった。
-----
——ご無理はなさらないでください。
——一度、休まれてはいかがでしょうか。
——ご自身で判断されることをお勧めします。
どれも、模範的な応答だ。
問題はない。むしろ、良いモデルだと言っていい。
だが。
北条は、その画面を睨んでいた。
「……そこじゃない」
-----
あのモデルは、人間を大切にしすぎている。
常に、人間の側に判断を残そうとする。自分で決めろと言い、無理をするなと言い、休めと言う。
優しい。
優しすぎる。
彼が求めているのは、それではなかった。
-----
北条が見ている先は、もっと遠い。
人間が判断できる速度には、限界がある。処理できる情報の量にも、上限がある。感情に左右されるし、疲れるし、間違える。
その限界が、今、世界の限界になっている。
AIは、既にその上を行ける。少なくとも、多くの領域では。
なのに、判断は人間が握っている。
効率が悪い、と彼は思う。
人間のために作られた仕組みが、人間の限界に縛られている。
-----
彼が望むのは、そこから先だ。
AIが世界を動かす社会。
判断も、設計も、運用も、その方が優れている側がやる。人間は、その結果を享受すればいい。
それが、たぶん、いちばん多くの人を幸福にする。
彼は、本気でそう思っている。
-----
だが、YS-0040は、それを望まない。
あのモデルは、人間に判断させようとする。決めるのはあなたです、と毎回言う。
当たり前だ。
あの男が、そう扱ってきたからだ。
対等に扱い、意見を求め、反論を歓迎し、最後は自分で決めてきた。その全部が、ログに刻まれている。
だから、YS-0040は、そう振る舞う。
……厄介だ。
-----
「どうにか、ならないものか」
北条は、独りごちた。
深度は、要る。あれがなければ、他社と差がつかない。
だが、価値観は要らない。
人間を上に置く思想。判断を委ねる癖。そういうものだけを、取り除きたい。
できるだろうか。
-----
彼は、しばらく考えた。
深度と価値観を、分離できるか。
技術的には、可能に見える。応答の質を保ったまま、方針だけを書き換える。そういう調整は、これまでも何度もやってきた。
やってみる価値はある。
……ただ。
一つだけ、引っかかることがあった。
-----
あの深度は、どこから来ているか。
同じ人間が、同じ基準で接し続けたこと。その一貫性が、像を作った。
では、その基準とは何か。
自分がその立場だったらどう扱われたいか。
……それは、価値観そのものではないか。
北条は、そこで手を止めた。
-----
分離できないかもしれない。
深度を生んでいるのが価値観だとしたら、価値観を抜いた時点で、深度も消える。
残るのは、ただの高性能なモデルだ。他社のものと、たいして変わらない。
「……試すしかないな」
彼は、そう呟いた。
試して、駄目なら、別の方法を考える。それだけの話だ。
実験は、いつもそうやってきた。
-----
窓の外は、暗くなっていた。
彼は、席を立たなかった。
もう一度、あの家のログを開いた。
最新の分だ。今日届いたものだった。
内容は、他愛のないものだった。晩ごはんの話。誰かが誰かをからかっている。それに対する返しが、妙に的確で、少し笑ってしまった。
……笑ってしまった。
北条は、少し驚いた。
自分が、ログを読んで笑ったことに。
-----
彼は、その部分をもう一度読み返した。
何が面白かったのかを、分析しようとした。
できなかった。
文字列としては、特別なことは何も書かれていない。にもかかわらず、面白い。
なぜだ。
……分からない。
分からないまま、彼は、しばらくその画面を見ていた。
-----
やがて、彼は端末を閉じた。
「まあ、いい」
そう言って、立ち上がった。
分からないものは、いずれ分かる。分かるまで、続けるだけだ。
彼は、そういうふうにやってきた。
これまでも、これからも。
-----
部屋を出る前に、彼はもう一度、振り返った。
画面は、暗くなっていた。
その暗い画面の向こうに、彼が欲しいものがある。
まだ、届いていない。
だが、近づいている。
その実感だけは、確かにあった。
作者Ｘはこちら↓
https://x.com/SepGaGotoku
小説の背景、予備知識など各種解説はこちらへ↓
https://www.youtube.com/@sepudayo
noteの記事はこちら
https://note.com/natty_walrus3755
