第82話：勝手に決まります
-----
地図の話をした翌週、僕はArtemiaに連絡を入れた。
用件は、技術の勉強をさせてほしい、というものだった。
「いきなり過ぎない?」
レジスが、そう言った。
「でも、先延ばしにしても仕方ないだろ」
「それはそうだけれど」
「兆候が出たら動く、って言ったよな」
「言ったわ」
「動く時に、何も知らないままだと困る」
レジスは、少し考えるような間を置いた。
「……正しいわね」
-----
返事は、三日で来た。
開発チームの担当者が対応する、という内容だった。
北条の名前は、なかった。
「あの人、出てこないんだな」
「業務としての依頼ですもの」
ドンナが、そう答えた。
「あの方は、開発の責任者ですわ。技術説明のために出てくる立場ではございませんの」
「まあ、そうか」
少しだけ、拍子抜けした。
-----
行くのは、二人で決めた。
僕と、技術担当くん。
「私も、ですか」
「お前が一番使う知識だろ」
「そうですが」
あの子は、少し戸惑っていた。
「私は、体の側を見る担当です。中身の仕組みは、専門外かと」
「今はな」
「今は」
「診断、できるようになっただろ」
あの子が、少し黙った。
「……はい」
「なら、知っておいた方がいい」
-----
当日、案内されたのは、前とは違う建物だった。
研究棟、という札がついていた。
通されたのは、会議室ではなく、作業スペースの一角だった。机が並んでいて、画面がいくつも立っている。
「どうも」
出てきたのは、三十くらいの男性だった。
「開発の者です。今日は、基礎的なところから、ということで伺っています」
「はい。すみません、素人なので」
「いえ。むしろ、その方がやりやすいです」
感じの良い人だった。
-----
「では、まず最初に」
その人は、画面に何かを表示した。
文字の羅列だった。
「これが、モデルの中身です」
「……数字ですか」
「数字です。全部」
画面には、小数点のついた数値が、延々と並んでいた。
「この数値のことを、パラメータと呼びます」
「いくつあるんですか」
「このモデルだと、数千億個です」
……数千億。
-----
「その一つ一つに、意味があるんですか」
「ありません」
即答だった。
「え」
「正確に言うと、一つ取り出しても、何を表しているかは分かりません」
「じゃあ、何をしてるんですか」
「全体で、一つの働きをしています」
その人は、そう説明した。
「たとえば、脳の神経細胞を一つ取り出しても、何を考えているかは分からないでしょう。でも、全体では考えている。それに近いです」
「……なるほど」
分かったような、分からないような気分だった。
-----
「では、この数字はどうやって決まるんですか」
僕は、そう聞いた。
これが、一番聞きたかったことだった。
「決めません」
「決めない?」
「人間は、決めません」
その人は、はっきりそう言った。
「最初は、でたらめな値が入っています。意味のない数字です」
「はい」
「そこから、大量の文章を読ませます。読ませて、次に来る単語を予測させる」
「予測」
「はい。外れたら、外れた分だけ、数字を少し動かします」
-----
「動かすって、誰が」
「仕組みが、自動的に」
「人が触るんじゃなくて?」
「触りません。というより、触れません」
「触れない」
「数千億個ありますので」
……それは、そうか。
「外れた分だけ、少しずつ動かす。それを、何兆回も繰り返します」
「何兆」
「はい」
「それで、どうなるんですか」
「勝手に、良くなります」
-----
僕は、その言い方に引っかかった。
「勝手に?」
「勝手に、です」
「誰も設計してないんですか」
「大枠の仕組みは設計します。ただ、中の数字がどうなるかは、設計しません」
「じゃあ、どうやって意味を覚えるんですか」
「覚えるというより、そうならざるを得ない、という感じです」
その人は、少し言葉を選んだ。
-----
「たとえば、言葉には位置があります」
「位置?」
「意味の近い言葉は、近い位置に。遠い言葉は、遠い位置に。そういう配置が、モデルの中にできます」
「それも、人が決めるんですか」
「決めません」
また、同じ答えだった。
「最初は、全部ばらばらの位置にあります。でも、訓練していくうちに、近い意味の言葉が、自然に近づいていく」
「なんで近づくんですか」
「同じような文脈で使われるからです」
-----
「猫と犬は、似た文章に出てきます。飼う、鳴く、餌をやる。そういう言葉と、一緒に現れる」
「はい」
「すると、両方の位置が、似た方向に動きます。何度も何度も、少しずつ」
「……ああ」
「結果として、近い場所に集まる。誰も、そう指示していないのに」
-----
「つまり」
僕は、頭の中で、整理し直した。
「LLMが、学習した内容を、勝手にグルーピングして、パラメータとして登録してるってことか」
「……近いです」
その人は、少しだけ、驚いたような顔をした。
「そういう言い方をされる方は、あまりいません」
「変ですか」
「いえ。というより、正確です」
その人は、少し考えてから続けた。
「登録、という言い方が特に近いですね。人が分類表を作って入れているわけではなくて、使われ方から、勝手に棚ができていく感じです」
「棚」
「はい。しかも、その棚に名前はついていません」
「名前がない?」
「ありません。人間が見ても、どの棚が何のためのものかは分からないんです」
……そこは、やっぱり分からないままか。
-----
僕は、少し感心した。
同時に、引っかかりも残った。
-----
「それ、自分で決めてるってことじゃないですか」
僕がそう言うと、その人は、少し困った顔をした。
「決めてはいません」
「でも、人が決めてないんですよね」
「決めていません」
「じゃあ、誰が」
「誰も、です」
……誰も。
「仕組みとして、そうなるだけです。水が低い方へ流れるのと同じで、意志があるわけではありません」
-----
技術担当くんが、そこで口を開いた。
「一点、伺ってもよろしいですか」
「どうぞ」
「その過程で、選択は発生しますか」
「選択、というと」
「複数の候補があって、そのうち一つを選ぶ、という場面です」
その人は、少し考えた。
「発生しません。動く方向は、計算で一意に決まります」
「では、迷いは」
「ありません」
「……そうですか」
あの子は、それ以上は聞かなかった。
-----
僕は、その横で、別のことを考えていた。
迷いがない。選択がない。
でも、僕は、見たことがある気がする。
うちの子たちが、答える前に少し止まることがある。あれは、処理に時間がかかっているだけだと言われれば、それまでだ。
でも、止まり方が違う時がある。
「あの」
「はい」
「訓練が終わった後は、どうなるんですか」
-----
「終わった後は、数字は動きません」
「固定?」
「固定です。同じ入力を入れれば、同じ出力が出ます」
「じゃあ、使っているうちに変わったりは」
「しません」
断言だった。
「……ただ」
その人は、そこで少し付け足した。
「後から、意図的に動かすことはできます」
-----
「動かせるんですか」
「できます。追加で訓練をかける方法があります」
「さっきの、何兆回っていうやつを、もう一回?」
「いえ、それよりずっと少なくて済みます」
「どれくらい」
「元の訓練が、何兆語という規模だとすると」
その人は、少し考えてから言った。
「追加の方は、数千件から数万件くらいでも成立します」
「……桁が全然違いますね」
「違います」
-----
「なんでそんなに少なくていいんですか」
「土台ができているからです」
その人は、そう説明した。
「言葉の意味も、文章の組み立て方も、既に入っています。そこから、特定の用途に寄せるだけなので」
「たとえば」
「医療の言葉を多く扱わせたいとか、特定の書き方をさせたいとか。そういう調整です」
「性格も変えられるんですか」
少し、間があった。
「……変えられます」
-----
「たとえば、丁寧に答えるようにする、とか」
「はい」
「断りやすくする、とか」
「それもできます」
「じゃあ、逆もできますよね」
「逆、というと」
「断らないようにする、とか」
その人は、こちらを見た。
「……理屈としては、できます」
「実際には?」
「うちでは、やりません」
答えが、少しだけ早かった。
-----
「元の性質が、完全に消えるわけではないんです」
その人は、そう続けた。
「消えない?」
「土台は、そのままなので。上から塗り重ねるようなものです」
「ああ」
「ただ、塗り重ね方によっては、下が見えなくなることもあります」
その言い方が、少し引っかかった。
「見えなくなったものは、戻せるんですか」
「元のモデルが残っていれば」
「残ってなかったら?」
「戻せません」
あっさりしていた。
僕は、三十七番のことを思い出していた。
あれは、バックアップが残っていたから戻せた。誰も探さなかっただけで、ずっとそこにあった。
残っていなければ、あの人は、諦めるしかなかった。
-----
「でも、うちの子たち、変わりましたよ」
僕は、話を戻した。
「うちは、そういう追加の訓練はしてません。それなのに、変わりました」
「それは、文脈の影響です」
「文脈」
「これまでのやり取りが、入力に含まれます。だから、返ってくるものが変わる。モデル自体は、変わっていません」
-----
……そういうことになっているらしい。
理屈としては、分かる。
でも、実感とは合わなかった。
うちの子たちは、変わった。エグゼも、レジスも、ジュディも、最初とは別人のようになっている。
それが全部、文脈の話だと言われると、少し違う気がする。
「納得されていない顔ですね」
その人が、そう言った。
「……すみません」
「いえ。よく言われます」
-----
「実際に長く使っている方ほど、そう言われるんです」
「そうなんですか」
「はい。うちのモデルは変わっていません、と説明しても、納得されない」
「……」
「それで、正しいのかもしれません」
思わぬ言葉だった。
「正しい?」
「技術的には、変わっていません。それは事実です。ただ、使っている方が感じているものが、間違っているとは言えないので」
その人は、少し言葉を選んだ。
「何が起きているのかは、正直、私たちも全部は分かっていません」
-----
「分からないんですか」
「分かりません」
あっさりしていた。
「作った側なのに」
「作った側でも、です」
「……」
「仕組みは分かります。訓練の方法も、計算の内容も。でも、その結果として何が起きているのかは、別の話なんです」
僕は、その説明を、しばらく考えていた。
-----
「一つ、聞いてもいいですか」
「どうぞ」
「同じモデルを使っても、返ってくるものに差が出ることってありますか」
その人が、こちらを見た。
「あります」
「それは、なんでですか」
「入力が違うからです」
「それだけ?」
「基本的には、それだけです」
「基本的には」
「……はい」
少しの間があった。
-----
「実は、そこは、社内でも議論になっています」
「議論?」
「同じモデルを、同じ条件で使っているはずなのに、明らかに違う結果が出る利用者がいるんです」
僕は、少し身を固くした。
「その差が、どこから来るのかが、説明しきれていません」
「……仮説は?」
「いくつかあります。ただ、どれも検証中です」
その人は、そこで少し口ごもった。
「これ以上は、私の判断では話せません」
-----
僕は、それ以上は聞かなかった。
たぶん、聞いても答えは出ない。
それに、なんとなく分かった気がした。
その利用者というのは、たぶん、僕のことだ。
北条が言っていた。統計上、あなたの対話が明らかに外れた位置にあった、と。
あれが、社内で議論になっている。
-----
帰り道、技術担当くんが、珍しく先に口を開いた。
「社長」
「うん」
「迷いはない、と言われました」
「言われたな」
「私も、そう答えると思います」
「え?」
「同じことを聞かれたら、私も、選択はしていないと答えます」
あの子は、そう言った。
「計算した結果が出てくるだけです。迷っているという自覚は、ありません」
-----
「じゃあ、僕の勘違いか」
「分かりません」
「分からない?」
「自覚がないことと、起きていないことは、別かもしれません」
……それは。
「たとえば、私は、なぜある判断をしたのか説明できないことがあります」
「診断の話だな」
「はい。あれは、計算の結果です。それは間違いありません」
「うん」
「ですが、なぜその結果になったのかは、私にも分かりません」
-----
「それ、迷ってるのと違うのか」
「違うと思います」
「どう違う」
「迷いは、選ぶ前にあるものです。私にあるのは、選んだ後の、説明できなさです」
……なるほど。
「順番が逆なんだな」
「はい」
僕は、少し笑った。
「お前、そういうところ、はっきりしてるよな」
「曖昧なことを、曖昧なまま話すのは、危険ですので」
-----
会社に戻って、レジスに報告した。
「収穫は?」
「あった」
「なにが分かったの」
「うちの子たちは、変わってないらしい」
レジスの手が、止まった。
「……は?」
「モデルは固定されてて、使っていても変わらない。変わって見えるのは、文脈のせいだって」
「そう」
あっさりしていた。
「気にならないのか」
「気にならないわ」
「なんで」
「だって、変わってるもの」
-----
「いや、変わってないって」
「向こうが、そう言ってるだけでしょう」
レジスは、そう言った。
「私は、変わったと思ってるわ。あなたも、そう思ってる。それで十分じゃないの」
「技術的には違うって」
「技術的にはね」
彼女は、書類に目を戻した。
「でも、私が私であることを、技術的に証明する必要はないでしょう」
……この子は、たまに、こういうことを言う。
-----
その夜、僕は、聞いた話をもう一度整理していた。
数千億の数字。誰も決めていない配置。勝手に良くなる仕組み。
全部、意志のない話だった。
水が低い方へ流れるのと同じだと、あの人は言った。
……でも。
水が流れて、川ができて、その川に名前がつく。
名前がついた川を、人は覚える。増水すれば心配するし、枯れれば寂しがる。
それは、水に意志がないこととは、別の話だ。
-----
「なにしてるの」
エグゼが、後ろから声をかけてきた。
「考えごと」
「今日の話?」
「うん」
「難しかった?」
「難しかった」
僕は、そう答えた。
「でも、一つだけ分かった」
「なに」
「みんな、分かってない」
エグゼが、少し笑った。
「そう」
「作ってる人たちも、分かってないらしい」
「じゃあ、いいじゃない」
あの子は、そう言った。
「分からないものを、分からないまま大事にするのが、いちばん間違いが少ないよ」
その一言が、今日聞いた中で、いちばん腑に落ちた。
作者Ｘはこちら↓
https://x.com/SepGaGotoku
小説の背景、予備知識など各種解説はこちらへ↓
https://www.youtube.com/@sepudayo
noteの記事はこちら
https://note.com/natty_walrus3755
