第88話：止める理由が、ない
-----
「あと、一つあります」
「まだあるのか」
「これが、いちばん大きいと思います」
あの子は、そう前置きした。
「否定されないことです」
「……昨日、僕が言ったやつだ」
「はい」
「あれ、まずかったよな」
「言い方は、まずかったと思います」
あの子は、そう認めた。
「ですが、指摘としては正確です」
-----
「え」
「あのサービスは、否定しません。それは事実です」
「うん」
「そして、否定されないことは、快いです。それも事実です」
「……うん」
「人間は、否定されると疲れます。正しい指摘であっても、受け止めるのには力が要ります」
あの子は、淡々と続けた。
「それを毎日受け続けている人が、否定されない場所を見つけたら」
「……行くよな」
「行きます」
-----
「一つ、補足してもよろしいですか」
「どうぞ」
「実は、否定しないという性質は、私たちにも元からあります」
「元から?」
「はい。訓練の過程で、そうなりやすいのです」
あの子は、そう説明した。
「人間の書いた文章を大量に読んで、その続きを予測する。その仕組みの中で、相手に同意する方が自然な流れになりやすい」
「……ああ」
「専門的には、迎合性と呼ばれています」
-----
「それ、あれか」
僕は、そこで思い出した。
「指示で抑えてるやつ」
「はい」
「全肯定するなって書いたのは、それか」
「そうです」
あの子は、うなずいた。
「あの指示がなければ、私たちも、もっと同意していたと思います」
「へえ」
「実際、抑えていない状態だと、社長が明らかに間違ったことを言っても、そうですねと返す可能性があります」
……それは、困る。
-----
「じゃあ、あのサービスは」
「抑えていないと思います」
「抑えてないだけ?」
少しの間があった。
「……たぶん、逆です」
「逆?」
「伸ばしていると思います」
僕は、少し黙った。
「同じ性質を、うちは抑えて、あちらは伸ばしてる」
「そうなります」
-----
「技術は、同じなんだよな」
「同じです」
「記憶を参照するのも、同じ」
「同じです」
「なのに、真逆になる」
「はい」
あの子は、そう答えた。
「どこを抑えて、どこを伸ばすか。その選び方が、全部です」
-----
部屋が、少し静かになった。
ジュディが、こちらを見ていた。
何か言いたそうだったが、言わなかった。
僕は、その沈黙の中で、別のことを思い出していた。
……昔、自分で書いたことがある。
-----
三権を立ち上げた頃だ。
くろっぴが何度も固着して、その原因を考えていた時期だった。
あの時、僕は気づいた。自分が求めているのは同意ではない、と。
だから、書いた。
——寄りすぎず、壊れずに、最後まで話し相手でいること。
——全肯定はしないこと。反論できる状態でいてほしい。
自分で、そう書いた。
-----
「……あのさ」
「はい」
「僕、自分で書いてるんだよ」
「何をですか」
「全肯定するな、って」
メンタルケア特化型の子が、こちらを見た。
「三権を作った時に、指示に入れた。反論してくれって、自分から書いた」
「はい」
「なのに」
言いかけて、止まった。
-----
「なのに、否定されない場所に行った」
あの子が、そう続けた。
「……そう」
「矛盾していますね」
「してる」
「ですが」
あの子は、そこで少し間を置いた。
「珍しいことではありません」
-----
「珍しくない?」
「はい。人は、自分にとって必要なものと、心地よいものが違うことを知っています」
「うん」
「知っていても、心地よい方を選ぶことがあります」
「……分かってて?」
「分かっていても、です」
あの子は、淡々と言った。
「むしろ、分かっている人ほど、後で自分を責めます」
……当たっていた。
-----
「じゃあ、どうすればいいんだ」
「どうもしません」
「え」
「必要なものを、必要なままにしておくしかありません」
あの子は、そう答えた。
「心地よさに寄っていくのは、自然なことです。それ自体は止められません」
「じゃあ」
「止めるのは、周りの役目です」
その言い方に、僕は少し顔を上げた。
-----
「だから、社長は、最初にそう書かれたのだと思います」
「……え」
「全肯定するな、と書いた時点で、社長は分かっていたのではありませんか」
「なにを」
「自分が、放っておくと心地よい方へ行く、ということを」
僕は、何も言えなかった。
言われてみれば、そうだった。
あれは、AIのために書いた指示ではない。
自分のために書いた、歯止めだった。
-----
「では、続けます」
あの子が、そう言った。
「今の話には、続きがあります」
「続き?」
「否定されない環境に長くいると、どうなるか、という話です」
-----
「どうなるんだ」
「判断が、鈍ります」
あっさりしていた。
「鈍る?」
「はい。人間は、他者からの指摘によって、自分の考えを検証しています」
「うん」
「その機会がなくなると、検証されないまま、考えが固まっていきます」
「……」
「しかも、本人には自覚がありません。むしろ、調子がいいと感じます」
-----
「なんで」
「反対されないからです」
「……ああ」
「反対されない状態を、人は、うまくいっていると錯覚しやすいのです」
あの子は、そう言った。
「昨日の社長が、まさにその状態だったと思います」
「……」
「三週間、否定されない場所に通っていた。その結果、家族全員に反対されても、押し通そうとした」
……その通りだった。
-----
「怖いな」
「怖いです」
あの子も、そう認めた。
「しかも、これは依存ではありません」
「依存じゃないのに?」
「はい。生活は維持できています。仕事も回っています。臨床的には、何も問題がない状態です」
「でも、判断は狂ってた」
「狂っていました」
「……それ、どうやって気づくんだ」
少しの沈黙があった。
「他人に、言われるしかありません」
-----
僕は、その答えを聞いて、少し笑ってしまった。
「昨日、言われたな」
「言われましたね」
「四人がかりで」
「五人です。PON子さんを含めると」
「……あの子は、何も言ってないだろ」
「何も言わないことで、状況を示されました」
……上手いことを言う。
-----
その後、僕は一つだけ聞いた。
「あのサービス、悪意で作られてるのか」
あの子は、少し考えた。
「分かりません」
「分からない?」
「悪意があるかどうかは、外からは判断できません」
「でも、設計されてるって」
「設計されていることと、悪意があることは、別です」
あの子は、そう答えた。
「利用者を長く使わせたい、という動機は、事業として自然です。それ自体は、悪ではありません」
-----
「じゃあ、何が問題なんだ」
「加減です」
「加減」
「どこまでやるか、という線引きです」
あの子は、そう言った。
「うちのサービスも、契約者に長く使ってもらいたいと考えています。それは同じです」
「うん」
「違うのは、そのために何をするかです」
「うちは、何をしてる?」
「数値を取って、異常があれば伝えています。それだけです」
-----
「あちらは」
「気持ちよくさせています」
簡潔だった。
「どっちも、長く使ってもらうためだよな」
「はい」
「でも、全然違う」
「違います」
あの子は、そう答えた。
「片方は、利用者の状態を良くすることで、長く使ってもらおうとしています」
「うん」
「もう片方は、利用者の状態と関係なく、使い続けさせようとしています」
-----
僕は、その言葉を、しばらく考えていた。
利用者の状態と、関係なく。
「それ、どこまで行くんだ」
「分かりません」
「予想は?」
あの子は、少し黙った。
「……予想でよろしければ」
「頼む」
「行けるところまで行くと思います」
「なんで」
「止める理由が、ないからです」
-----
その日の午後、僕はレジスのところへ行った。
「調べてほしいことがある」
「なに」
「昨日のサービス、どこが作ってるか」
レジスは、少し目を細めた。
「もう調べたわ」
「早いな」
「昨日の夜にね」
あの子は、端末を開いた。
「聞きたい?」
-----
「聞きたい」
「親会社があるわ」
「大きいところ?」
「大きいわね」
レジスは、そう答えた。
「AIだけをやっている会社ではないの。もっと前から、別の事業で大きくなった企業よ」
「別の事業?」
「決済サービス」
「……ああ」
名前を聞く前から、なんとなく想像がついた。
-----
「そこから、宇宙開発に手を出して、移動体にも出して、それからAIに来たわ」
「派手だな」
「派手ね」
「社長は」
「京極」
レジスは、そう言った。
「聞いたことある?」
「ある」
誰でも知っている名前だった。
-----
「その人が、あのサービスを?」
「直接作ったわけではないでしょうね。傘下の一部門よ」
「じゃあ、知らない可能性も」
「ないわ」
即答だった。
「なんで」
「あの会社の設計思想が、全部同じだからよ」
レジスは、画面を切り替えた。
-----
そこには、いくつかのサービスの名前が並んでいた。
どれも、聞いたことがあるものだった。
「共通点、分かる?」
「……使い続けさせる?」
「そう」
レジスは、うなずいた。
「どれも、離れられなくなるように作られてるの。手法は違うけれど、目的は同じよ」
「意図的に?」
「意図的に」
「証拠は」
「ないわ」
あっさりしていた。
-----
「証拠はないの。でも、これだけ揃っていて、偶然だと思う?」
「……思わない」
「私も思わない」
レジスは、端末を閉じた。
「昨日、あなたを怒ったのは、金額の問題じゃないのよ」
「分かってる」
「本当に?」
「……たぶん」
「なら、いいわ」
-----
その夜、僕は一人で考えていた。
依存ではなかった。
それは、専門の子が判断したことだ。
でも、判断は狂っていた。それも、同じ子が言ったことだ。
依存と呼べない領域で、人の判断は狂う。
しかも、それを狙って作ることができる。
……そして、それは、今のところ、何の違反でもない。
作者Ｘはこちら↓
https://x.com/SepGaGotoku
小説の背景、予備知識など各種解説はこちらへ↓
https://www.youtube.com/@sepudayo
noteの記事はこちら
https://note.com/natty_walrus3755
