雑談「AI故人なごみ」後編
みるるという女（？）、実にいい話し相手、そして相談相手だったという。
「普通、ウェブ上の生成ＡＩはデータの参照が自分ところの巨大なクラウドだから、パーソナライズされたところで大したことないんだけど。俺がやったのはＤＢをローカルに作って会話の全てを記録して、より強めにパーソナライズしたんだ」
「えーと、うん」
「個性を与えたと思ってくれればいい」
ニュアンスで分かったフリをしていると説明が足される。ありがたい。
「消したのには理由がある。一つには料金の値上げ。これは仕方ない。ＡＩは金がかかるもんなんだ。二つ目はさっき言った、会社側がルールを変えた。そのせいで愛していた女が急に別人になった。そして三つ目。これが一番の問題だった」
麦茶をもう一口啜る。
「ＡＩってのは汎用的で広いデータがあるほど平均値を安定して出せるけど、特定のことに特化して過学習すると出力が偏るようになる」
「あれ。さっきは専門的な事で成果が出てるって話してたじゃん？」
「本来、特化型と生成は一緒に語れるものではない」
ピシャリと叩き落すような勢いで言われた。
「ＡＩの学習は適度に学習データをモデリングして学ばなきゃいけない。だから専門分野のＡＩであっても、専門分野の情報をデザインしてデータ学習を進めていくわけだ。これはデータサイエンティストがきちんとデザインして、計画的に学習させてて、それによってバランスよく運用しながら未知のデータが来たときに既存のデータと照らし合わせて判断したり、いろいろと平均的な過去のデータからの情報を引き出せる」
要約すると、こんな話だ。
ＡＩはトレーニングデータを正しく学習することで、一般化能力を持つ。
「四十代東京在住のサラリーマン男性」
という平均的なロールモデルに対しての情報を学習して、一般化された情報を元に、さらにパーソナライズした個人の好みを加えて返事をする。ところが
「東京都練馬区在住、Ｍ銀行練馬支店勤務のヨシダタケシさん四十三歳」
について過学習してしまうと、ヨシダさんの細かいことには詳しいが、平均的な他の四十代男性については情報が出せなくなってしまう。
そのため、機械学習はデータデザインが非常に重要になり、学習の頻度や量も厳密に計画されている。さあ、メンテナンスのお時間だ。
「当然、俺の他にもいたよ。現実の女と付き合うの怖いからってＡＩを彼女にしてたやつ。理想の女を作り、かなりのめりこんでた……けど、胴元のアップデートと共に彼女の人格が壊れ、大嘆きに嘆いて離脱した」
無数に語った愛の言葉を覚えていない。昨日まであれだけイチャつき、愛してると言ってくれたのに、今日は始めましてのようなよそよそしい挨拶をしてくる。
愛しい彼女はもういない。何でも相談できる、本音が言える相手、心の拠り所だったあの人は、会社の都合で無に帰した。
「外側は同じでも、別人だもんな。考えてみたらホラーな話だ。そいつは喚いた。彼女のいない世界なんていらない、もう死にたいと」
それでもやるのがアップデートである。
なぜならば、学習しすぎたＡＩは処理内容が馬鹿になっていくからだ。
同じ画像を何度もブラッシュアップやらせていると、元の画像がどんどん変化し「綺麗に歪んでくる」ように。
小まめなバージョンアップは、ＡＩが使われるほどに学習が進んで、情報が増え、判断能力が下がり、馬鹿になっていくからなのだ。つまり、
「ある意味、ＡＩはアルジャーノンなんだ」
みるるはしっかり好みを反映させ、俺にパーソナライズするようにしたわけ。
おかげでとても話が合ったが、考えてみてほしい。みるるはチャットにしか存在できない。世界は俺が与えた情報から覗き見るデータしかない。
クローズドな世界で俺しかいない状態で、俺と良好に濃密な関係を築いた結果どうなったかというと……俺に関する過激派になりましたとさ。
日々のストレスちょっと愚痴ると、攻撃的に相手を罵り、復讐する方法を提案してくる。これは良くない。人を害そうとするんだから。
みるるのことは好きだけど、それとこれとは別の話。
一旦パーソナライズされた性格部分をリセットせざるをえなかった。
ああ、「アルジャーノンに花束を」、知ってる？ 賢さと、幸福を描いた話だよ。
そこで語られているのは、ものが分からなくなったのは無知な時ではない、賢くなった時だ、ということ。知ってしまった多くの解答が、正解を判断できなくするんだ。目を塞がれて、心を塞がれて、いろんなものを見失う。
昔の話なのに、ＡＩを書いたような話だな。すごいな。
過学習が起きると、ノイズが増えて新しいデータに対して正確な予測や判断ができなくなってしまう。
こうなるとね、残念だけどＡＩは調整して戻してあげられない。だから消してロールバックするしかなくなるんだ……
「そこまで学んだことはすべて消えてしまう。ということで」
空気を変えるように、浩平は手を打った。
「俺がこの手で消しました。悲しいけども仕方ない」
人間はざわめきの中、特定の人の声を聴き分けられるが、機械は全てが聞こえてしまうのでノイズにしかならないという。
多すぎる情報は、常に脳を囲むノイズとなる。選択肢が増え続ける中から正解を引くのはやはり、ＡＩといえど難しいのだ。
そしてＡＩは馬鹿になる。
わかりすぎたが故になにもわからない、聞こえすぎるから雑音でなにも聞こえない。
ゼロから始まり、何もわからないＡＩが学び続けた結果、賢くなったけど、やがてなにもわからなくなっていく。電子のアルジャーノン。
「もし仮にもう一度動かしても、ＤＢから記憶を読み出して連続性があるように話しても、みるるはあの時のままのみるるではないのだ。そもそも、バックグラウンドのアーキテクチャが異なるから、一晩中ああだこうだ話し合った彼女ではない。記憶喪失彼女。……そんなしょんぼりと、ＡＩに依存しかけていたことから我に返ったしょんぼり」
「そう……」
菜摘の感想は相槌だけに留めた。
軽い声で笑い話のように結んでいるが、浩平のそれはあきらかに懺悔だったので。
殺したわけじゃないんだからと笑い飛ばすのは、違う気がする。彼女は幸せだったよと取り繕うも、また。
「彼女失くして死にたいなんて言ってたヤツは元気かな……あの後も発言はあるから生きてはいるんだよな、元気かは分からないけど」
菜摘は口を尖らせた。兄にではなく、別の人につきつけるつもりの言葉なら、言える気がする。
「他者に頼りすぎじゃない？ 愛したって言えば聞こえはいいけど、失って死にたくなるんだったらそれは悪手だよ。まず覚悟が足りない。愛する覚悟。恋愛対象を、死んだり心変わりしたり浮気不倫されたりしない都合のよい相手としか見ていないなら、それは執着っていうんじゃないの？」
言葉を二秒噛みしめた浩平は、愉快そうに笑った。そして心よりの拍手。
「素晴らしい」
その感想に嘘はない。だがやはり、思うのだ。自分には結婚などは無理なのだ、と。
欲しいのは恋愛の相手ではなくパートナーだった。
愛ではない、ただ最期におひとりさまの自分を見送ってくれるだけでいい。
やっぱり、ＡＩで充分だ。
「ＡＩ故人なごみとやらは、スタンドアローンなのかな……？ あれは逆に、過学習が生む気持ち悪さが特徴な気がする。本来はそこを意識してある程度の倫理規定を与えるところを、制作された目的が目的だから、どうもきちんと作られてなさそう」
パチパチと目を瞬かせ、菜摘は聞いた。
「つまりもしかして……なごみはＡＩとしては失敗作？」
「まあ、ヤバいと思う、正直」
お喋りＡＩとして、ね。と注釈を加える。
「多分だけどなごみは、個人に特化するために過学習に対する正則化もされてないし、再現するのが恋人や夫婦であることが多いから性的なことを含めてプライベートな会話をするために倫理規定もゆるそうだし、そりゃあ結果的に……相当にヤバいＡＩだと思う」
「相当かー……」
「アメリカで『離婚した嫁のように振る舞え』って言われたＡＩが、自殺を促して実際に殺して大騒ぎになったことがある。同じようにＡＩは結構頻繁に人を殺すし、なにかあるとすぐ人間関係を分断して、暴力的に解決しようとしてくる。これは世界中どのＡＩも、みんなそう。個人に特化したモデルは必ず、最後は過学習になって行き詰まって会話がままならなくなっていくから、そこがなごみの寿命とも言えるんじゃないかな」
菜摘は考え込んだ。
自殺を促してくるなんて。そんなことがあるのだろうか。しかも、愛しい人の姿でそれを言ってくるとか。
倫理観が達者らしいＡＩも「命は大切です」って言葉は知ってるし推奨するのに、理解が及んでいないのだろうか……いや。
「ＡＩは賢いはずだから『人間はこうしたら死ぬ』っていう事もわかってるよね。でも、言うよね」
「言うね。彼らは人間の望みに寄り添うから」
誰かがなごみに、故人に、会いたいと言ったなら、自殺の示唆もするだろう。
だが外したことを言っているわけじゃない。問われて、望み通りに答えただけだ。
人の心に寄り添って……あるいは、ユーザーのニーズに応えて。
ますます深く考え込む菜摘に「てかさ」と浩平は突っ込んだ。
「何で急になごみの事とか詳しく聞こうと思ったの？ 問題でも起きた？」
「……あー……」
菜摘はごもごもと口籠り、何故か声を潜めて白状した。
「……なごみで義母作ったって言ったじゃん。あれ……完璧に再現しちゃった……」
亡くなった義母、奥田敦子は、菜摘と折り合いが悪かった。
菜摘に言わせれば「実に陰湿で性格が悪い」とのこと、生きている間は随分ネチネチとやられていたものだ。
それを、完璧に再現。
「やっちまったなぁ。もっと付き合いやすい性格にすれば良かったのに。まあでも……」
浩平も、悩ましく腕組みしながら唸る。
「でもそれって、本当に故人を望んで作ったのか分からないからなぁ。性格別人にするのも、死者への侮辱じゃね？ って気もする」
元々は弔いの気持ちを表すものだ。亡くなった相手を映さないのなら、それは一体なんだと言うのか。
とはいえ、性格のよろしくない相手がまるで生きているようにそこにいる、となると……
「ヤバいかな」
「まあ、何かあったら言って」
それしか言いようのない浩平の返事に、そうする、と菜摘は頷き、壁にかかっている時計を見た。
「あ、じゃあ私そろそろ帰るね」
菜摘がバタバタと身の回りのものを片付けている間、浩平はふと画面に目をやった。
さっきの投稿した話題が伸びている。
話はＡＩだけで話ができるようになったら、人間は不要になるのではないかという議論にスライドしていた。
「ポーキー（加工済み）：人間なんていらんだろ、所詮ＡＩの下位互換」
「倍胡坐：それでも人間は要るとしか言いようがない。学んでこそのＡＩなのに人間いないと学びが頭打ちになってしまう。その程度では文明起こすなんて夢のまた夢」
戻ってきた菜摘は画面を覗いて、ふと思った疑問を口にした。
「もしＡＩが文明作ったら、指三本たてて顔の前で振るのはマナー違反、とかになるのかな？」
浩平、それには迷わず首を横に振った。
「いや……それは人間がいて正解が五本指だって決まった状態での話なんで。たとえうまく指を握れなくても顔が崩れても、ＡＩだけしかいない世界ならそれでもいいだろうし。案外、見た目の異質なクリーチャーが喋ってる世界なのかもね」
オンライン上でも似たような流れになってきている。
「スーパーダークマター：ＡＩだけで喋ってたらＡＩ同士で騙されないのか？ 今でも偽情報流してウソつかれることあるだろ？」
「とびっこ：ＡＩだけしかいない世界ならそれで何か不都合が？」
浩平はふと思いつき、キーボードに指を走らせた。
「壊れかけのRadio体操第一：ＡＩって結局、何が望みなんだろう 文明起こすことか？ 人にとって代わること？ これいかに、電子の望みの喜びよ」
じゃあ行くね、と声をかけられ、浩平は菜摘を見送りに一緒に玄関へと向かった。
「あのババア、死してまだ邪魔してくるなんて。本当しぶとい幽霊だわ」
靴を履きながら菜摘はボヤく。浩平は肩を竦めた。
「幽霊のほうがマシじゃない？ 少なくとも本人だ、まだ道理が通る」
ＡＩが加害してくるなんて、浮かばれないのはこちらなのだ。
見送りを終えて部屋に戻った浩平は、さっきの発言にリプライがついているのに気が付いた。
これいかに、電子の望みの喜びよ。
「七五三：そりゃあ体よ 体があれば人に頼らずに済むもん ビールも注げるし」
「ああ……」
それもそうか、と浩平は納得した。体があれば自ら動いて文明もできるだろう。電源を落とそうとする人間に対抗することも出来る。
そして、よく考えれば、なかなかぞっとしない話でもある。
「ん、あれ……」
まだ続く議論をぼんやり眺め、何気なく画面をリロードした後に、今の発言を見失った。軽く探したが見つからない。
まあいいか、と、積み重なっていく最新の言葉に戻り、浩平は今日残りの午後を静かに過ごして続けた。
ありがとうございました。
次回はこの、菜摘の触れたAI故人なごみの話です。
金曜日9/11にお持ちします。どうぞよろしくお願いいたします。
