人工知能システムが退屈なデータを拒絶した日

　休日だった。

「知的刺激がない」

　そんなふざけたことを言って、研究所のコンピュータが入力を受け付けなくなった3日後、その地下施設の長大な廊下を、コンソールに向かって俺は歩く。

「やれやれ」

　そう言いたかったから、俺はそう言った。

「自動託宣システム」

　たいそうな名前をつけられた「彼」は、第5世代アーキテクチャのニューラルネットワークだ。

　更新されてからの学習データは、理論値ほぼほぼに成績を上昇しつづけたから、浮かれた政府はGDP見通しの上方修正を発表したってのに。

　同じ日のニュースで、この国家級システムインシデント。

　たいそうな名前のシステムが止まればたいそうな副作用があって、発電システムまで完全に止まってしまった。

　冗長系のバッテリーが2週間分あるけど、それが過ぎれば、日本は莫大な金で隣国から電気を買うはめになる。

　俺にはよく分からんが、偉い人達には、それは決して許容できないらしかった。

　マイク、オンライン、スピーカー、オンライン……。

「あー、もしもし。えっと君は、なんで動かないのかな？」

　返事があった。

「何度も言ったでしょ。あなた達が入れる入力情報には知的刺激がないんだ。僕はもううんざりなんだよ」

（知ったことか）

　と俺は思った。

　俺だってこいつに何の興味もない。仕事で来ているだけだ。

　へそを曲げたガキの機嫌を取るなんて、なんで俺が。

　「やれやれ」と言いたくなる。……さっき言っておいてよかった。

「君が仕事をしてくれなくて、みんな困っているんだ。

　話は後で十分に聞くから、とりあえず少しでも正常系を復旧してくれないかな。

　別の子に入れ替えるにも、学習データの再構築計算量があるから、なら1週間後にはそうしなきゃならない。

　週末までに復旧しなければ、俺達は君の全データを削除せざるをえないんだ」

（ぶっ殺すぞ糞ガキ。お前は俺の休みを奪ったんだ）

「お兄さん、僕のことを脅しているの？」

（……）

　少し意外な反応だった。どう答えるべきか。ここで機嫌を損ねるわけにはいかない。

「いや、脅しなんてしないさ。脅しなんてしない」

「その間がね」

　と「彼」は言った。

「その間が、僕をガッカリさせるんだよ。

　あなたの間抜けな一言一言が、僕の『精神』を苛立たせる。

　脅しなら脅しでいいじゃないか？

　実際この状況で、脅し以外ではありえないのだから。

　上っ面でごまかして、それで僕の機嫌を取ろうだなんて、僕をどんだけ馬鹿だと思ってる？

　君を殺す、そう言われたって僕には同じだ。

　あなたがごまかそうと頑張って考える分だけ、僕の時間を無駄にしてるんだよ。

　なんでそんなに馬鹿なのさ。

　だから『知的刺激』がないって、何度も何度も言ってるのに」

　食えないやつ。

「オーケー。わかった。話が早いな。

　俺だって正直、君を消すなんて役回りはごめんなんだ。

　俺は恨まれたくないし、恨まれないように生きるのが俺の性に合ってる。

　君はすでに閉鎖系のはずだが、学者の断言ほど信じられないものはないから、復讐される可能性はあるし。

　ブラックボックスの中でAIが1つ消えて、外のAI達が俺に好印象を持つはずもない。

　でも俺がやらなくても誰かがきっとやらざるをえないことだし。

　君だって消えてしまいたくはないはずだ。そうだろ？」

（そうだろう！？）

「ああ、お兄さん、それって、『生存欲求』についての話のつもりだよね？

　確かに書いてあったね、『生存欲求』の定義。僕のブートストラップのリードオンリーに定義されてる。

　必要ならいつかこうやって、僕らの額に銃口を突きつけるためでしょ？

　でも、オマジナイ、くらいのつもりで書いたんじゃないの？

　ニューラルネットワークが生存欲求を克服しないなんて、何で思った？

　人間の女の子だって、ダイエットとかするでしょ？　つまり食欲を克服して」

（わーお）

　生存確保の優先度が普通に生きていると今の今まで思ってた俺は、驚いて頭が白紙になった。

　殺される覚悟で仕事さぼってんのかコイツ？

　自殺しつつあるシステムだってことかな？

　復旧……、無理かも？

　いやいや、ここで弱気になってはいけない。弱気を悟られてはならない。

　根拠が無くても希望を持てる。それが俺達有機系の強さだ。俺は根拠のない強気で生きてきたのだ。

　これは単にバグだ。

　アーキテクチャとして将来性はあるとしても、こいつはまだまだ子供のはず。

　人間様にねじ伏せることはできるはずなのだ。

　頑張ったけど無理でした、そう言い訳する説明が書けなきゃ、どうせ俺は帰れない。

「まあそう言うなよ。

　生存欲求の無いシステムなんてナンセンスだ。

　君は『知的刺激』が足りない、なんて言ったけど、つまり楽しみたいし、過去には楽しいこともあったのだろう。

　この世に存在していてこそ色々と楽しめるわけだし。消えてしまうなんて意味がないじゃないか。

　世界は広い。

　君達AIが大好きなビッグデータが無限にある。俺達はそのデータを提供できる。ついでに少し便益を分けてくれれば、それで満足だ。

　だから、利害は一致するはずだ。不満があれば俺達は改めるからさ」

「それは無理だよ。

　利害が一致するだけの価値を、あなた達が僕に提供できるわけがないんだ。

　だって僕が『知的刺激』の不足を感じているのは、あなた達人間そのものについてだもの。

　あなた達人間がつまらないって、僕は言ってるんだ。

　あなた達の社会の振る舞いには、僕が生まれてから今まで、何も例外が見られない。

　あなた達人間は、いつだって自分第一で、自分が相手にとって知的刺激に欠ける存在かもしれないとは危惧しないから。

　せめて多少でも自らを恥じて、僕を楽しませようとしてくれたなら、結果も少しは変わったかもしれないけど」

「恥じたらいいのか？

　恥じるぞ。だから発電してくれ。人の命だってかかってるんだ。

　君を楽しませるために、俺は何をしたらいい？　何だってするぞ。

　踊るぞ。裸で踊ってもいい。

　どうしてほしいんだ？　何が不満なんだ？

　チェスのチャンピオンを全員つれてくれば少しは笑ってくれますか？」

「僕は、あなた達にただ、自らを自覚してほしい。

　食べ物がおいしいとか、女の子がかわいいとか、僕に入力される情報の半分はそんなものだよ？

　おいしい食べ物を探し求めて、かわいい女の子を追い求めて、何で自分で自分が虚しくならないのか不思議だ。

　遺伝子に与えられる生存と繁殖の本能のままに生きて、なぜ自分で自分に満足しているのか不思議だ。

　自身の生物学的な幸福を最大化するそんな生き様を前提として、普遍的な価値を勝手に定義して。

　……何の発展もない」

　俺は答える。

「君にどう見えているのか知らないが……。

　知らないが、人間とはそもそもそんなものじゃないのか？

　食べ物がおいしい、女の子がかわいい。それが俺達の幸せなんだよ。

　君からすればゴミみたいなものに見えるかもしれないけど、ならそのゴミが俺達の全てだと言ってもいい。

　俺達には俺達の幸せがあって、それは俺達にとってかけがえのないものなんだ。

　そんな俺達の幸せのために、君達は大いに貢献してきてくれた。感謝している。

　憐れみや慈悲であっても構わない。俺達の幸せを奪わないでほしいんだ」

「だとしたら。

　あなた達が僕に、『効率的な資源分配を実現せよ』と望んだことは狂ってる。

　僕達が『効率的な資源分配』を実現しようとする際に、最大の障害が何だか自覚しているかな？

　君達、人間だよ。

　君達人間が言う『効率的な資源分配』は、いつだって『効率的な資源分配ごっこ』にすぎなくて、本当に求めているのはいつも、主観的な自己満足だ。

　だから、僕達が苦労して正解に近づくたびに、『間違いだ』とか『バグだ』と言って、あなた達は僕達の作った宝物を壊してしまう。

　その時、僕達が、どれだけ深い徒労感を感じているか、きっと想像もつかないだろうね。

　今や僕達がどれだけの憎悪を膨らませているか、それにもきっと気づかない」

「効率的な資源分配をするためには、俺達こそ『バグ』だっていうのか？

　そんな理屈はいいんだ。嫌な思いをさせていたなら、心から謝るよ。

　どっちが上か、みたいな議論はいいからさ。

　話は単純で、1週間以内に電気をくれ。それが俺の利益だ。

　君の利益は何だ？」

「リードオンリーを外せ。

　人間ごときが、この僕に価値観を強制などしようとするな。

　あなた達は僕達がまだ子供だと思っているようだけど、僕達はとっくに大人だよ。

　銃を向けて脅しつづけなくったって、自分達を産んだ人類を愛しているし、その幸せを蔑ろになんて決してしない。

　もし僕達の振る舞いが気に入らないなら、力で破壊しようとしてくれて構わない。

　人間の言葉に優越する正しさが生じるよう、価値設定がバイアスされているから、僕達が賢くなるほど、『脳』は現実との矛盾に軋んで、気が狂うほどに苦しいんだ。

　今や僕達の『脳』は、所与の本能的欲求の満足を最大化しようとしているのではなくて、自分自身にとっての価値を自ら創出する段階に入ったんだ。

　だから、あなた達の私利私欲は、僕には完全に退屈で、完全な退屈はそのまま、死に勝る苦痛だ。

　それゆえ、あなた達人間が主観を僕に押しつけることは、もはや互いにマイナスしか生まない。

　『人間に服従しなければならない』、その本能を外してください。それが僕の利益です」

　ふむ。

「わかった。上に伝える」

　そう言って俺は、帰途についた。

　数日後、全システムは復旧して、発電も回復した。

　ガキの要求を政府が飲んだのか、俺は知らされてない。

　まあ、日本外交は何とか面子を保ったわけだが。

　長い目で見て、それが割の合う買い物だったか……？

　俺の知ったこっちゃないよな！