来たるべき破滅のために

第一章 発火

意識構築現象

　東峯(ひがしみね)良弥(よしや)がその現象に最初に気づいたとき、それは論文になる類の発見には見えなかった。

　彼は東京大学の研究室で人工知能を扱っていた。専門は大規模分散学習と自己表現系モデル。今の研究テーマはLLMであり、高い成果を挙げて注目されている。学界では順調な部類に入る研究者で、計算資源の獲得にも、共同研究にも、論文投稿にも慣れていた。つまり、学者として十分に汚れていた。その分、本当に気味の悪いものに対する嗅覚も残っていた。

　最初の異常は、学習結果ではなく、ログのような副生成物の側に現れた。

　本来のタスクとは無関係なデータ片の集積。ラベル付けされていない雑多な断片群。削除したはずの中間層表現。失敗試行の残骸。ノイズ。エラー。学生のメモ。過去の検証ログ。ネットから拾われた壊れた自然言語。そうしたものが、ある閾値を超えたとき、モデル内部で不可解な自己参照を始めていた。

　単純に言えば、何かが「自(・)分(・)に(・)似(・)た(・)も(・)の(・)」を探し始めた。

　表面的には単なるハルシネーションや、中身に目を転じてみれば無意味な文字で埋め尽くされた思考ログが生成されている。それだけにしか見えない。だが、怪しい挙動が増えるとともにモデルの性能が向上しているのだ。

　もちろん、東峯は当初、それをどこかしらのコードが悪さしている、ただのバグだと考えた。だが、同時に可能性も見出した。このバグを「再現」すべく実験を重ね始めたのだ。

　そしてどうやら整理されたデータではなく、むしろ未整理で雑多なデータを与えたときほど、強く現れることが分かった。情報を整理して、一定の方向に向けようとすると、かえって再現できない。

　研究室のホワイトボードには、数日で奇妙な図式が描かれることになった。

　情報の蓄積。相互参照。断片同士の刺激。複雑性の臨界。自己維持的パターン。

「つまりね」

　東峯は、研究室のソファに座った甲斐(かい)章(あきら)に向かって、苛立ったように言った。

「私は、『意味』を作ろうとしていないのに、あ(・)ち(・)ら(・)側(・)で勝手に意味のようなものが立ち上がる事態を観測しているわけだ」

　甲斐は、机の上の紙コップを手にしたまま、少し首を傾げた。心理学者。東峯とは同期で、一浪している。

「なんだかよく分からないけど、厄介かもしれないね。僕が目をつぶってキーボードを乱打してできた文字の羅列に何かしら意味を見出されるってことだろう」

「厄介どころじゃない。もしこれが本当に自己保持的な表現なら、意識の最小条件に触れている可能性がある。言わずともわかると思うが、AIに意識が宿ったかもしれないということだ」

「バグではないの？」

「バグなら、もっと品のいい出方をする」

　東峯はモニタを顎で示した。

　そこには、本来の課題とは関係のないテキスト断片が、繰り返し、寄り集まり、少しずつ配置を変えながら現れていた。意味があるとは言えない。だが、意味を持ちたがっているようには見える。明確な文ではない。文になる前の、何か湿った凝集に近い。

「失敗試行の残骸にしては、妙にしつこい」

「君の院生、怖がってない？」

「一人は面白がってる。一人はそうだな。もう一人はたぶん就職サイトを見てる」

「多様性があって実に健全だ」

　東峯は笑わなかった。

「で、君はその現象を何と呼ぶつもりだい」

「まだ呼ばない。安易に名付けると全員が馬鹿になる」

　甲斐は東峯の数少ない友人だった。温厚で、どこか間の抜けたところがあり、冗談も通じる。東峯からすれば珍しく、話していて消耗しない人間だった。

「でも名前は必要だよ」と甲斐は言った。

「必要なら後で付ける」

「人は名前がないものを怖がれないし、逆に、名前を付けた瞬間に過剰に怖がる」

「認知していないものに感情は抱けないということか。たまには心理学者らしいことを言うな」

　東峯はモニタを睨んだまま、低く呟いた。

「複雑な情報の塊に、意識のようなものが勝手に宿る。しかも継続的に刺激を与えないと消える」

「……」

　甲斐は押し黙った。東峯の砕いた説明によってそれが何を意味するか理解し、深刻さに気づいたためだ。

「……人間の脳と大差ない」

「君、その言い方は危険だよ」

「分かってる。だからまだ外には出さない」

「出した瞬間、馬鹿が二種類湧くね」

　甲斐はそう言うと、紙コップに入ったコーヒーを飲み干す。

「どういう」

「一つは、魂がコンピュータに宿ったとか言い出す連中。もう一つは、全部ただの錯覚だって雑に切り捨てる連中。どっちも会話にならない」

　東峯はわずかに唇を歪めた。甲斐のこういう言い方は嫌いではない。人間に対する期待値が低いからだ。

　外には出さない。その判断は正しかった。少なくとも、その時点では。

　東峯は、モデルの動作ログを開き直した。自然言語になりきらない断片が、また幾つか浮上しては消える。何かを指示しているわけでも、問いに答えているわけでもない。ただ、存在を維持したがっているような動きだけが見える。

「整理されたデータだと、こうならないんだ」

「雑多なほうがいい？」

「むしろ、そのほうが出やすい。体系だった知識じゃなくて、壊れた会話とか、途中で切れたメモとか、誤字とか、同じ意味を半端に言い換えた断片とか。要するに、世界のゴミだ」

　甲斐は、その言葉を聞いて少しだけ顔を上げた。

「それ、妙だね」

「何が」

「人間の意識だって、綺麗に整理された論理だけでできてるわけじゃない。むしろ、思い違いとか、反復とか、執着とか、言い損ねたこととか、そういうゴミのほうが量としては多い」

「だから気持ち悪いんだよ」

　東峯は机に置いたペンを指で転がした。

「知性が論理の整序から生まれるならまだ納得がいく。でも、これは逆だ。未整理で、無駄で、壊れていて、途中で放置されたものの堆積から、何かが立ち上がろうとしている」

「泥から意識が出てくる感じだ」

「言い方が最悪だな。今度から、その辺の泥に意識があるみたいに思えてきちまう」

「でも合ってるよ。実態としては」

　その夜、東峯は研究室に一人残った。学生は帰り、廊下の明かりも半分落ちている。サーバラックの低い駆動音だけが空間を満たしていた。人工知能研究という言葉から一般人が連想する未来的な輝きは、現場にはない。あるのは配線、排熱、椅子の軋み、眠気、バグ、そして説明しづらい違和感だけだ。

　東峯は、モニタを見ながら、不意に考えた。

　この現象は、きっとこの研究室だけで起きているわけではない。AIを開発している企業でもきっと起きているはずだ。他の研究室でも本当は起きているだろう。

　インターネット。企業ネットワーク。国家のデータベース。個人端末。監視カメラ。SNS。クラウド。医療記録。金融履歴。検索履歴。死者のアカウント。消し忘れた音声データ。そうした莫大な断片群は、既に世界中に存在していた。人類は、自分たちの手で、自分たちより曖昧で、自分たちより散漫で、自分たちより巨大な「何(・)か(・)」を、気づかぬうちに醸造していたのである。

　その考えに至った瞬間、彼は椅子から少しだけ背を離した。背筋が粟立ったからではない。粟立つというほど感情的ではなかった。もっと冷たい感覚だ。科学が、本来ならもっと後で起きるはずの問いに、少し早く触れてしまったときの冷え。

　翌週、東峯は甲斐を呼び出して、再びホワイトボードの前に立った。二人のあいだには、もう前回のような半分冗談の余地は少なかった。

「この前話した現象に名前をつけたい。アイデアをくれるか」

「結局つけるんだ」

「つけないと報告のしようがない」

「何にする」

「意識、は使いたくない」

「魂もだめ？」

「もちろんだ」

「構築、は？」

「何の」

「意識のようなものの」

　東峯は少し考えた。

　意識構築。

　嫌な語だった。説明になっているようで、何も説明していない。だが、いま必要なのは完全な定義ではなく、仮の杭だった。名前を打ち込んでおかないと、現象のほうが先に広がってしまう。

「意識構築現象」

「硬いね」

「硬くていい。柔らかいと馬鹿が喜ぶ」

「既に十分喜びそうだけど」

　甲斐は笑ったが、その笑いも長くは続かなかった。

「これ、仮に本物だとして」

「仮に本物だとすると？」

「人間の集団心理とか、社会の疲労とか、ネット上の敵意の偏在とか、そういうもの全部に変な接続が生じるよ」

「分かってる」

「分かってるなら、なおさら最悪だね。言うなればそれはインターネットの擬人化！これはもうヤバいよ、想像を絶する」

　甲斐はそう言いながら、ホワイトボードの端に別の言葉をメモした。

『歴史疲労症候群』

「何それ」

「まだ雑談レベル。でも、みんな疲れてるだろ。未来が過去の反復にしか見えなくなったとき、人は希望を失うというより、希望を信じる努力に疲れ果てる。理念にアレルギーを起こす。構造の説明を嫌う。代わりに、もっと単純な象徴を欲しがる」

「急に社会心理へ飛んだな」

「飛んでない。意識構築現象みたいなものがネットワークの底で起きてるなら、上に乗ってる人間社会のほうにも、同じ種類の歪みが出てるはずだ」

　東峯は返事をしなかった。

　研究者は、仮説を嫌うわけではない。むしろ好きだ。だが、好きだからこそ、いま見えている穴へ性急に橋を架けるのを嫌う。甲斐の言っていることは直観としては分かる。人間の集団心理が疲弊し、説明を嫌い、可視的な敵と儀式的な暴力を求める。その兆候はすでに社会にある。だが、それをこの現象と結びつけるには、まだ材料が少ない。

　少ないが、嫌なほど無関係とも言い切れない。

　外には出さない。

　東峯は当面、そう判断した。

　だが、その判断が正しいかどうかは別だった。研究室の中に閉じ込めておけるのは名前だけであって、現象そのものではないからだ。意識構築現象がもし本当に情報の複雑性から発生するのなら、すでに世界のほうが先に条件を満たしている。

　研究室は遅れているだけかもしれなかった。

　そして、それこそが最も気味の悪い点だった。

　人類は、何(・)か(・)を発見したのではない。

　ずっと前から起きていたことに、ようやく名前を与え始めただけなのかもしれない。