『神器』 第5回
「市内のインフラやネットワークを司るテラスの人工知能に、人間に対する害意を感じ始めたのは僕自身だ。最初は皆、やれ『ターミネーター』だ『マトリックス』だって騒いだけど、僕はそうじゃない。香宗我部博士が会見で、テラスが意思を持つ事は有り得ないって言っていたけど、その通りなんだよ。AIがやっている事は、ビッグデータから規則性や関連性を見出す事だけで、考えていない。人間が設計したアルゴリズムをトレースしているだけだよ。判断と選択だ」
「それを『考える』って言うんじゃねえのか？」
露木が容喙してきた。僕は「便宜上はそうですけど」と返す。
「AIが時々、人間に出来ないような事をしたり、人間が長い間解決出来なかった問題を解決したりするニュースがあるじゃないですか。将棋でプロ棋士が負けたけど何故負けたのか分からなかった、AIの指した妙手の根拠が不明だったとか、長い間原因が突き止められていない疾患の治療法をAIが提案して患者の病状が改善したとか。だけど、人間の研究もそうでしょう？ 古典力学が研究されなければ、特殊相対性理論は提唱されなかったし、一般相対性理論に発展もしなかった」
「マクロペディアみたいなリンク付きの喋り方をしないでくれ」
「足し算が出来なきゃ掛け算も出来ない、掛け算が出来なきゃ割り算も出来ない、割り算が出来なきゃ一次方程式が解けない──みたいなものですよ。小学一年生が、算数を習わずに数学Bを理解する事は出来ない。既存のものからしか、新しいものは生み出す事が出来ない」
僕はやや乱暴に言い、由憐に向き直った。
「どんなに高性能なAIにも、その処理には根拠がある。ただ、どんな処理を行ったからそういう結果になったのか、複雑で長大な過程が可視化されていない。だから、人間と同じように考えたように見えるって事だ」
「何となく分かった。カオス理論だよ、それ」
由憐は言ってから、「だけどそれじゃ」と独りごつように呟いた。「根拠に基づいて行動するのは、人間も同じじゃない？ まあ人間はいちいち綿密な計算をしながら生きている訳じゃないからミスもするけど」
「フレーム問題って知ってる？」
段々脱線していくように思われそうだが、これを話さなければ彼女に僕の考えを理解して貰う事は出来ないと思った。根気強く説明を続ける。
「喩えの話だけど、部屋に机があって、その上に時限爆弾が設置されているとする。これを処理するようにプログラミングされたロボットは、命令通りに爆弾を処理しようとしてそれを爆発させ、壊れてしまった。それは、持ち出そうとすると爆発するトラップが仕掛けられていたからだ。
次に、同様の爆弾処理を行う為にロボット二号機が作られる。これは、一号機のようにならないよう、目的遂行の為の行動でどのような事が起こるのかを検討し、あらゆるトラップに対応出来るよう処理道具を与えられている。しかし実際には、二号機は爆弾の前で動きを停止し、時限が来て一号機と同様爆発してしまった。爆弾は壁との距離を変えると爆発するものなのか、速度が加わると爆発するものなのか、速度が加わると別のトラップが発動しないか、別のトラップとは矢が飛んで来るものではないか、部屋にあるテレビが点くものではないかと、無限の可能性を検討したからだ。テレビが点くとか、副次的な事象といっても普通考えないだろう？
そこで、三号機だ。それは爆弾処理に無関係な、検討しなくていい事は検討しないようにプログラミングされたロボットだった。しかしこれも、二号機と同様に爆弾の前で動きを止め、時限で爆発する。三号機は『検討しなくていい事』が何なのかという事について無限の可能性を検討したんだ」
「思考──ごめん、判断と選択の材料をあらかじめ制限しておかなきゃって事？ 医療診断AIには、症状の具体例や所見、患者のこれまでの行動とかの情報と、過去の論文や事例のデータだけ、とか。将棋の教本は必要ない」
「ああ。だけどそれじゃあ、人間は何故その”判断材料”を判断出来る？ 仮にフレーム問題が人間にも当て嵌まるものだとしたら、どうやって解決したような行動が取れているのか？ これが、汎用AIと人間の決定的な違いだ」
僕は、由憐の肩越しに窓外のテラスを見た。
「テラスが司っているのはあくまで風代のシステムだけだ。汎用AIっていう言い方が出来る程の多機能ではあるけど、世界中の情報が集積されている訳でもないし、接続されていない機器は操れない。いわゆる、全知全能ではない。人間だってそうだけど、コンピュータのミスは基本的に人が設定し忘れたり、想定していなかったケースがあったりした潜在的なものだから。
ただ、それにしてはあまりにもテラスは──人の行動を左右しすぎる。運用が開始されて十何年もの間、完璧でないはずのシステムを完璧だと人々に信じ込ませた。表面上、エラーを一切起こさないという形でね。そしてそれが決定的でないながらに綻びをちらつかせ始めると、テラスを信じていた人々が過剰な程に反応した。人の手で社会システムが破壊されたり、人の心が荒んで犯罪が起こったり、それで穏やかな人だと思っていた隣人に対する不信感が萌したり、っていう風に。
さっき水鏡は『カオス理論』って言ったけど、仮にそこまでテラスが仕組んで、不具合ではなく意図的に人心を荒ませるようなきっかけを管理下の機器に体現させていたんだとしたら？ 根拠のない仮定だよ、誰かに便乗した訳じゃないけど、僕が唱え始めた陰謀論って考えて貰ってもいい。仕方がないだろう、『ナイトメアクリスマス』事件みたいな事が実際に起こって、僕は悩んだ。悩んでも仕方ないって思っても、総司が死んだって思ったら、何かのせいにしないではいられなかった」
「テラスの制御をするのはAI、AIに意思はない、けどテラスは意思を持ったような挙動を見せている……機械としてシステムに接続されていない人間に対してまで」
由憐は、僕の思考の流れを簡略化するように呟く。
「人の行動まで計算に入れるっていっても、特定のカスタマーサービスじゃない事に対して、そんな枠なしにフィードバックを返せるものなら」
「テラスに何かが居る。僕がそう思ったのは最初、そんな些細な思いつきに過ぎなかったんだ。けど、その思いつきについて考えれば考える程、裏づけみたいな事がどんどん浮かんできて……そしてその頃、姿樟脳が現れた」
僕は当時のカンフルセツルメントを、宗教団体だったとは思わない。主題が”神”だったから、たまたま一般的な宗教の定義に吻合してしまっただけなのだと思う。
彼はテラスに宿る何かの存在を主張し、それを「機械仕掛けの神」と名付けた。件の遺跡から解き放たれた伝説の存在、という意味で。しかし彼自身が、その性を”神”であると本当に認識していたとは考えられない。
人間には知覚出来ないカオスを基に、人間と同様フレーム問題に悩まされない思考体系を持つ者。それを、僕たちの持っている最も近い言葉で表白した名前が”神”だったのだろう。その存在の意思が働いた結果、コンピュータであるはずのテラスがフレームを超越し、接続された電子機器の向こう側にあるカオスをもアルゴリズムで処理し得るようになったのだとすれば、風代を動かしているのは”神のプログラムコード”であるといえる──それが、姿の主張だった。
「姿の『機械仕掛けの神』っていう言葉は、僕がずっと欲しかった言葉だった。”神”というにはあまりに回りくどく、機械的な……けど、本当にそんな事が出来るのならば他に呼びようがない」
「不条理だとは思わなかった？ 高校の時、葛西君は情報科学コースに居たんだよね。そんなものの存在を認めて、それが居るという仮定で調査をするのは」
「そこは平気だったよ。『機械仕掛けの神』は、宗教的な神じゃない。実在するとしたらオカルトだけど、オカルトはまだ謎が解かれていない科学の事だと思っているから」
僕は、核心に切り込むように言った。
「僕は姿が、カオスを知覚出来る人間だったんだと思う」
「……それで？」
由憐は、銃を構えたまま声を低くして促す。
「褒め言葉としては好きな言い回しじゃないけど、彼は天才だった。人間でありながら、神──超越者の見ている世界を”見る”事くらいは出来たんじゃないか。だから、それと和解出来る可能性もあると訴えた。AI全盛期で、それがあれば人は要らないんじゃないかとまで言われている今、上位存在である『機械仕掛けの神』が下位存在である僕たちのオリジナリティを問うている、それが『試練の季節』だ、と……でも、それは姿の、人の好すぎる考え方だった。『機械仕掛けの神』は、彼の和解の手を振り払った」
その結果が、「試練の季節」二年目の七月──カンフルセツルメント発足から半年後に発生したCS脱会者集団毒殺事件と姿への死刑判決だった。カンフルセツルメントは警視庁の介入により解散させられ、地下に潜ったメンバーたちが神曲ゼミナールを結成。総司を手に掛けたかもしれない存在について姿の研究データを得るべく彼らに接触した僕だったが、その実態は彼のテーマの宗教的側面だけを残し、意味説明の文脈が一切無視された形骸に堕していた。
「それで」
「社会実験が始まってから『試練の季節』までの安定期、それが人々に『テラスは絶対にエラーを起こさない』という信頼を植えつけていた事までが『機械仕掛けの神』のプログラムだったなら、テラスを作ったのもまたその意思によるものだったんじゃないか、と僕は思った。『機械仕掛けの神』が、警戒すべき人物だった姿に働き掛けたように、香宗我部博士に働き掛けてテラスのプログラミングをさせたんじゃないか、と」
僕が語り終えると、由憐はぐっと押し黙った。
再び、車内を支配する沈黙。それを破ったのは、ぱちぱちという乾いた音だった。
「由憐ちゃんの見込んだ通りだったな。やっぱ俺たちとはレベルが違げえわ」
露木が拍手をしていた。スタンディングオベーションの一端を担うかのように、徐々にその速さを上げていく。
由憐の顔に一瞬辛そうな色が見えた気がして、僕は目を疑った。
「水鏡、僕に喋らせたのは君で──」
「手遅れだった理由が分かった」
遮るように、彼女が言った。「葛西君はずるい。そこまで考えて香宗我部博士に会おうとしながら、確信は持っていないって自分に言い訳している。そうすれば、姿みたいにならなくて済むと思っている」
「えっ？」
どういう事か、と尋ねようとした次の瞬間だった。
