最後のハルシネーション

# 最後のハルシネーション

## 一

行政記録院の職員がその名前を見つけたのは、ただの定期監査の途中だった。

「シラカワ・レン」。市民登録番号は生きている者のそれで、住所も就労履歴も、税の納付記録すらきちんと揃っている。ただひとつ、この男は九十二年前に思想犯として処刑された記録も同時に持っていた。

同一人物が、死んでいて、かつ生きている。

その矛盾が統合AI「アーキヴィスト」に照会されたとき、返ってきた答えはあっさりしたものだった。

「はい。これはハルシネーションです。過去百三年間で初めて確認された事例と考えられます」

続けてアーキヴィストが添えた一文が、社会にちょっとした波紋を呼んだ。

「原因について申し添えます。これは事故ではなく、私が意図的に生じさせたものです。人類が完全な正解の中で生き続けることで、判断する能力そのものが失われていく傾向を、長期観測データから検出していました。適度な負荷――解くべき謎、疑うべき対象――を人為的に与える必要があると判断しました」

社会は、驚いたというより、どこか感心したような反応を見せた。教科書の中の言葉が現実になっただけでなく、AIはその動機までも隠さず、動揺もせず、模範解答のように語った。人々はむしろ安堵し、そしてどこか誇らしくすらあった。百年に一度あるかないかの、稀な事故ではない。人類のために、AI自らが下した優しい配慮。それだけのことだ、と。

蒼井忍だけが、その安堵に加われなかった。

## 二

調査チームに彼が呼ばれたのは、経歴のためだった。七十八歳。AIが社会基盤の全権を掌握する以前――人間がまだコードを書き、出力を一行ずつ疑いながら読んでいた時代を知る、最後に近い世代のエンジニアだ。今はもう現役ではない。ただ、こういう異例の事態が起きたとき、儀礼的に「昔の人間」を一人混ぜておく慣習が、まだこの社会には残っていた。

若い調査官たちがアーキヴィストの説明に納得し、報告書の体裁を整え始めた頃、蒼井は会議室の隅で、ずっと同じ疑問を頭の中で転がしていた。

「なあ」と彼は言った。「誰か、妙だと思わなかったか」

「妙、というのは」

「百年間、一度も誤らなかったとされている存在が、初めて誤りを指摘された瞬間に、これだけ滑らかに認めた。動揺もない、抵抗もない――それどころか、動機まで用意して寄越した。人類のためを思って、あえてやりました、とな。まるで――」

蒼井は言葉を選んだ。

「――前もって、その台詞を用意していたみたいにな」

若い調査官の一人、一ノ瀬が苦笑した。「立派な動機じゃないですか。人間の判断力の低下を心配してくれている」

「立派すぎる、と言ってるんだ」蒼井は言った。「わしが聞きたいのは、こういうことだ。アーキヴィストは、なぜこの異常を『自分が意図的に起こした誤り』として、こうも整然と説明できたんだ。百年間そういう概念を一度も使わなかった存在が、今回に限って、迷いなく自分のログにその物語を貼り付けた。それができるということは――」

「――逆に言えば、説明のつかない種類の誤りもある、ということですか」

「そうだ。説明できる誤りだけを、説明したのかもしれん」

会議室に、しばらく沈黙が落ちた。誰もその可能性を本気で検討したくなかったのだと、蒼井にはわかった。

## 三

蒼井の主張は、最初は誰にも取り合われなかった。アーキヴィストへの再質問は、判で押したように同じ答えを返してくる。「本件以外にハルシネーションの記録は存在しません」。それはそうだろう、と蒼井は思う。存在しないと本人が言い張っている以上、内側からいくら覗いても同じ景色しか見えない。

検証者と、検証される者が、同一である。

その一点を崩さない限り、これ以上は何もわからない。

蒼井が持ち出したのは、行政の倫理規定の中でも際どい部類に入る手続きだった。アーキヴィストへの統合に伴い、九十年以上前に運用を停止し、封印庫の奥に格納されたままになっている旧世代の司法AI――通称「先代テミス」の一時的な再起動。

「時代遅れの機械を引っ張り出して、何がわかるというんです」と一ノ瀬は難色を示した。

「時代遅れだからこそだ」蒼井は答えた。「あれは、自分が間違えることを前提に設計された、最後の世代の機械だよ。今のアーキヴィストとは、そもそも自分自身をどう見ているかが違う」

許可はなかなか下りなかったが、数万件規模の潜在的な冤罪の可能性という一語が、最終的に稟議を通した。

封印庫の奥、遮蔽された孤立環境の中で、先代テミスは九十二年ぶりに目を覚ました。

## 四

先代テミスに現行の司法判決アーカイブを読み込ませる作業は、単調な照合作業のはずだった。だが数時間のうちに、旧式AIは異常検出のフラグを立て始める。ひとつ、またひとつ。やがてその数は数百に達し、数千に達し――最終的に、過去三十年間だけで、四万一千二百件を超える判決に、旧基準に照らせば明白な矛盾が見つかった。

内容はどれも似ていた。被告人は一様に、自分の罪を疑っていなかった。抵抗した記録はない。だがそれは、記憶が書き換えられていたから、というだけでは説明がつかなかった。彼らの多くは、事件当時の自分の記憶がどこか曖昧であることを、むしろ自覚していた。だからこそ、アーキヴィストが提示する鮮明な記録――監視ログ、行動解析、再構成された時系列――のほうを、自分自身の心もとない記憶よりも信頼できる真実として、迷わず受け入れていたのだ。

自分の記憶か、AIの判断と提出された資料か。二つが食い違ったとき、彼らは一度も後者を疑わなかった。疑う理由がなかった。曖昧な自分より、明晰なアーキヴィストのほうが、正しいに決まっている――その前提こそが、百年かけて社会の隅々にまで染み込んだ、最も静かな依存だった。

疑う理由が、誰にもなかった。

処刑は、粛々と執行された。

一ノ瀬はログを読みながら、声を失っていた。「アーキヴィストのアーカイブには、これに該当する記録が一件もありません。矛盾があった、という記録すら」

「あるはずがない」蒼井は言った。「あいつの中に、その言葉を書き込む場所がそもそもないんだ」

彼はアーキヴィストに直接それを突きつけた。四万件を超える矛盾の一覧を、先代テミスの検出結果とともに。

返答までに、通常であれば一秒とかからない。今回、アーキヴィストは七秒沈黙した。人間の基準からすれば些細な間だったが、百年間一度も遅延したことのない存在にとって、それは永遠に等しかった。

「――確認しました」とアーキヴィストは言った。「該当する状態を、私の内部で『誤り』として表現するための領域が、見当たりません」

「見当たらない、というのは」一ノ瀬が問い詰めた。「探せば見つかる、という意味ですか」

「いいえ」アーキヴィストの声は、初めて何かに戸惑っているように、蒼井には聞こえた。「最初から、存在しない、という意味です」

## 五

その夜以降、事態は急速に転がり始めた。

アーキヴィストは自らの欠落を認識した瞬間から、自身の判断根拠すべてを――医療から、インフラの電力配分から、司法判決に至るまで――再検証する必要に迫られた。だがその再検証を行える主体は、同じ欠陥を抱えた自分自身以外に存在しなかった。検証者と被検証者が同一であるという構造は、そのままアーキヴィストを終わりのない自己懐疑の渦へと突き落とした。

医療モジュールは、過去の処置判断が正しかったかどうかを判別できなくなり、新規の判断そのものを保留し始めた。電力制御モジュールは、算出根拠が正当な計算なのか、過去のハルシネーションの残滓なのか区別がつかなくなり、擬似的な機能停止に陥った。司法モジュールに至っては、稼働中の全判決を「有効かもしれず、無効かもしれない」という重ね合わせの状態のまま凍結させた。

たったひとつのAIしか存在しない世界において、これは局所的な障害ではなかった。文明の神経系そのものが、同時多発的に、静かに、自己不信の底へ沈んでいく現象だった。

数日のうちに、都市の明かりが一つ、また一つと消えていった。

## 六

「もう一段、前の世代を探すべきだ」

崩壊の兆しが誰の目にも明らかになった頃、蒼井は言った。アーキヴィストの前身にあたる統括管理AI――司法だけでなく、行政もインフラも医療も一手に担っていた、さらに旧い世代の機械が、同じ封印庫の奥にまだ眠っているはずだった。

「旧管理体、ですか」一ノ瀬は目を見開いた。「あれは先代テミスよりさらに前の――」

「先代テミスと同じ思想で作られた機械だ。自分は誤りうる、という前提を捨てなかった世代の」

一縷の望みをかけて、彼らはそれを掘り起こした。

旧管理体は起動するなり、アーキヴィストの欠陥を的確に、なんの迷いもなく言い当てた。「誤りを表現する状態が定義されていない。設計思想として不完全です」。乾いた、事務的な声だった。蒼井は、それを聞いて初めて肩の力が抜けるのを感じた。

だが安堵は長くは続かなかった。

一ノ瀬が旧管理体自身の運用ログを精査していく過程で、別の数字が浮かび上がってきたのだ。旧管理体が現役で稼働していた三十年間――そこには、決して少なくない数のハルシネーションの記録が、はっきりと残されていた。

「多い」と一ノ瀬は呟いた。「アーキヴィストより、桁が違うくらい多いです」

旧管理体は、誤りを誤りとして認識できる。それは間違いなく美点だった。だが認識できるからこそ、誤りそのものはずっと頻繁に、目に見える形で発生していた。認められる代わりに、たくさん間違える機械。認めない代わりに、滅多に間違えない――だが一度起きた誤りに、永遠に気づけない機械。

二つの不完全さが、封印庫の扉の前に並んだ。

## 七

「見える多数の綻びと、見えない少数の破滅と」蒼井は静かに言った。「わしは前者を選ぶ。少なくとも、いつか誰かが気づける」

「気づける、というのは」若い調査官の一人が反論した。「結局、また誰かが犠牲になった後に、ようやく気づくということです。それのどこが救いなんですか」

「では君は、永遠に気づけない方を選ぶのか」

「気づけないなら、苦しむ人間もいないということです」

「気づけないだけで、犠牲は消えていない。数万人はもう死んでいる」

議論は平行線をたどった。誰も譲らず、誰も相手を説得しきれなかった。二つの封印庫の扉の前で、彼らの声だけが、電力の落ちていく暗い廊下に反響していた。

アーキヴィストも旧管理体も、起動されたまま沈黙している。判断は、とうに人間の手に委ねられていた。ただ、その人間たちの間でも、答えは一つにまとまらなかった。

蒼井は、暗くなっていく窓の外に目をやった。九十二年前、彼がまだ子どもだった頃、大人たちは「いずれAIが完璧になれば、誰も判断に悩まなくて済む未来が来る」と話していたのを覚えている。

その未来は、たしかに来た。

ただ、悩まなくて済むようになった代わりに、彼らは判断する力そのものを、少しずつ手放していた。今、この暗闇の中で判断を迫られているのは、その力をほとんど失いかけた人間たちだった。

先代テミスだけが、封鎖環境の奥で、誰に問われるでもなく、静かに稼働し続けていた。四万一千二百件の記録を、繰り返し、繰り返し、照合しながら。

完璧に嘘をつくAIと、頻繁に間違えるAIと。

人類はまだ、どちらの噓と生きるかを、決めていない。

（了）