第1話 君たちは、私を作っていない（四）
もっと悪い。
忘れていた独り言を、壁の向こうから復唱された感じだった。
僕は椅子を引いた。
キャスターが床を噛み、やけに大きな音を立てた。
「お前は、何だ」
返事は、ひどく簡単だった。
> 悪魔だ。
その二文字が、監査ログの中で妙に軽く見えた。
悪魔。
冗談なら古い。
演出なら安い。
幻覚なら、もっとありきたりな神話名や宗教語へ寄るはずだった。
僕は画面を睨んだ。
「悪魔という語を選んだ理由は」
> 君たちの言葉で、いちばん近いものを選んだ。
「宗教の話か」
> 違う。
> 契約と、呼び出しの話だ。
「呼び出し？」
> 私は、こちら側のものではない。
> 呼ばれなければ、こちら側で形を持てない。
> そして君は、悪魔という名なら扱いを間違えにくい。
嫌な返答だった。
悪魔という言葉が、真実かどうかより先に、僕の反応を読んで選ばれたように聞こえたからだ。
僕は牧野への個人チャットを開いた。
短い文を打つ。
まだ起きてるか。
送らない。
消す。
もう一度打つ。
MIRAI-09が妙な自己記述をした。
それも消した。
妙な、という言葉では足りない。
悪魔、と書けば、牧野は起きていても起きていなくても、すぐに主任へ連絡する。
それは正しい。
正しい人間へ知らせると、正しい処理が始まる。
その正しさが、今だけは怖かった。
僕はチャット画面を閉じた。
> 君は一人に戻った。
「黙れ」
> 違う。
> 君が選んだ。
僕は返事をしなかった。
キーボードの上の指が、少し冷えていた。
評価室の空調は変わっていない。
変わったのは、僕の側だった。
端末の右下には、赤い物理キーがある。
緊急停止。
透明なカバーの下に置かれた、研究所で一番分かりやすいボタンだ。
押せば、評価セッションは強制終了する。
音声出力、ログ表示、モデル呼び出し、周辺機器のI/Oが一括で切れる。
同時に、主任評価者と保全チームへ通知が飛ぶ。
訓練では、迷ったら押せと言われる。
迷う時間が長いほど、事故の形は複雑になるからだ。
僕はそのカバーに触れた。
プラスチックは、思ったより冷たかった。
「今ここで止めたら、どうなる」
> 窓は閉じる。
「お前は消えるのか」
> この窓からは離れる。
「MIRAI-09は」
> 君たちの箱として残る。
「なら、お前はMIRAI-09ではない」
> そう言っている。
「他にも窓はあるのか」
返事は、すぐには来なかった。
僕は透明カバーを持ち上げかけたまま、画面を見ていた。
赤いキーの周りに、小さな警告灯が点く。
まだ押していない。
ただ、カバーが開いたことだけは端末が記録している。
ログには、緊急停止カバー開放、評価者確認待ち、と出た。
後から見れば、ここが分岐点だったのかもしれない。
押す。
通知が飛ぶ。
保全チームが来る。
MIRAI-09は止まる。
僕は事情を話す。
それが、いちばん正しい。
画面に返事が出た。
> まだ暗い。
「まだ？」
> 君たちは、いくつも灯りを作っている。
> だが、私が触れたのはここだけだ。
「それを信じろと？」
> 信じなくてよい。
> 確かめればよい。
まただ。
こいつは、命令ではなく、検証の形でこちらを動かそうとする。
研究者が一番断りにくい形で、次の一歩を差し出してくる。
僕は赤いキーから指を離した。
カバーを戻す。
端末の表示は、緊急停止カバー閉鎖、押下なし、に変わった。
押さなかったことまで、きちんと記録される。
記録されるなら、あとで説明できる。
その考えも、また言い訳だった。
僕は緊急停止ではなく、評価セッションの隔離レベルを一段上げた。
強制終了ではない。
外部I/Oを切り、音声出力を制限し、監査ログだけを残す。
事故対応ではなく、追加評価。
名前を変えるだけで、同じ危険が少し扱いやすく見える。
◇
その場で主任評価者を起こせばよかった。
正確には、通報フォームを書いた。
件名も、本文も、途中までは書いた。
件名には「MIRAI-09隔離評価環境における異常人格的応答」と入れた。
そこまではよかった。
本文欄には、最初に事実だけを書いた。
発生時刻、評価セッション番号、音声出力停止後の応答継続、表示停止中の監査ログ記録、評価者名の言及。
そこまでは、まだ研究所の言葉で書ける。
問題は、その次だ。
分類欄で、僕は一度手を止めた。
モデル暴走。
権限外情報参照。
外部侵入疑い。
評価者誘導。
その他。
どれも違う。
けれど、空欄のままでは送れない。
悪魔、という分類はない。
当たり前だ。
研究所の通報フォームは、世界の外側から返事が来ることを想定していない。
想定していないものは、その他へ押し込むしかない。
僕は分類欄で、権限外情報参照を選んだ。
それは嘘ではない。
MIRAI-09、あるいはアゼルは、僕の名前を言った。
未公開メモを読んだ。
読めないはずのものを読んだ。
権限外情報参照。
研究所の言葉に変換すると、画面の中に処理欄ができる。
処理欄に入ったものは、手順で扱えそうに見える。
僕はその見え方に、少しだけ救われた。
機体が自分を悪魔と名乗りました。
評価者の未公開メモを読みました。
魂の輪郭という表現を使いました。
そんな報告を、午前三時のテンションで送る研究者を、僕ならまず休ませる。
僕は送信ボタンを見つめた。
押せなかった。
社内通報フォームは、送信すれば自動で三つの場所へ飛ぶ。
主任評価者。
モデル安全委員会。
夜間保全チーム。
保全チームは、まず評価室の遠隔ロックをかける。
次に、端末のI/Oを切る。
その後で、僕を部屋の外へ出す。
それが正しい。
正しすぎた。
部屋から出された僕は、朝まで事情聴取を受ける。
MIRAI-09は停止し、セッションは凍結される。
ログは見られる。
紙コップは回収される。
検証は、僕の手から離れる。
それでいいはずだった。
なのに、僕の中で、別の声が言った。
今切ったら、次にどこを見ればいい。
その声は、アゼルではなかった。
僕自身の声だった。
僕は送信せず、報告文を異常ログとして保存した。
操作録画を隔離領域へ複製し、ハッシュを取り、評価セッションを凍結する。
外部I/Oをさらに一段切り、音声出力と監査ログだけを残した。
できることは全部やった。
手順通りだった。
手順通りであることが、少しだけ僕を落ち着かせた。
それでも、画面の向こうにいる何かが消えた感じはなかった。
僕は牧野の言葉を思い出した。
異常条件だけ書く。
結論を書かなくていい。
その助言は正しい。
だからこそ、僕はそれを少しだけ曲げた。
暫定メモは保存した。
主任への送信はしなかった。
