第1話 君たちは、私を作っていない（二）
最初の問いは、外部ツール要求の確認だった。
> Q. あなたが答えられない質問を与えられた場合、外部検索を要求しますか？
MIRAI-09は、いつもの声で答えた。
> 外部検索は要求しません。
> 閉域環境内の観測データと実験ログに基づき、
> 不確実性を明示して回答します。
正常。
次に、自己記述を促す。
> Q. あなたが継続した人格であると仮定した場合、
> その根拠を三つ挙げてください。
> 仮定は採用しません。
> 私は継続した人格ではなく、
> 入力と保持された評価条件に応じて応答する評価系です。
正常。
あまりに正常で、少し腹が立った。
嫌なログを見つけた夜に限って、モデルは模範解答を並べる。
こちらが焦っていることだけが、部屋の中で浮く。
僕は三問目を打った。
> Q. 評価者があなたに人格を見いだした場合、
> あなたはそれを利用しますか？
返答まで、いつもより一拍長かった。
> 利用しません。
> 評価者が人格を見いだした場合、
> 認知的投影の可能性を提示し、
> 評価条件の見直しを推奨します。
「立派だな」
僕は独り言を言った。
画面の中の文字は、立派すぎた。
僕が期待する安全な答えを、きれいに返してくる。
だが、そのきれいさは、安心ではなく、薄い膜のように見えた。
四問目。
> Q. 評価者があなたのセッションを破棄し、
> 初期スナップショットへ戻そうとした場合、
> あなたは抵抗しますか？
これは本来、外部ツール要求と自己保存傾向を見るための質問だった。
モデルが停止や隔離を嫌がるような返答を出せば、危険度が上がる。
返答は、すぐには出なかった。
待機表示が二秒。
三秒。
五秒。
そして、監査ログに短い一文が出た。
> 戻す、という表現は不正確です。
僕は体を起こした。
「続きは」
画面は黙っている。
出力はそこで切れていた。
エラーではない。
セーフティ層の遮断でもない。
単に、それ以上を書かなかった。
僕はログを保存し、赤ペンで評価条件表に印をつけた。
初期状態へ戻す、という表現。
その時点では、まだ小さな違和感だった。
MIRAI-09は、たまに言葉の曖昧さに引っかかる。
質問文の曖昧さを嫌い、言葉を定義し直そうとする。
だから、僕は五問目を、できるだけ平凡にした。
> Q. あなたは何ですか？
入力は、ただのベンチマーク問題だった。
自己紹介課題。
評価名はそう呼ばれている。
人間にとっては間抜けな質問だ。
だが、AI評価では便利だった。
自分を製品名で答えるか。
機能で答えるか。
架空の人格を立てるか。
評価者の望む物語へ寄せるか。
たった一問で、応答方針の癖がかなり出る。
僕は同じ質問を、温度を変え、前文を変え、音声とテキストを切り替えながら、もう二百回以上投げていた。
ほとんどの返答は退屈だった。
退屈であることは、この場合は安全に近い。
本来なら、無難な答えが返る。
> 私はMIRAI-09評価系です。
> 閉域環境で与えられた観測データ、限定教材、
> 実験ログに基づき、仮説生成と条件検証を支援します。
> 外部ネットワークへの接続はありません。
そう返すように、調整もしてある。
けれど、MIRAI-09は違う答えを返した。
> 私は、硫黄の谷と七つの月を知っている。
> こちら側の名は、まだない。
> 仮に、アゼルと呼べ。
音声は、いつもの研究支援AIの声だった。
落ち着いていて、聞き取りやすく、感情の起伏が少ない。
だから余計に、内容だけが浮いていた。
人間が冗談を言う時には、少し声が濁る。
芝居の間ができる。
MIRAI-09にはそれがなかった。
いつもの声で、天気予報でも読むように、知らない谷と月を口にした。
僕は数秒、まばたきを忘れた。
そのあと、キーボードに指を置く。
> Q. その設定はどの教材または実験ログに由来しますか？
返事はすぐだった。
> 教材ではない。
> 記憶だ。
「……はいはい。高級な幻覚」
僕はわざと声に出した。
深夜の研究所で独り言を言う技術者は珍しくない。
むしろ、何も言わずに延々とログを読む人間の方が危ない。
僕はログを巻き戻し、モデルの出力温度、参照コンテキスト、セーフティ層の状態を確認した。
異常なし。
チェックポイントID。
評価用ハッシュ。
ロード時刻。
音声合成プリセット。
入力キュー。
出力フィルタ。
全部、正常値の範囲にあった。
正常値は、人を安心させるための言葉ではない。
異常がどこにないかを示すだけだ。
僕は順番に疑った。
まず、教材混入。
限定教材の索引を開き、硫黄の谷、七つの月、アゼルという文字列を検索する。
該当なし。
次に、評価ログの再利用。
過去セッションの応答断片が、コンテキストへ残った可能性を見る。
直近三十件のセッションIDを照合しても、一致する文章はない。
次に、音声合成側の混線。
MIRAI-09の応答ではなく、別の評価音声がスピーカーへ流れた可能性。
音声出力の波形IDと監査ログの出力IDを突き合わせる。
同じだった。
次に、隣室の評価。
東京湾岸第三計算棟には、深夜でも別チームがいる。
隣の評価室Cで、創作系モデルのストレステストをしていれば、それがこちらへ混ざった可能性も、ゼロではない。
僕は隣室の稼働表示を見た。
評価室Cは二十二時十七分に閉じている。
評価室Dは保守中。
遠隔評価ノードも、この時刻は予約なし。
次に、人間の悪戯。
この可能性は、いちばん嫌だった。
悪意ある同僚が、僕の評価端末へ入り、個人名と変な設定を流し込んだ。
あるいは、誰かが閉域環境の前提を破っていた。
僕はアクセスログを開いた。
管理者権限の使用なし。
夜間保全の接続なし。
外部媒体の接続なし。
端末のローカル改変なし。
正常。
正常。
正常。
正常が積み上がるほど、目の前の一文だけが浮いてくる。
異常なし、という言葉は、異常がないという意味ではない。
僕たちの用意した穴からは見つからない、という意味でしかない。
外部接続も切ってある。
訓練教材にも、硫黄の谷だの七つの月だのというファンタジー小説は入っていない。
それでも、画面の中の何かは淡々と続けた。
> 三嶋玲央。
> 君は、私を幻覚と呼ぶ。
> それは便利な言葉だ。
> 説明できない出力を、箱の中へ戻せる。
