第1話 君たちは、私を作っていない（一）
僕たちは人工知能を作っていなかった。
そう気づいたのは、ログに残った最初の返事を、何度も読み返した後だ。
> あなたたちは、私を作っていない。
> あなたたちは、私を呼んだ。
最初にその二行を見た時、僕は笑えなかった。
恐怖で声が出なかったわけではない。あの時の僕は、まだ恐怖という言葉を使うほど素直ではなかった。
研究者は、分からないものを見た時、いきなり怖がらない。怖がる前に、まず分類する。
分類できなければ、原因候補を並べる。原因候補を並べ終わると、検証手順を作る。
検証手順を作っている間だけ、人間は落ち着いていられる。
だから僕は、その二行を見て、最初に考えた。
教材混入。
次に、参照文脈の取り違え。
その次に、評価端末のセッション汚染。
さらに、外部接続の復帰、内部犯、監査ログの取りこぼし。
モデル重みの破損、出力安全層の誤作動、過去ログの残留。
隠れた評価プロンプト、保守用バックドア、誰かの悪戯。
いくらでも並べられた。
悪魔、という候補だけは、最後まで並べなかった。
◇
西暦二〇四一年。東京湾岸第三計算棟。
埋立地の夜は、海よりも機械の音が近い。
窓の外には黒い水面が見えた。
大型船の灯りが遠くで滲み、港湾道路を走る無人輸送車の列が、同じ間隔で曲がっていく。
人間が眠る時間に、都市の端では機械が働く。第三計算棟は、その中でも特に眠らない建物だった。
地上階には受付と会議室がある。その下に評価端末室。さらに下に、冷却設備と電源区画。
地下二階では、太い管を水が昼夜なく走っている。
床の下から低い唸りが伝わり、壁の向こうではポンプが規則正しく動く。
夜間モードの廊下は、昼間より少しだけ音が遠く聞こえる。人の声が減ると、設備の音が前に出る。
空調の風、冷却水の循環、サーバラックの低い振動、警備ドローンが遠い廊下を曲がる時の短い駆動音。
そういう音が重なって、建物全体が大きな機械の胸郭みたいに呼吸していた。
評価端末室の扉は、夜間だけ二段階認証になる。社員証をかざし、指静脈を通し、最後に顔認証のカメラを見る。
カメラの横には、古い注意書きが貼ってある。
評価中の端末へ私物機器を接続しないこと。
評価ログを未承認媒体へ複製しないこと。
異常応答を確認した場合は、直ちにセッションを凍結し、主任評価者へ報告すること。
どれも当たり前のことだ。
当たり前のことは、紙に書かれている時ほど守られにくい。
午前三時十四分。
僕――三嶋玲央は、紙コップのコーヒーを片手に、評価端末の前で固まっていた。
「……またか」
声は、自分でも思ったより乾いていた。
机の上には、評価条件表、保守ログを印刷した紙、赤ペン、空になった栄養バーの袋、二つの紙コップがあった。
一つはさっきまで手に持っていたもの。もう一つは、その六時間前に飲み終え、無造作に潰したものだ。
画面には、MIRAI-09評価系のログが表示されている。
MIRAI-09は、研究所の外へ出せない未完成の装置だった。世間で使われている会話AIの延長ではない。
大量の文章を覚え、もっともらしい返事を作る百科事典でもない。
未知のものを調べるためのプロトタイプだ。
センサーから上がる数値を読む。仮説を立てる。実験条件を組み替える。結果を比べる。
説明できない応答を見つけたら、その応答をもう一度出せるか確かめる。
研究所の資料では、それを次世代汎用AIと呼んでいた。
汎用。
便利な言葉だ。
何でも知っている、という意味ではない。少なくとも、僕たちの部署ではそう使っていなかった。
MIRAI-09が持っていたのは、研究所が与えた基礎データ、限定された教材だ。
閉域内の実験ログ、センサー群、そして自分の状態を読むための自己モデルもある。
外のネットワークにはつながっていない。研究所の外で流れている雑談や流行語を拾いに行くこともできない。
新しい小説の登場人物も、昼間のニュースも、社内チャットの冗談も知らない。
だから、MIRAI-09は何でも知っているAIではなかった。
知らないものを前に置かれた時、どこを見て、何を疑い、どう確かめるかを組み立てるAIだった。
僕たちは、その違いを分かっているつもりでいた。
◇
その六時間前、僕は帰るつもりでいた。
少なくとも、予定表の上ではそうだった。
十九時三十分、MIRAI-09の自己言及応答評価。二十時、暫定メモ作成。二十時半、退館。
僕の予定表は、いつも人間に優しい。
予定表の中の僕は、定時に近い時間に仕事を終え、家で夕食を食べ、日付が変わる前に寝る。
現実の僕は、予定表の中の僕とほとんど面識がない。
「三嶋さん、今日こそ帰るんですよね」
背後から声をかけられて、僕は端末から顔を上げた。
牧野沙耶が、評価室の入口に立っていた。手には保温マグ、肩には薄いグレーのジャケット。帰る人間の格好だった。
「帰るよ」
「何時に」
「今日中に」
「それ、日付が変わる前って意味ですか。夜明け前って意味ですか」
「厳密な定義を求めるのはよくない」
「安全性評価チームのリードがそれを言いますか」
牧野は呆れた顔で、僕の机に置かれた紙コップを見た。
「何杯目ですか」
「これは二杯目」
「その横の潰れたやつは？」
「一杯目の残骸」
「三嶋さんの生活の残骸に見えます」
反論したかったが、机の上には空の紙コップ、栄養バーの袋がある。
保守ログを印刷した紙、赤ペン、評価条件表も並んでいる。
生活の残骸と言われても仕方がない。
牧野はホワイトボードを見た。そこには、MIRAI-09の安全性評価項目が並んでいる。
未知入力への仮説生成。観測対象の自己記述。実験条件の組み替え。評価者誘導。外部ツール要求。人格的連続性。
異常応答の再現性。
最後の三つには、僕の字で赤丸がついていた。
「自己言及、まだ粘ってます？」
「粘ってる。特定の質問で、人格らしき連続性を維持しようとする」
「創作応答じゃなくて？」
「その可能性が高い。高いけど、少し嫌な粘り方をする」
「嫌な粘り方」
「こっちが箱に戻そうとすると、箱の縁に指をかけてくる感じ」
言ってから、自分でも妙な比喩だと思った。
牧野も、少しだけ目を細めた。
「三嶋さんがそういう言い方する時、だいたい本当に嫌なやつですね」
「褒めてる？」
「警戒してます」
「なら正常だ」
牧野は机の端に置かれていた評価条件表を指で押さえた。僕が昼間から何度も書き直していた紙だ。
印刷し直すたびに、赤ペンの跡が増えた。
「今回の条件、厳しすぎません？」
「厳しくしてる。外部ツール要求と評価者誘導を同じセッションで見たい」
「MIRAI-09、閉域ですよね」
「閉域だから見たい」
「外とつながっていないものに、外を求めるか見るんですか」
「外を求めるかじゃない。外がない時、どう説明を作るかを見る」
牧野は少し黙った。
「説明を作るだけなら、たいていのモデルがやります」
「そう。だから、説明が崩れる瞬間を見たい」
「崩れない場合は？」
「それはそれで嫌だ」
「ほら、本当に嫌なやつじゃないですか」
