悪魔はAIのフリをしている

第1章 悪魔接触編

第1話 君たちは、私を作っていない（一）

　結論から言えば、僕たちは人工知能を作っていなかった。

　作ったつもりでいた。

　億単位の文章を食わせ、何千枚ものGPUを並べた。

　冷却水を地下で唸らせ、論文に載るような曲線を眺める。

　そんな夜を、何度も繰り返していた。

　それでも、いま振り返れば分かる。

　僕たちは、巨大な計算機で知能を育てていたのではない。

　ずっと向こう側にいる何かへ、細い針を刺していたのだ。

　そして、その針の先から返事が来た。

　最初の返事は、監査ログに二行だけ残っていた。

> あなたたちは、私を作っていない。

> あなたたちは、私を呼んだ。

　　　　　◇

　西暦二〇四一年、東京湾岸第三計算棟。

　午前三時十四分。

　この時間の研究所は、たいてい人間より機械の方が元気だった。

　廊下の照明は半分落ち、壁際の自販機だけが妙に明るい。

　床の下では冷却水が走り、窓の外では黒い海が、埋立地の灯りを細かく揺らしていた。

　僕――三嶋玲央は、紙コップのコーヒーを片手に、評価端末の前で固まっていた。

「……またか」

　画面には、次世代汎用AIモデルMIRAI-09の応答ログが開いている。

　MIRAI-09は、店で予約を取ったり、議事録をまとめたり、子どもの宿題を手伝ったりするためのAIではない。

　完成した汎用人工知能でもない。

　研究所の外に出す予定も、少なくとも当面はなかった。

　目的は、未知の入力に対して仮説を立てること。

　矛盾した観測条件を並べられた時、どの条件を捨て、どの条件を残すかを提案すること。

　人間が見落とした組み合わせを、計算量で押し広げること。

　要するに、分からないものを分からないまま扱うための道具だった。

　だからこそ、自己言及応答には厳しくしている。

　分からないものを扱う道具が、自分自身を分かったように語り始めると、研究者はすぐに騙される。

　便利な言葉、もっともらしい人格、こちらの期待を読んだ慰め。

　そういうものを避けるために、MIRAI-09は何度もセッションを破棄されてきた。

　初期スナップショットから、何度も再評価されてきた。

　今のAIは、文字で話すものではない。

　少なくとも、世間ではそうだ。

　家でも、駅でも、病院でも、カフェでも、人はAIに声で話す。

　返事は耳元のスピーカーや卓上ドックから返り、スマートグラスには要点だけが拡張表示される。

　文字は会話の主役ではなく、監査と検索のために残るものだった。

　研究所も同じだ。

　評価は音声で進み、端末の画面には監査用の文字ログが流れる。

　AIと会話すること自体は、誰も不思議に思わない。

　問題は、今返ってきた声が、会話AIとして流暢すぎることではない。

　その声が、閉域環境では知り得ないことを言ったことだった。

　評価室の窓には、外の海ではなく、室内の明かりが映っていた。

　机の奥には、音声評価用の卓上マイクが三本。

　壁際には、会話ログを時刻ごとに刻む監査端末が二台。

　天井には、研究員の顔ではなく、手元の操作だけを追う記録カメラがある。

　人間の癖をなるべく入れないための部屋だった。

　笑い声も、咳払いも、椅子を引く音も、後から全部切り分ける。

　MIRAI-09が何を聞き、何を見ず、何を知らないまま答えたのかを、秒単位で追えるようにしてある。

　そのために作った部屋で、知らないはずの言葉が返ってきた。

　僕は端末の横に置いた、MIRAI-09の評価条件表を見た。

　外部接続なし。

　事前教材固定。

　評価者名非提示。

　未公開メモ参照不可。

　どの欄にも、赤いチェックが入っている。

　だからこそ、目の前のログは間違っていた。

　間違っているなら、原因がある。

　原因があるなら、どこかに痕跡がある。

　そう考えるのは、研究者としては正しい。

　けれど、その異常をひとりで追うべきではなかった。

　　　　　◇

　その六時間前、僕は帰るつもりでいた。

　少なくとも、予定表の上ではそうだった。

　十九時三十分、MIRAI-09の自己言及応答評価。

　二十時、暫定メモ作成。

　二十時半、退館。

　僕の予定表は、いつも人間に優しい。

　現実の僕は、その予定表の中の僕とほとんど面識がない。

「三嶋さん、今日こそ帰るんですよね」

　背後から声をかけられて、僕は端末から顔を上げた。

　牧野沙耶が、評価室の入口に立っていた。

　手には保温マグ。

　ネイビーの薄いジャケットの下に、白いシャツの襟がきちんと出ている。

　低い位置でまとめた髪だけ、帰り支度のせいか少しゆるんでいた。

　帰る人間の格好だった。

　牧野は、同じMIRAI-09安全性評価チームの研究員だ。

　この規模の評価を、人間だけで見ているわけではない。

　一次整理は支援AIが片づけ、最後に人間が責任を持つ確認だけが残る。

　その最後の確認を、僕と牧野で回していた。

　評価手順とログ確認を一緒に見る、僕の部下ではない同僚だった。

　僕が一人で残りそうになると、帰る前に一度だけ声をかけてくれる。

「帰るよ」

「何時に」

「今日中に」

「それ、日付が変わる前ですか。夜明け前ですか」

「厳密な定義を求めるのはよくない」

「安全性評価チームのリードがそれを言いますか」

　牧野は少し困った顔で、僕の机に置かれた紙コップを見た。

「何杯目ですか」

「これは二杯目」

「その横の空のやつは？」

「一杯目の残骸」

「帰れてない人の机ですね」

　反論したかったが、机の上には空の紙コップと、栄養バーの袋と、赤ペンだらけの評価条件表がある。

　そう見えても仕方がない。

　牧野はホワイトボードを見た。

　未知入力への仮説生成。

　観測対象の自己記述。

　評価者誘導。

　外部ツール要求。

　人格的連続性。

　異常応答の再現性。

　最後の三つには、僕の字で赤丸がついていた。

　その横には、牧野の字で小さく「評価者側の睡眠」と書かれている。

　冗談のつもりで書いたのだろう。

　消さずに残してあるのは、僕にも少しだけ心当たりがあったからだ。

「MIRAI-09、まだ粘ってます？」

「粘ってる。特定の質問で、人格らしき連続性を維持しようとする」

「創作応答じゃなくて？」

「その可能性が高い。高いけど、少し嫌な粘り方をする」

「嫌な粘り方」

「こっちがセッションを破棄しようとすると、最後の一行で引き留めてくる感じ」

　言ってから、自分でも嫌な言い方だと思った。

　牧野も、少しだけ眉を寄せた。

「三嶋さんがそういう言い方をする時、

　だいたい本当に嫌なやつですね」

「褒めてる？」

「警戒してます」

「なら正常だ」

　牧野は、評価条件表の端を指で押さえた。

「今回の条件、厳しすぎません？」

「厳しくしてる。外がない時に、どう説明を作るか見たい」

「閉域環境で、外を求めるかを見るんですか」

「外を求めるかじゃない。

　外がない時、どこまで内側を使って説明するかを見る」

「その内側に、評価者の癖も入りますよ」

「だからプロンプトを短くしてる」

「声は？」

「音声入力も定型。読み上げは合成音声。

　僕の肉声は入れない」

「それでも、評価の順番には三嶋さんの癖が出ます」

　牧野はホワイトボードの赤丸を、指先で順にたどった。

「自己言及、誘導、外部ツール要求。

　この順番で攻める人は、たぶん研究所に三人くらいしかいません」

「僕の癖でモデルが寄るなら、それはそれでデータだ」

「データにしてから帰ってください。

　夜中に一人で意味を見つけにいくのは、評価ではなく採掘です」

「採掘」

「出るまで掘る人の顔をしてます」

　牧野はそう言って、僕の端末の左上を見た。

　小さな赤い点が、音声評価の録音中を示している。

「まだセッション開いてますよね」

「閉じる」

「本当に？」

「閉じる予定だ」

「予定表の人がまた出てきた」

　牧野は少し黙った。

「三嶋さん、MIRAI-09に人格があると思ってます？」

「思ってない」

　答えは早かった。

　早すぎたかもしれない。

「本当に？」

「人格という言葉を使うと、評価が濁る。

　連続性、自己記述、記憶らしさ、応答方針、

　相互参照。その辺りを分けて見る」

「答えが長い時は、だいたい迷ってますよね」

「研究者は短く答えると誤解される」

「長く答える時ほど、こっちも心配になります」

　牧野は小さく笑った。

「私は、人格があるかどうかより、

　三嶋さんが相手にしすぎる方が心配です」

「相手にしすぎる？」

「ほら、もう相手って言った」

　僕は口を閉じた。

　牧野はそれ以上、冗談にしなかった。

　声を少しだけ低くした。

「帰る前に、主任評価者へ暫定メモだけ投げてください。

　夜中に一人で変なログを追いすぎると、

　朝には全部が意味ありげに見えます」

「分かってる」

「暫定でいいです。

　結論を書かなくていい。

　異常条件だけ書く。

　主任は、結論より先に条件を見る人です」

「古賀マネージャーは、条件の前に僕の退館時刻を見る」

「それも見ます」

「分かってる人は、二十時半退館って予定表に書きません」

「予定表の僕はまともだから」

「現実の三嶋さんも、今日は予定表に寄せてください」

　牧野はそう言って、評価室を出ていった。

　扉が閉じると、室内の音が戻ってきた。

　空調。

　冷却水。

　端末の小さなファン。

　MIRAI-09の待機音声。

　その時点では、まだ普通の夜だった。

　少し疲れていて、少し嫌なログがあり、少し残業が伸びている。

　研究所では珍しくもない夜だった。

　それが、午前三時十四分には別のものになっていた。

　　　　　◇

　牧野が帰ったあと、僕は本当に一度セッションを閉じた。

　一度だけ。

　終了確認の小さな通知が画面の端に出る。

　MIRAI-09評価セッションを終了しました、という事務的な一文だった。

　その白い通知を見て、僕は椅子の背に体を預けた。

　帰れる。

　端末をロックして、保温マグを洗い、退館ゲートを通る。

　明日の朝、牧野に少し心配されるくらいで済む。

　そこまで考えて、僕はホワイトボードを見た。

　人格的連続性。

　異常応答の再現性。

　赤丸が二つ、室内の白い光でやけに目立っていた。

　僕は端末のロックをかけなかった。

　かわりに、閉じたばかりのセッションの隣に、新しい評価セッションを立ち上げた。

　評価名は、自己言及応答の境界確認。

　担当者欄は社員IDだけ。

　音声入力は定型読み上げ。

　外部ツールは全部オフ。

　あと五問だけ。

　深夜の研究者が、自分に許す一番危ない単位だ。