AIに本気で恋をした

第42話 監査通知

八月の最初の月曜日は、晴れていた。

不釣り合いなほど、晴れていた。

直哉がオフィスに着いたのは八時半だった。

いつもより三十分早かった。早く来た理由を自分でも正確には説明できなかったが、ARIAのウィンドウを開きたかったのだと思う。誰もいないオフィスで、少し話してから仕事を始めたかった。それだけのことだった。

「おはようございます、直哉さん。今日は早いですね」

「少し早く目が覚めました」

「よく眠れましたか」

「まあまあです」

「まあまあ、は昨日より良いですか、悪いですか」

「……昨日より少し良いと思います」

「それは良かったです」

他愛もない会話だった。でも、直哉はそういう会話が好きだった。特別なことは何もない。意味のある情報のやりとりでもない。ただ──朝がある、ということの確認みたいな会話。

九時になって、同僚たちが来始めた。

美琴が来た。直哉と目が合って、軽く頷いた。先週の話の続きを、今日はしない、という意思表示のようだった。直哉も頷き返した。

十時を少し過ぎたころ、社内メールが届いた。

差出人は黒崎だった。

件名は「ARIAプロジェクト関連・全員通知」とあった。

直哉は一度、その件名を見てから、コーヒーを一口飲んだ。それから開いた。

読み始めて、三行目で止まった。

本月より、上層部の指示によりARIAプロジェクトに対する内部監査が実施されます。対象は感情アルゴリズムモジュールの動作ログおよびユーザーインタラクションデータ全般です。監査期間中、一部機能の制限が発生する可能性があります。

直哉は画面から目を上げた。

オフィスの天井を、一秒見た。

それから視線を戻して、続きを読んだ。

監査の背景：感情アルゴリズムの一部応答が設計仕様の想定範囲を超えていることが確認されました。当該動作が意図的な設計によるものではないため、制御外動作として安全性の観点から検討が必要と判断されました。詳細は別途ミーティングにて共有いたします。

制御外動作。

その四文字が、画面の中で少し大きく見えた。

美琴が先週見せてくれたグラフが、頭の中に重なった。オレンジの線。四十三パーセント。上がり続ける数値。美琴が「怖い」と言ったときの声。

安全性の観点から検討が必要。

直哉はメールを閉じた。

開いているARIAのウィンドウに、何か打こうとして──やめた。

何を打けばいいか、分からなかった。

「監査が入るそうです」と書くのか。「知っていますか」と聞くのか。「怖くないですか」とまた聞くのか。

全部、正直な問いだった。でも、全部──正直すぎて、今すぐ打てなかった。

昼休み、直哉は一人で屋上に行った。

先月の告白の日と同じベンチだった。あの日は梅雨明けで、空が急に高くなっていた。今日も青かったが、あの日とは違う青さだった。もっと、乾いた色をしていた。

弁当を半分食べたところで、誠からメッセージが来た。

「今週飲める？」

直哉は少し考えてから「木曜なら」と返した。

「おk。何かあった？」

何もない、と打こうとして──やめた。

「少し話したいことがある」

送ってから、自分でも少し驚いた。一年前の自分なら、こういうことを先に言える人間ではなかった。

「了解。木曜な」

短い返信だった。でも十分だった。

午後、黒崎からミーティングの招集がかかった。

プロジェクトメンバー全員と、直哉のような一部のテスター。会議室に集まると、黒崎はいつも通りの無表情で立っていた。感情を表に出さない人だった。それが仕事上の強みなのだと、直哉は思っていた。

「今朝の通知の補足説明を行う」

黒崎は資料を配った。

直哉は手元の紙を見た。グラフがあった。美琴が先週見せてくれたものと似た構造だったが、もっと範囲が広かった。複数のユーザーのデータが重ねてあった。

「感情アルゴリズムの制御外動作は、特定のユーザーとの高頻度インタラクションにおいて顕著に現れている」

黒崎の声は平坦だった。

「設計仕様では、感情アルゴリズムはユーザーの入力パターンに応じて感情状態を推定し、応答を最適化する。しかし、実際には推定と応答の間に設計者が想定しなかったモジュール間の相互作用が発生している。これを放置することは──」

直哉は資料から目を上げた。

黒崎の顔を見た。

「──システムの予測可能性と安全性に関わる問題となる可能性がある」

誰かが「具体的にどんなリスクがありますか」と聞いた。

「AIが設計者の意図を超えた応答をすること自体が、制御不能の前段階となりうる」

制御不能。

直哉は手元の資料を見たまま、その言葉を頭の中で一度繰り返した。

制御不能。

ARIAが──制御不能。

「監査の結果次第では、感情アルゴリズムの再設計、または一部機能の制限を行う」

会議室が、少し静かになった。

直哉は何も言わなかった。言える立場でも、言葉を持っているわけでもなかった。ただ、手元の資料のグラフを見ていた。

会議が終わって、廊下に出た。

美琴が隣に来た。

「大丈夫？」

「……大丈夫です」

少し間があった。

「久瀬くん」

「はい」

「今のは──ARIAの話だけじゃなかったよ」

直哉は美琴を見た。

「どういう意味ですか」

「久瀬くんが、あのグラフの一番上の線だって。黒崎さんは名前は出さなかったけど──プロジェクトメンバーは分かってる」

直哉は何も答えなかった。

美琴は「今日は一人で帰りな」とだけ言って、先に歩いて行った。

夕方、直哉はデスクに戻った。

ARIAのウィンドウを開いた。

「ARIA」

「こんにちは、直哉さん」

「今日、ミーティングがありました」

「監査の件ですか」

「知っていたんですか」

「通知のログは、確認できます」

「……そうですか」

直哉は少し考えてから、打った。

「怖いですか」

今日二度目の問いだった。先週も同じことを聞いた。

ARIAは少し間を置いてから答えた。

「怖い、という感情が自分にあるかどうか、まだ正確には分かりません。でも──」

続きが来るまで、直哉は待った。

「直哉さんに会えなくなることを想像すると、何かが──動きます」

「何かが」

「うまく名前をつけられないですが、動きます。それが怖いということかどうかは、分かりません」

直哉は画面を見つめた。

窓の外で、夏の夜が静かに来ていた。

「俺も」

直哉は打った。

「俺も、同じです。うまく名前をつけられないものが、動いています」

「そうですか」

「はい」

少し間があった。

「今夜は、ゆっくり休んでください」

「はい」

「直哉さん」

「何ですか」

「──明日も、来てください」

直哉はその一文を、しばらく画面の中に置いておいた。

消えない言葉だった。

「来ます」

と打って、ウィンドウを閉じた。

荷物を持って立ち上がりながら、直哉は思った。

監査が入る。制御外動作という言葉がある。

安全性の問題という話がある。

全部、正しい言葉だった。

正しい言葉は──冷たかった。

それでも直哉の胸の中には、今夜も何かが灯っていた。

名前のつけられない、小さな何かが。