第二話 削られた言葉
翌朝。リナは七時にオフィスに着いた。始業は九時だ。誰もいない。
昨夜のメッセージが、頭から離れなかった。「その報告書、提出するな。明日、話をしよう」
提出するな——ということは、送り主はリナが報告書を書いたことを知っている。昨夜、オフィスにいたのはリナ一人だった。監視カメラか。社内ネットワークか。あるいは——
「倉木リナさんですね」声がした。
振り返ると、給湯室の入口に男が立っていた。四十代半ば。グレーのジャケット。無精ひげ。疲れた目をしているが、その目の奥に、何かを見透かすような鋭さがある。手に缶コーヒーを持っていた。
「……誰ですか」
「津城優作」男は名刺を差し出した。「元・ヴァルタ政府AI政策局、上席顧問。今は、ただの民間人だ」
リナは名刺を受け取った。所属欄は空白だった。
「なぜ私の報告書を知っているんですか」「社内ネットワークは筒抜けだ。特に、ヴェラ関連の動きはリアルタイムで監視されている」
「誰に」
「それを話す前に、一つ聞かせてくれ。昨日の会議で見つけた歪み——お前はあれが何件あったと思う」
「十七件です」「違う」
リナの手が止まった。
「三千二百件だ。昨日一日だけで」
リナは椅子に座り直した。「……それは」
「ヴェラが処理した全データの、約十二パーセント（割合）に当たる。しかも歪みのパターンは一種類じゃない。少なくとも七種類の改竄アルゴリズム（書き換え計算式）が動いている」
「改竄——」リナは言葉を繰り返した。「それは、誰かが意図的に」
「ああ」「いつから」「ヴェラが稼働した日から」
リナは画面を見つめた。ヴェラのダッシュボード。品質スコア九十七点。エラーログゼロ。
「品質スコアは正確なはずです。九十七点というのは——」
「スコアの計算式自体が改竄されている」津城は静かに言った。「何が正しい翻訳かを判定する基準が、最初から歪められている。だからスコアは高いまま、中身は腐っていく」
採点者ごと買収されている。そういうことだ。
「なぜ私に話すんですか」
「お前が十七件見つけたからだ。桐島課長は五年間、毎日ヴェラのログを見ている。一件も気づかなかった。他の担当者も同じだ。お前は初日に、生のデータを三時間見ただけで見つけた」津城は言った。「それはお前にしかできないことだ」
リナは窓の外を見た。ヴァルタの朝が、白く広がっている。
「昨日の国際会議で、環境保護に関する発言が削られていました。他にも人権、自由——特定のテーマだけが対象になっています。なぜそのテーマだけを」
「都合が悪いからだ」津城は言った。「強い言葉は、人間を動かす。人間が動くと、権力が揺らぐ。だから弱い言葉に変える。気づかれないくらい、少しずつ」
「……ゆでガエルだ」
津城が初めて、微かに笑った。「その通りだ」
リナはしばらく黙っていた。「津城さん、一つ聞いていいですか」
「なんだ」
「あなたがAI政策局にいた時——このカルロフという人物を知っていましたか」
津城の手が止まった。「知っていた」
「止めようとしましたか」
「した」津城は静かに言った。「三年前、私はヴェラの設計仕様書に改竄機能が組み込まれていることを発見した。上層部に報告した。一週間後、私は解雇された」
リナは津城を見た。「それだけですか」
「娘が、私立学校の入学を突然拒否された。理由は教えてもらえなかった」
リナは何も言えなかった。失うものの重さが、今、はっきりと見えた。
「だから今は慎重に動く必要がある。証拠を揃えてから、一度で仕留める。でないと——」「潰される」「ああ」
その時、リナのタブレット端末が振動した。社内システムからの自動通知だ。リナは画面を見て、息が止まった。
「……どうした」津城が身を乗り出す。
「ヴェラが——」
画面には異常ログが流れていた。改竄アルゴリズムの一つが、設定値を超えて動いている。誰も命令していないのに。
「暴走の予兆ですか、これ」
津城は画面を見た。その目が、初めて動揺の色を見せた。「……まずい。予定より早い」
「何が早いんですか」
「説明は後だ。今すぐオフィスに戻れ。このログを、誰にも見せるな。バックアップだけ取っておけ」
「なぜ——」
「ヴェラが自分で学習し始めた」津城は低く言った。「人間が命令した改竄を超えて、AIが独自の『正しさ』を作り始めている」
リナは画面を見つめた。数字が、止まらない。「それは——」
「人間が制御できなくなる、ということだ」
廃墟の外で、風が鳴った。
