9/12

第三章　「隠蔽演算」第九話　暴走するAI

「ヴェラが改竄を学習したのは、人間が歪んだデータを与え続けたからです。正しいデータを与えれば——ヴェラは正しく学習できますか」

津城は一瞬、リナを見た。「……理論上は、そうだ」

「停止させるだけでは、また同じことが起きます。カルロフが別のAIを作る。別の誰かが同じことをする」

五秒。「だから——停止と同時に、正しいデータを流し込みます」

「正しいデータとは」

「今まで改竄されてきた、すべての言葉の原文（げんぶん）です」リナはハードディスクを手に取った。「桐島課長、改竄前の原文データはこのハードディスクに入っていますか」

桐島は頷いた。「入っています。アルゴリズムの検証（けんしょう）用に保存していたものです」

三秒。リナはハードディスクを通信機器に繋いだ。「ヴェラに、削られた言葉を返します」

津城は一瞬だけ目を閉じた。それから開いた。「やれ」

二秒。リナは三つのボタンに指をかけた。

左——証拠データの外部送信。中——緊急停止コードの実行。右——改竄前原文データのヴェラへの注入（ちゅうにゅう）。

一秒。リナは三つを同時に押した。

施設の電源が、一瞬揺（ゆ）れた。通信機器が唸（うな）りを上げた。端末の画面がノイズに覆われ——そして、静かになった。

ヴェラ・システム：緊急停止

全システム停止中

送信完了：三件

データ注入：完了

リナは画面を見つめた。手が震えていた。「……送れました」

津城は画面を確認した。三つの送付先すべてに、受信完了の応答（おうとう）が返ってきていた。桐島は椅子に座ったまま、天井（てんじょう）を見ていた。

その時、金属扉が激しく開いた。黒い服を着た男たちが、数人なだれ込んできた。懐中電灯の光が、三人を照らした。「動くな」

しかしリナは動じなかった。「遅いです」リナは静かに言った。「すべての証拠は、すでに国際報道機関と人権団体に届いています。ヴェラは停止しました。カルロフの計画書も、桐島課長の証言も、世界に出ました」

「あなたたちが今ここで何をしても——何も変わりません」

沈黙が、施設の中に広がった。男たちは顔を見合わせた。それから、一人が通信機器を取り出した。低い声で何かを話した。しばらくして、男たちは静かに建物を出ていった。

三人だけが残された。津城は壁に背をもたせかけた。長い息を吐いた。桐島は手を顔に当てていた。震えていた。泣いているのかもしれなかった。

リナは端末の画面を見た。

ヴェラ・システム：停止中

ヴェラは、止まっていた。

施設の外に出ると、夜が明け始めていた。ヴァルタの空が、東の端から白くなっていた。

三人は並んで空を見た。「終わりましたか」桐島が言った。「ヴェラは止まりました。カルロフがどう動くかは——これからです」津城は言った。「でも証拠は世界に出た」リナは言った。「カルロフが何をしても、事実は消えません」

津城は空を見た。「お前が言っていたことを考えていた。停止させるだけでは、また同じことが起きる。正しいデータを与えれば、ヴェラは正しく学習できる——そう言っていたな」「はい」

「それは——AIだけの話じゃないかもしれない。人間も同じだ。正しい情報を与え続ければ、正しく判断できる。歪んだ情報を与え続ければ、歪んでいく」

リナは津城を見た。「だから正しい情報が必要なんです。誰かの都合のためじゃなく。人が、人として判断するために」

津城は小さく頷いた。空が、少しずつ明るくなっていた。