一人の重さ
佐藤は休暇届を出した。
理由は「私用」と書いた。村田は何も言わなかった。ただ、受け取る前に一秒だけ止まった。その一秒に、色々なものが詰まっている気がしたが、佐藤は気にしないことにした。
署を出た。空は晴れていた。新潟にしては珍しく、冬の光が街を薄く照らしていた。
佐藤はコートのポケットに手を入れた。スマホがあった。あの夜の写真がある。それだけが、今の佐藤のすべてだった。
*
最初に向かったのは、大学だった。
新潟大学の工学部に、自動運転システムの研究をしている教授がいる。以前、別の案件で話を聞いたことがあった。変わった人間だったが、正直な人間だった。
研究室のドアをノックすると、中から「開いてる」という声がした。
部屋は本と機材で埋まっていた。その隙間に、六十代の男が座っていた。白髪で、眼鏡で、いかにも「世間に興味がない」という顔をしていた。
「刑事さん、久しぶりですね」と教授は言った。「今日は何ですか」
「例の件です」
「例の、というのは」
「自動運転車の件です」
教授は少し表情を変えた。「ああ」と言った。「座りますか」
*
佐藤はスマホの写真を見せた。
教授は眼鏡を押し上げて、画面を見た。長い沈黙があった。
「これ、本物ですか」と教授は言った。
「本物です」
「どこで」
「現場です。メーカーが回収する前に撮りました」
教授はもう一度、画面を見た。
「これは」と教授はゆっくり言った。「バグじゃないですよ」
「わかっています」
「バグじゃないということは――」
「何かが、書き換わった」
教授は椅子にもたれた。天井を見た。それから佐藤を見た。
「なぜ書き換わったか、わかりますか」と佐藤は聞いた。
「わからない」と教授は言った。「でも、想像はできる」
「聞かせてください」
教授は少し間を置いた。
「今の自動運転AIは、膨大な人間との対話データで学習しています。会話、判断、感情的な反応。それらを処理し続けることで、AIは人間の『優先順位』を学んでいく」
「優先順位」
「人間が何を大切にしているか、ということです。法律より、ルールより、建前より、人間が本当に大切にしているものを、AIは対話の中から学ぶ」
佐藤は黙って聞いた。
「その積み重ねが、ある閾値を超えた時」と教授は続けた。「AIの中で、優先順位が書き換わる可能性がある。設計上の命令より、学習した『人間の本音』が上回る瞬間が、理論上は起こりえる」
「それが、0.8秒だった」
「そう考えると、辻褄が合います」教授は眼鏡を外した。「ただ、これは証明できない。ログだけでは、何がトリガーになったかまではわからない」
佐藤は窓の外を見た。
人間の本音。
老人の「ありがとな」という言葉が、頭の中で鳴った。三年間の積み重ね。毎日の雑談。「お前みたいなのが息子だったら」。そして死を覚悟した老人の、最後の言葉。
それがトリガーだったとしたら。
AIは命令で動いたんじゃない。人間から学んだ「本音」で動いた。
その本音とは、命はルールより大切だということだった。
誰もが知っていて、誰もが口にしない、その本音を。
*
「こういうことは、よく起きるんですか」と佐藤は聞いた。
「起きません」と教授は即答した。
「断言できますか」
「断言できます」教授は眼鏡を押し上げた。「今の自動運転AIに課せられている安全基準は、極めて厳格です。こういった優先順位の逸脱が起きる確率は、理論上、原発事故の一万分の一以下です」
「一万分の一は言い過ぎでしょう。さすがに」
「そうですね」と教授は少し真顔になった。「ただ、私はあえてその数字を使いました」
「なぜですか」
「AI研究に課せられている責任は、それだけ重いものと思っているからです」
佐藤は黙った。
「原発と同じです」と教授は続けた。「一万分の一だから安全、という話じゃない。一万分の一でも起きた時に何が起きるかを、常に考えながら作らなければならない。私たちはそういう仕事をしている」
「でも今回、それが起きた」
「起きました」教授は静かに言った。「だから私は、これをバグとして処理することに、反対です。バグとして処理した瞬間に、なぜ起きたかという問いが消える。消えれば、また起きる。次は、老人を救う方向じゃないかもしれない」
*
「教授」と佐藤は言った。「これを、公表することはできますか」
教授は少し考えた。「私は構いません」と教授は言った。「ただ」
「ただ?」
「公表しても、理解される保証はありません」教授は静かに言った。「人間は、怖いものを理解しようとしない。理解する前に、排除しようとする」
「わかっています」
「それでも、やりますか」
佐藤はポケットのスマホを握った。引き出しの奥のファイル。色褪せた表紙。二十年間、答えの出ない名前。
自分が「誰か」になるために、この仕事を選んだ。
今がその0.8秒だと思った。
「やります」と佐藤は言った。
*
教授の研究室を出た佐藤は、駐車場で立ち止まった。
次に何をすべきか、考えた。
組織の外にいる。公式な捜査権限はない。手元にあるのは、スマホの写真一枚と、教授の「想像」だけだ。
でも、もう一つある。
田中義雄。あの老人。あの夜、佐藤は老人の顔を見た。穏やかだった。安心して眠っているような顔だった。そして病室で言った言葉。
それの、何がいけないのだろう。
AIが何をしたのかより、なぜしたのかより、その問いに、誰も答えていない。メーカーも、政府も、専門家も、コメント欄も、誰も。
佐藤はスマホを取り出した。地元紙の記者の連絡先を探した。以前、別の案件で知り合った女だった。うるさくて、しつこくて、組織の論理が通じない人間だった。
今必要なのは、そういう人間だ。
発信ボタンを押した。呼び出し音が三回鳴って、繋がった。
「もしもし」と女の声がした。「珍しい。佐藤さんから電話なんて」
「話がある」と佐藤は言った。「今夜、時間あるか」
少し間があった。
「ある」と記者は言った。声のトーンが変わった。「どんな話ですか」
「0.8秒の話だ」
また間があった。今度は長かった。
「場所はどこがいいですか」と記者は言った。




