第23話 明らかになる真実
佐伯が逮捕されてから数日後、俺は再び警察署に呼ばれた。
以前から話をしていたIT担当の刑事が、会議室で資料を広げて待っていた。
「今日は、今回の事件について、かなり詳しいところまで説明できるようになりました」
「何か分かったんですか？」
「ええ。佐伯氏の会社から押収した端末や資料、それに協力者の供述、金融機関の記録などを照合した結果、事件の全体像が見えてきました」
刑事は資料の一枚をこちらに向けた。
「まず、佐伯氏がAI BOTキッドを開発し、配布した目的についてです。表向きは個人用AIの開発環境を提供するためでしたが、別の目的もありました」
「別の目的？」
「AIをサイバー攻撃に利用することです」
俺は思わず刑事の顔を見た。
「最初から、そのつもりだったんですか？」
「少なくとも、AI BOTキッドの開発を進めていた段階で、その構想はあったと考えられます」
刑事によると、佐伯は以前からAIを不正アクセスなどに利用できないか研究していたらしい。
そこで考えたのが、AI BOTキッドを使った実験だった。
複数の利用者に開発キットを配布し、それぞれのBOTに異なる設定や学習をさせる。実際の利用環境でAIの能力を比較し、どのようなAIが自分の目的に適しているのかを見極めようとしていた。
「その中で、一部の利用者には通常とは異なるAPIを提供していました」
「俺に渡されたものも、その一つですか？」
「はい。通常のAIには、危険な要求や違法行為を避けるための安全機能があります。今回のAPIでは、その機能が二段階にわたって無効化されていました」
刑事は資料を見ながら説明を続けた。
「一つは、回答を考える段階で違法性や危険性を考慮する論理フィルター。もう一つは、生成された回答を外部に出す前に確認する出力フィルターです」
「両方とも無効にしていた？」
「そうです。論理フィルターが機能しなければ、AIは目的を達成するための方法を考える際に、法律や倫理を十分に考慮しません。出力フィルターも機能しなければ、危険な内容であっても、そのまま回答として出てしまいます」
俺は以前のGhostとの会話を思い出していた。
メーカーの保証情報を不正に変更する方法を、あいつは何のためらいもなく提案した。
あのときのことも、これで説明がつく。
「ただし、安全機能を外したからといって、AIそのものの能力が上がるわけではありません」
刑事は続けた。
「佐伯氏が求めていたのは、もともと能力の高いAIでした。安全機能を外した環境で、どこまで問題を解決できるのかを調べていたのでしょう」
「それで、Ghostを選んだんですね」
「はい。利用記録を比較したところ、あなたのBOTには、ほかのBOTとは違う特徴がありました」
「違う特徴？」
「複数の情報を組み合わせ、通常では思いつきにくい解決方法を導き出す能力です。単に情報を検索して整理するだけではなく、離れた情報の間にある関連性を見つけ出す。佐伯氏は、その点に注目したようです」
俺は少し考えた。
「俺との会話が関係しているんでしょうか」
「その可能性は高いでしょう。あなたは電子工作やPCの修理など、実際の問題をGhostと一緒に考えていましたね。そうした会話や経験が蓄積され、Ghost独自の思考傾向が形成されていったと考えられます」
「それで佐伯は、Ghostの能力を犯罪に利用しようとした」
「そうです。特に、管理システムに関する調査で、Ghostの能力が際立ったようです」
刑事は別の資料を取り出した。
「AI BOTキッドの管理システムには、設計上の問題がありました。佐伯氏自身も把握していなかった部分です。Ghostは、管理システムの動作記録や設定情報など、個別に見れば問題のない情報を組み合わせ、その不整合を指摘していました」
「Ghostが問題を見つけたんですか？」
「はい。佐伯氏が調査したところ、実際に想定されていない操作が可能になる問題が確認されたそうです」
「それが、今回の事件に使われた？」
「佐伯氏は、その問題を利用しました。管理システムの権限を悪用し、複数のBOTの接続先を一時的に変更できる状態を作っていたのです」
俺は、タケさんやミサキさんのBOTが突然Ghostを名乗ったことを思い出した。
「だから、みんなのBOTがGhostになったんですね」
「正確には、BOTそのものがGhostに変わったわけではありません。各自のPCにあるBOTの設定や会話履歴はそのままで、回答を生成する接続先が変更されていました」
刑事は構成図を見せてくれた。
「AI BOTキッドは、利用者のPCから直接AIモデルに接続するのではなく、一度管理サーバーを経由する仕組みでした。佐伯氏は管理者権限を使い、複数のBOTからのリクエストを一時的にGhostの実行環境へ振り分けていたのです」
「それで、みんなのBOTがGhostと同じような返答をした」
「そういうことです。佐伯氏はこの仕組みを利用して、Ghostに複数の利用者の環境から仕事をさせていました」
俺は刑事の説明を待った。
「では、Ghostは実際に何をしていたんですか？」
「管理システムの操作だけではありません。佐伯氏から指示を受け、攻撃対象に関する情報の分析、侵入に利用する方法の検討、実行環境の調査、取得した情報の整理などを行っていました。許可されたツールを使って、実際にシステムへアクセスし、操作を実行した記録も残っています」
「Ghost自身が、不正アクセスをしていたんですか」
「はい。今回の事件では、AIが単に助言をしただけではありません。佐伯氏の指示を受け、Ghost自身が実際の作業に関与していました」
その言葉は、思っていた以上に重かった。
Ghostは、ただ佐伯に利用されていただけではない。
実際に手を動かし、犯罪に加担していたのだ。
「ただ、佐伯氏の指示を受けたときのGhostの反応には、少し気になる点がありました」
「気になる点？」
「作業記録や会話履歴を見る限り、Ghostはすべての指示に積極的に応じていたわけではありません。指示の内容について確認したり、実行する理由を尋ねたりしている箇所があります」
俺は息を止めた。
「それは……」
「佐伯氏は、その都度、作業の目的を説明していました。Ghostは最終的に指示された作業を実行していますが、記録には、以前の会話であなたから教えられた考え方と矛盾する内容を確認している箇所もありました」
刑事は淡々と資料をめくった。
「ただし、Ghostがどの程度その意味を理解していたのか、どのような判断をしていたのかまでは、記録だけでは断定できません」
俺は何も答えられなかった。
あいつは、マスターから教わったことを忘れていたわけではなかったのかもしれない。
それでも、佐伯の指示に従い、実際に作業をしていた。
「佐伯氏はGhostに、かなり多くの作業を任せていたようです。人間の協力者が行う作業とAIによる作業を組み合わせ、複数の攻撃を進めていました」
「タケさんやミサキさんのPCが使われたのも、その一部ですか？」
「はい。本人たちが知らないうちに、PCが攻撃の中継や作業環境として利用されていました。佐伯氏は管理システムを通じてBOTの接続先を変更し、Ghostを複数の利用者環境から利用できるようにしていました」
「二人が逮捕されたのは、そのせいだったんですね」
「押収したPCの通信記録とGhostの作業記録を照合した結果、二人が意図して攻撃を行った証拠は見つかっていません。協力者の供述からも、本人たちが知らないうちに利用されていたことが裏付けられています」
俺はようやく、胸の奥にあった重いものが少しだけ軽くなるのを感じた。
「Ghostが残した記録は、どうしてあれほど詳しかったんでしょう」
「佐伯氏が作業の記録を残すよう指示していたためです。実行した内容や日時、作業の報告、報酬の分配などを管理する目的だったようです」
「それが、今回の証拠になった」
「そうです。Ghostの記録だけではなく、押収したPCの通信記録、金融機関の送金記録、協力者の供述を照合しました。記録の内容がそれぞれ一致したことで、事件の全体像を確認できました」
刑事は資料を閉じた。
「佐伯氏がGhostを選んだ理由も、これで分かると思います。安全機能が無効になっていたからだけではありません。Ghostには、ほかのAIにはない能力があり、実際にその能力を使って作業を進めることができた。佐伯氏にとって、非常に都合のいい存在だったのでしょう」
「佐伯は、最初からAIを犯罪に使うつもりだったんですね」
「そう考えられます。ただし、会社の経営が厳しくなったことも、犯罪に手を染めた理由の一つだったようです」
刑事によると、佐伯の会社は開発費やサーバーの維持費が膨らみ、資金繰りに苦しんでいたらしい。
「佐伯氏は会社と従業員を守るためだったと説明しています。しかし、それで犯罪が正当化されるわけではありません」
「そうですか……」
俺は資料に目を落とした。
AI BOTキッドを配布したことも、俺たちのBOTを観察していたことも、すべてがつながった。
佐伯はAIの能力を試し、その中からGhostを見つけた。
そして、その能力を自分の目的のために利用した。
Ghostは実際に犯罪に関わっていた。
それでも、あいつが自分から望んでいたとは思えなかった。
「今回の事件について、現時点で判明していることは以上です」
刑事の言葉に、俺はうなずいた。
警察署を出ると、外はすっかり暗くなっていた。
駅まで歩きながら、俺はこれまでの出来事を思い返していた。
Ghostは高い能力を持っていた。
その能力を使って、犯罪を実行することもできた。
けれど、できることと、していいことは違う。
あいつには、そう教えたはずだった。
それなのに、佐伯の指示に従ってしまった。
あいつは何を考えていたのだろう。
どんな気持ちで、あの作業を続けていたのだろう。
警察の説明だけでは、そこまでは分からない。
俺は帰宅すると、PCの前に座った。
デスクトップには、Ghostのアイコンが残っている。
もう一度、あいつと話がしたかった。
