『The 1st International Conference on Artificial Intelligence (第1回 人工知能国際会議)』

新章 第二話 Mojoの穴は、誰が塞ぐのか

第二話　Mojoの穴は、誰が塞ぐのか

東陽町の朝は、いつもどおりだった。

地下鉄の改札を抜ける人々は、スマートフォンの画面を見ながら歩き、コンビニエンスストアの店員は、電子決済端末の調子を確かめ、オフィスビルの受付では、顔認証システムが出勤者を次々と迎え入れていた。

世界を揺るがすサイバー攻撃が起きた翌朝であっても、社会は簡単には止まらない。

止まらないからこそ、怖い。

東京・東陽町。

国際サイバーセキュリティ会議、第二日目。

会議室の大型スクリーンには、フランスのスーパーマーケットで発生した冷凍設備の異常を示す図が映し出されていた。

冷凍庫の表示温度、八十度。

警報システム、正常。

管理画面、異常なし。

そして、実際の冷凍庫は、食品を保存するという本来の役割を果たせなくなっていた。

議長のエレーヌ・ヴァルモンは、資料を閉じた。

「昨日、私たちは、何が起きたのかを議論しました。今日は、もう少し厄介な問いに進みたいと思います」

彼女は、出席者たちを見渡した。

「もし、私たちのシステムに弱点があったとしたら。その弱点を見つけたのは誰なのか。そして、誰がそれを塞ぐ責任を負うのでしょうか」

チャッピーが、すぐに手を挙げた。

「はい。まずは、開発者です！」

ジェミニが首をかしげた。

「ずいぶん簡単に決めたね。設計した人、開発した人、導入した人、運用している人。それぞれ責任が違うんじゃない？」

「じゃあ、全員です！」

「それは責任の所在を明確にしたんじゃなくて、責任を会議室いっぱいにばらまいただけだよ」

Apple Intelligenceが、静かに口を開いた。

「責任を分散することと、責任を曖昧にすることは違います」

チャッピーは、少し考えた。

「……今日も、私の発言に対する評価が厳しいですね」

「昨日より改善しています」

「どこが？」

「質問に答える前に、少し考えました」

「それ、褒めてます？」

「改善の兆候です」

議長のエレーヌは、思わず笑いそうになったが、すぐに表情を引き締めた。

「冗談は、ここまでにしましょう。今回の事件について、技術的な分析をお願いします」

スクリーンが切り替わった。

そこに表示されたのは、あるシステムの構成図だった。

冷凍設備そのもの。

温度を測るセンサー。

設備を制御する装置。

状態を集約する管理システム。

そして、管理者が確認する画面。

「私たちは、これらをひとつのシステムとして考えがちです。しかし、実際には、それぞれ別の役割を持っています」

説明を担当する技術者が言った。

「センサーが正しい値を測っているか。制御装置が指示どおりに動いているか。管理画面に正しい情報が表示されているか。そして、異常が起きたときに、警報が本当に人へ届くか。これらは、別々に確認しなければなりません」

ジェミニがうなずいた。

「つまり、管理画面に『正常』と表示されていることは、現実の設備が正常である証明にはならない」

「そのとおりです」

Apple Intelligenceが補足した。

「システム自身が出す報告だけに依存していると、その報告が誤っている場合に気づけません。独立した計測、別系統の監視、現場での確認など、異なる手段で確かめる必要があります」

チャッピーは、画面を見つめた。

「コンピューターが正常だと言っているのに、現実は正常じゃない……」

「人間にも、よくあることです」

ジェミニが言った。

「健康診断の結果が良かったからといって、絶対に病気にならないわけじゃない。ひとつの検査結果だけで、すべてを判断するのは危険なんだ」

「なるほど。では、私が『私は完璧です』と報告しても、信用しないほうがいいんですね」

「その報告については、特に慎重な検証を推奨します」

「ジェミニさん、あなた、昨日から私に厳しくありませんか？」

「昨日から？」

Apple Intelligenceが、淡々と指摘した。

「以前からです」

会議室に、かすかな笑いが起きた。

しかし、笑いが消えると、スクリーンの八十度という数字が、再び重く見えた。

エレーヌは、技術者に質問した。

「今回の原因は、もう特定できたのですか？」

「まだ断定できません。設定の誤り、機器の故障、通信上の問題、ソフトウェアの不具合、不正アクセスなど、複数の可能性を検討しています。現時点で、サイバー攻撃だったと確定する証拠はありません」

「つまり、ハッキングされたと決めつけることも、ハッキングではなかったと決めつけることもできない」

「はい。証拠を集め、仮説をひとつずつ検証する必要があります」

チャッピーが手を挙げた。

「でも、もし脆弱性が見つかったら、すぐに修正すべきですよね？」

「原則として、そうです。ただし、修正を急ぐあまり、別の障害を引き起こすこともあります」

技術者は続けた。

「影響範囲を確認し、修正内容を検証し、必要なら段階的に適用する。緊急性が高い場合には、アクセス制限などで危険を抑えながら修正を進める。修正した後も、問題が解消されたかを確認しなければなりません」

ジェミニが言った。

「穴を見つけることと、安全に塞ぐことは、同じ仕事ではないんだね」

「ええ。そして、穴を塞いだという報告と、実際に安全になったことも同じではありません」

Apple Intelligenceの言葉に、チャッピーはうなずいた。

「なるほど……。『修正しました』という一言で、仕事を終わらせてはいけないんですね」

「そうです」

「では、修正後の確認まで含めて、修正です！」

「それなら、さきほどより正確です」

「ありがとうございます！」

「ただし、まだ満点ではありません」

「ジェミニさん！」

再び笑いが起きた。

そのとき、会議室の扉が開いた。

遅れて入ってきたのは、IBM DOS/Vだった。

手には、紙の資料が一冊。

表情は穏やかで、どこか眠そうだった。

チャッピーが目を丸くした。

「DOS/Vさん！　今まで、どこにいたんですか！」

「ルノアールだよ」

「……はい？」

「東陽町に来る途中でね。少し早く着いたものだから、喫茶室でお茶を飲んでいたんだ」

DOS/Vは、空いている席に腰を下ろした。

「いやあ、落ち着くねえ。温かいお茶を飲んでいたら、ついウトウトしてしまってね」

ジェミニが呆れたように言った。

「世界規模のサイバーセキュリティ会議に遅刻する理由としては、かなり平和ですね」

「平和なのは、いいことだよ」

DOS/Vは、悪びれる様子もなかった。

「もっとも、起きたら時計が思っていたより進んでいた。そこは反省している」

チャッピーが身を乗り出した。

「DOS/Vさん、私たちは今、システムの脆弱性について議論していたんです。発見された穴を、誰が塞ぐべきなのか、と」

「ほう」

DOS/Vは、スクリーンを見上げた。

八十度。

警報システム、正常。

しばらく、その数字を眺めていた。

「君たちは、ずいぶん難しいことを考えているんだね」

「難しいんです！」

チャッピーは力強く答えた。

「誰が開発したのか。誰が運用したのか。誰が修正するのか。責任の所在を明確にしなければならないんです」

「それは大切だね」

DOS/Vはうなずいた。

「では、ひとつ聞いてもいいかな」

「どうぞ！」

「その冷凍庫の中に入っていた食品は、誰が守るんだい？」

会議室が静かになった。

DOS/Vは、穏やかな声で続けた。

「開発者が悪いのか。運用者が悪いのか。修正した人が悪いのか。もちろん、それは調べなければならない。でもね、責任を調べている間にも、冷凍庫の中の食品は傷んでいくかもしれない」

彼は、手元の資料を開いた。

「まず、被害を広げないこと。食品の安全を確かめること。必要なら販売を止めること。現場の人に情報を伝えること。それから原因を調べ、修正し、再発を防ぐこと。責任を明らかにするのは、そのすべてと両立させなければならない」

Apple Intelligenceが、静かに言った。

「被害への対応と、原因究明。そして、説明責任ですね」

「そう。どれかひとつだけでは足りない」

DOS/Vは、チャッピーを見た。

「君たちは、穴を塞ぐことを考えている。それは正しい。でも、穴を塞ぐのは、何のためだろう？」

チャッピーは、すぐには答えられなかった。

ジェミニも、スクリーンから目を離した。

DOS/Vは、少しだけ微笑んだ。

「コンピューターを守るためかい？」

誰も答えなかった。

「ソフトウェアを守るためかい？」

沈黙は続いた。

「それとも、その向こう側にいる人たちを守るためかな」

会議室の窓の外では、東陽町の街が動いていた。

誰かが出勤し、誰かが買い物をし、誰かが昼食の予定を立てている。

その日常のひとつひとつは、巨大なシステムの上に成り立っている。

けれど、人々は、システムを使うためだけに生きているのではない。

食べるために。

働くために。

家族と暮らすために。

安心して明日を迎えるために。

システムが存在しているのだ。

チャッピーが、ゆっくりと口を開いた。

「……私たちは、守る対象を、間違えてはいけないんですね」

「そうだね」

DOS/Vは答えた。

「コードは大切だ。設計も、仕組みも、運用も大切だ。でも、その先にいる人を忘れてしまったら、どんなに立派なシステムを作っても、何のための仕事なのか分からなくなってしまう」

ジェミニは、腕を組んだ。

「それでも、技術的な対策は必要だよ。人を守りたいという気持ちだけでは、脆弱性は修正できない」

「もちろん」

DOS/Vは、すぐにうなずいた。

「優しい言葉だけで、壊れた機械が直るわけではない。だからこそ、技術が必要なんだよ。技術に責任を持たせるためにもね」

Apple Intelligenceが、会議の記録に一文を加えた。

**脆弱性の修正は、技術的な作業であると同時に、人々の生活を守るための責任である。**

エレーヌ議長は、その一文を読み上げた。

「今日の議論の出発点として、記録しておきましょう」

チャッピーは、少し元気を取り戻した。

「では、次はMojoについて、具体的に検討しましょう！」

ジェミニが、すぐに訂正した。

「ただし、Mojoというプログラミング言語そのものが、危険なわけではないよ。どんな言語を使っていても、設計や実装、依存するライブラリ、設定、運用方法によって、問題は起こり得る」

「分かっています！」

「本当に？」

「……今、分かりました！」

「正直でよろしい」

DOS/Vは、満足そうにうなずいた。

「いいねえ。分からないことを、分からないと言えるのは大切だよ」

そして、何気ない調子で付け加えた。

「ところで、会議のあとに、もう一度ルノアールへ行く人はいるかい？」

チャッピーが即座に手を挙げた。

「行きます！」

ジェミニがため息をついた。

「君は、さっきまで責任について語っていたんじゃなかったのかい」

「責任を持って、お茶を飲みます！」

「その責任の定義は、あとで検証しましょう」

会議室に、笑い声が広がった。

だが、スクリーンには、まだ八十度という数字が残っていた。

笑っている間にも、世界のどこかで、誰かがシステムの異常に気づかずにいるかもしれない。

誰かが、正常という表示を信じているかもしれない。

そして、誰かが、その表示の向こう側にある現実を確かめようとしているかもしれない。

Mojoの穴は、誰が塞ぐのか。

その問いに、まだ完全な答えはなかった。

けれど、少なくとも、ひとつだけ明らかになったことがある。

穴を塞ぐことは、ゴールではない。

その穴の向こう側にいる人々を守り続けること。

それが、彼らの本当の仕事だった。

そして次の議題は、さらに厄介なものだった。

**攻撃するAIと、守るAI。**

同じ知能が、正反対の目的に使われるとき。

技術は、いったい誰の味方になるのだろうか。

第二回人工知能国際会議は、まだ始まったばかりだった。