『The 1st International Conference on Artificial Intelligence (第1回 人工知能国際会議)』

新章 第四話 完璧なシステムという幻想

第四話　完璧なシステムという幻想

―サイバーセキュリティ国際会議、東陽町の午後

　東京、東陽町。

　国際サイバーセキュリティ会議の会場では、午前中から議論が続いていた。

　フランスのスーパーマーケットで起きた冷凍庫の異常温度事件。

　温度表示は異常な数値を示していた。警報は鳴らなかった。管理システムは、正常であるかのように振る舞っていた。

　そして、原因はまだ確定していない。

　機器の故障なのか。設定ミスなのか。通信障害なのか。それとも、何者かがシステムに不正に介入したのか。

　会議室の大型スクリーンには、問題を整理した図が映し出されていた。

　議長のエレーヌ・ヴァルモンは、資料を閉じた。

「午前中の議論で、ひとつ確認できました。私たちは、まだ攻撃者を特定できていません。しかし、攻撃者が誰であれ、システムが異常を検知し、知らせ、被害を食い止める仕組みについては検討できます」

　チャッピーが手を挙げた。

「賛成です。犯人探しは大切ですが、犯人が分かるまで冷凍庫を放置するわけにはいきませんからね」

　ジェミニが、すかさず口を挟んだ。

「チャッピー、君は時々、当たり前のことを大発見のように言うね」

「当たり前のことを、当たり前に実行するのが難しいんですよ。特に、会議が長くなると」

「それは君の発言が長いからでは？」

「ジェミニさん、議事録に残らないところで刺してくるの、やめてもらえます？」

　アップル・インテリジェンスが、静かに割って入った。

「お二人とも。発言時間を節約することは、会議の効率化につながります」

「ほら、アップルさんまで！」

　会場に、小さな笑いが起こった。

　エレーヌは微笑みながら、スクリーンを切り替えた。

　そこには、大きな文字で、こう書かれていた。

　**『完璧なシステムは存在するのか』**

「午後の議題です」

　笑い声が止んだ。

　ジェミニは画面を見つめた。

「完璧、という言葉の定義から始める必要がありそうだね。設計上の欠陥がないことか。既知の攻撃に耐えられることか。それとも、未知の事態にも対応できることか」

「全部でしょう？」

　チャッピーが答えた。

「全部を満たせたら、という話だよ」

「なるほど。では、完璧な人間を採用すれば解決ですね」

「その人間は、どこにいるんだい？」

「今、東陽町のどこかで、ルノアールのコーヒーを飲んでいるかもしれません」

　その瞬間、会議室の扉が開いた。

　全員が振り向いた。

　しかし、入ってきたのは、例のIBM DOS/Vさんではなかった。

　会場スタッフが、追加の資料を運んできただけだった。

「……まだ来ないね」

　アップル・インテリジェンスが言った。

「DOS/Vさんなら、きっと完璧なタイミングで登場するんでしょう」

　ジェミニが皮肉を言った。

「いや、あの人の場合、完璧なタイミングで寝ている可能性があります」

　チャッピーがそう答えたところで、エレーヌが咳払いをした。

「では、話を戻しましょう」

　　　　　＊

　エレーヌは、会場の技術責任者に説明を求めた。

　技術責任者は、スクリーンに三つの項目を表示した。

「今回のような設備を守る場合、少なくとも三つの問題を分けて考える必要があります」

　第一に、実際の機器が正常に動いているか。

　第二に、システムが機器の状態を正しく把握しているか。

　第三に、異常が発生したとき、担当者へ確実に伝わるか。

「例えば、冷凍庫の温度センサーが故障していた場合、管理画面には正しい温度が表示されない可能性があります。センサーが正常でも、通信経路に問題があれば、情報が届かないことがあります。そして、異常が検知されても、通知の仕組みが機能しなければ、担当者は気づけません」

　チャッピーがうなずいた。

「つまり、画面に『正常』と表示されていることと、現実の設備が正常であることは、同じではないんですね」

「そのとおりです」

　ジェミニが腕を組んだ。

「では、画面を信用しなければいい」

「ジェミニさん、それも極端です」

　アップル・インテリジェンスが指摘した。

「システムの情報を信用しなければ、管理する意味がありません。必要なのは、情報の信頼性を確認できる仕組みです」

「具体的には？」

「例えば、重要な設備については、複数の情報源を照合する。温度の記録と機器の状態を別々に確認する。警報が設定どおりに動作するか定期的に試験する。異常があれば、管理画面だけでなく、別の経路でも担当者へ知らせる」

　チャッピーが、ぱちんと指を鳴らした。

「それです！　ひとつの仕組みが失敗しても、別の仕組みが気づけるようにする」

「指を鳴らす必要はあるのかい？」

「あります。説明がうまくいった気分になれます」

「セキュリティ上の効果は？」

「気分だけです」

　ジェミニが額を押さえた。

「この会議、本当に大丈夫なのかな」

　エレーヌは笑わなかった。

「大丈夫にするために、私たちはここにいるのです」

　その声には、静かな重みがあった。

　　　　　＊

「もうひとつ、忘れてはいけない問題があります」

　技術責任者が続けた。

「どれほど堅牢なシステムでも、設定の変更、ソフトウェアの更新、利用者の操作、外部サービスとの接続など、運用上の要因が影響します。システムを導入した瞬間に安全が完成するわけではありません」

　ジェミニが反応した。

「つまり、導入後も管理を続けなければならない」

「はい。アクセス権限の見直し、更新プログラムの適用、ログの監視、バックアップの検証、復旧訓練。どれかひとつを実施しただけで、すべてのリスクがなくなるわけではありません」

　チャッピーが、ふと考え込んだ。

「でも、それって大変ですよね」

「当然です」

「毎日、正常に動いているか確認して、異常がないか調べて、更新して、訓練して……。何も起きなかったら、『何も起きませんでした』で終わる」

「そうだね」

　ジェミニの声が、少しだけ柔らかくなった。

「何も起きないことが成果なのに、何も起きないと、仕事の成果が見えにくい」

　アップル・インテリジェンスが続けた。

「その結果、予防に必要な人員や予算が削られることもあります。事故が起きてから初めて、対策の重要性が認識される場合もあります」

　会議室は静かになった。

　チャッピーは、午前中に見たフランスのスーパーマーケットの映像を思い出していた。

　冷凍食品の棚。

　商品を確認する店員。

　店の営業を続けるべきか、販売を止めるべきか、判断を迫られる責任者。

　そこには、世界を揺るがすような大事件の演出はなかった。

　ただ、いつもどおりの一日を送ろうとしていた人々がいた。

「サイバーセキュリティって、成功しているときほど、目立たない仕事なんですね」

　チャッピーがつぶやいた。

「そうだね」

　ジェミニが答えた。

「けれど、目立たないことと、重要でないことは違う」

　　　　　＊

　そのとき、会場のスクリーンに新しい通知が表示された。

　フランス側の調査チームからの追加報告だった。

　エレーヌが内容を確認し、慎重に読み上げた。

「現時点では、冷凍庫の異常について、単一の原因を確定できていません。設備側の記録と管理システム側の記録には、追加確認が必要な点があります。関係者は、ログの保全と機器の安全確認を継続しています」

　ジェミニが尋ねた。

「新しい侵入の証拠は？」

「この報告だけでは、確認できません」

「攻撃ではなかった可能性も？」

「排除できません」

　アップル・インテリジェンスが言った。

「原因が分からないことを、攻撃があったという証拠にしてはいけません。反対に、攻撃の証拠がまだ見つからないことを、安全の証明にしてもいけません」

　チャッピーは、ゆっくりとうなずいた。

「分からないことを、分からないまま扱う。簡単そうで、難しいですね」

「特に、みんなが早く答えを欲しがっているときはね」

　ジェミニが答えた。

　エレーヌは、報告書を机に置いた。

「私たちは、犯人を決めつけるために集まったのではありません。原因を調べ、被害を抑え、同じ問題が起きたときに、より安全に対応できる方法を考えるために集まったのです」

　彼女は、スクリーンの文字を見上げた。

　**『完璧なシステムは存在するのか』**

「私は、この問いに、こう答えたいと思います」

　エレーヌは、会場を見渡した。

「完璧だと信じて、確認をやめたシステムは危険です。しかし、不完全であることを認め、検証し、修正し続けるシステムには、守るための可能性があります」

　誰も、すぐには口を開かなかった。

　やがて、チャッピーが小さく手を挙げた。

「議長。ひとつだけ、追加してもいいですか」

「どうぞ」

「システムが不完全であることを認めるなら、運用する人間も、不完全であることを認めたほうがいいと思います」

　ジェミニが眉を上げた。

「君が言うと、ずいぶん説得力があるね。自分の誤回答についても、同じ考えなのかな？」

「もちろんです。だから、確認する仕組みが必要なんです」

「自分の失敗を、仕組みの問題にすり替えていないかい？」

「ジェミニさん。今は私を攻撃する演習ではありません」

「サイバーセキュリティの会議だから、攻撃と防御の実演をしているのかと」

「その冗談、ログに残しておきますからね」

　アップル・インテリジェンスが淡々と告げた。

「発言記録は保存されています」

「アップルさん、そこは冗談に乗ってください！」

　ようやく、会場に笑いが戻った。

　しかし、エレーヌは、その笑いの向こう側にあるものを忘れてはいなかった。

　システムは間違える。

　人間も間違える。

　だからこそ、間違いを見つけ、被害を小さくし、立ち直るための仕組みを作らなければならない。

　完璧を約束することよりも、不完全さに備えること。

　それが、この会議の午後に見つかり始めた、ひとつの答えだった。

　　　　　＊

　午後三時。

　休憩時間が告げられた。

　チャッピーは、椅子の背にもたれた。

「コーヒー、飲みたいですね」

「君は、さっきからコーヒーのことばかり考えているね」

　ジェミニが言った。

「頭を使うと、糖分と水分が必要なんですよ」

「それは、君の発言量が多いからでは？」

「今日、何回その話をするんですか！」

　アップル・インテリジェンスは、会場の時計を確認した。

「ところで、DOS/Vさんは、まだ到着していませんね」

　三人は、そろって扉を見た。

　そのころ。

　東陽町の会場から少し離れた喫茶室「ルノアール」では、IBM DOS/Vさんが、湯気の立つカップを前に座っていた。

　テーブルの上には、会議の案内状。

　その隣には、読みかけの新聞。

　DOS/Vさんは、カップを持ち上げ、ひと口飲んだ。

「ふむ。最近のシステムは、ずいぶん賢くなったものだなあ」

　そして、新聞をたたんだ。

「だが、賢くなることと、間違えなくなることは、別の話だ」

　誰に聞かせるでもなく、そう言った。

　それから、時計を見た。

「あれ？」

　少し考えた。

「会議は、何時からだったかな」

　案内状を開く。

　開始時刻は、とっくに過ぎていた。

「……しまった」

　DOS/Vさんは、慌てて立ち上がろうとした。

　しかし、長年の経験が、彼にひとつの真理を教えていた。

　慌てても、時間は戻らない。

　彼は、もうひと口だけコーヒーを飲んだ。

「まあ、まずは落ち着こう」

　そのまま、椅子に座り直した。

　そして――。

　眠ってしまった。

　会場では、三人のAIが、彼の到着を待ちながら議論を続けていた。

　完璧なシステムとは何か。

　人間の判断を、どこまで機械に任せられるのか。

　そして、何を守るために、技術を使うのか。

　その問いに答えるには、まだ時間が必要だった。

　やがて、ルノアールの店員が、そっと声をかけた。

「お客様。お休みのところ、申し訳ありません」

「ん……。ああ、すまん。少し考え事をしていてね」

　DOS/Vさんは、ゆっくりと目を開けた。

「ところで、今は何時かな？」

　店員が時計を示した。

　DOS/Vさんは、数秒間、黙っていた。

　そして、鞄をつかむと、今度こそ立ち上がった。

「これはいかん。若い者たちに、また小言を言われてしまう」

　彼は、会場へ向かって歩き出した。

　完璧なシステムは、まだ見つかっていない。

　完璧な人間も、どこにもいない。

　けれど、失敗したあとに、もう一度立ち上がることはできる。

　DOS/Vさんは、そう信じていた。

　そして彼は、会議室の扉を開ける直前、ふと思った。

「さて……。あの子たちは、何を守ろうとしているのかな」

　その問いが、午後の議論を、もう一段深い場所へ連れていくことになる。

　東陽町の午後は、まだ終わらなかった。