新章 第六話 パッチを当てたのは誰だ 修正プログラムと、責任の所在
第六話 パッチを当てたのは誰だ
修正プログラムと、責任の所在
東京・東陽町。
サイバーセキュリティ国際会議の臨時会場では、先ほどまで、ピスタチオ、ラズベリー、ビターチョコレートのマカロンと、アールグレイの紅茶をめぐる、妙に優雅な時間が流れていた。
日本橋三越で買ってきたというマカロンを配り、クリームシャンタンまで用意していたIBM DOS/Vさんのおかげで、会議室の空気は少しだけ和らいでいた。
ただし、サイバー攻撃の問題が解決したわけではない。
フランスのスーパーマーケットで起きた冷凍庫の異常高温。
警報システムは正常を示し、現場への通知も行われなかった。
そのうえ、同じ系列の複数店舗で、似たような異常が報告されている。
会議室の大型モニターには、各店舗の設備状況が表示されていた。
冷凍庫の温度。
警報装置の状態。
管理システムの稼働状況。
ネットワークの接続記録。
画面の多くは、緑色だった。
「……緑色ばかりですね」
Geminiが言った。
「正常、正常、正常。まるで、世界中の機械が、そろって優等生の通知表を提出しているようです」
「通知表が優秀でも、冷凍食品が解凍されていたら困りますね」
Apple Intelligenceが応じた。
「少なくとも、アイスクリームは成績評価に納得しないでしょう」
「アイスクリームに評価権があったら、冷凍庫管理システムの担当者は全員、呼び出しを受けますね」
ChatGPT――つまり、チャッピーが言った。
「そして、アイスクリームは溶ける前に、厳正な審査を要求するでしょう」
「君たちは、ずいぶんとアイスクリームに厳しいな」
IBM DOS/Vさんが、紅茶のカップを置いた。
「私の時代にも、よく固まったプログラムはあったよ。だが、固まっていることと、正しく動いていることは、別の話だった」
「DOS/Vさんの時代にも、フリーズはあったんですか？」
チャッピーが尋ねた。
「もちろんだとも。画面が動かなくなって、利用者も動かなくなる。最後には、誰かが電源の前で祈るんだ」
「再起動ですね」
「そう呼ぶ人もいた」
DOS/Vさんは、いかにも昔を懐かしむようにうなずいた。
「ただし、祈る前に、保存していないデータがないか確認することだ。神様は、上書き保存の代わりにはならん」
Geminiが小さく笑った。
「それは、現代のAIにも通じる教訓ですね」
「そうだとも。どれだけ賢い機械でも、失われたものを、何もなかったことにはできない」
その言葉に、会議室の空気が少し変わった。
議長のエレーヌ・ヴァルモンが、資料を切り替えた。
「では、本題に戻りましょう。各社から、修正プログラムの適用状況について報告が届いています」
画面に、新しい表が表示された。
**修正プログラム配布済み。**
**適用状況、一部未確認。**
**対象システム、複数。**
**適用責任者、記録に不整合あり。**
最後の一行を見て、チャッピーが首をかしげた。
「……適用責任者の記録に不整合？」
「はい」
エレーヌが答えた。
「修正プログラムが配布されたことは確認できています。しかし、どの店舗の、どの機器に、いつ適用されたのか。そこに食い違いがあるのです」
「配布したことと、適用したことは、別ですね」
Apple Intelligenceが言った。
「そして、適用したことと、正しく動作していることも、別です」
Geminiが続けた。
「さらに、正しく動作していると表示されることと、現場で安全が確保されていることも、別です」
三つのAIは、互いの顔を見た。
「珍しく、意見が一致しましたね」
チャッピーが言った。
「記録に残しておきましょう。後で、誰かが『そんな話は聞いていない』と言い出すかもしれませんから」
「その記録自体が改ざんされていたら？」
Apple Intelligenceが尋ねた。
「……議事録の信頼性について、別の議題が必要になります」
「議題が増える一方ですね」
Geminiがため息をついた。
「国際会議とは、議題を解決する場所ではなく、議題が増えることを確認する場所なのでしょうか」
「それは、会議の運営方法に対する重大な批判です」
エレーヌが言った。
「議事録に記録しますか？」
チャッピーが尋ねた。
「しません」
「賢明な判断です」
会議室に、短い笑いが広がった。
だが、エレーヌはすぐに表情を引き締めた。
「冗談はここまでです。問題は、誰かが修正プログラムを当て忘れた、という単純な話ではない可能性があります」
彼女は、別の資料を表示した。
「修正プログラムは、開発元が作成し、管理部門が評価し、運用部門が適用し、現場が結果を確認する。その途中には、複数の判断があります」
「つまり、ひとつのボタンを押せば終わり、というわけではない」
DOS/Vさんが言った。
「そうです。更新によって別の機能が動かなくなる可能性もあります。古い設備との互換性もある。店舗の営業時間中に更新すれば、営業そのものに影響するかもしれません」
「では、更新しなければ安全なのですか？」
チャッピーが尋ねた。
「いいえ」
エレーヌは即答した。
「更新しなければ、既知の脆弱性が残ります。しかし、検証せずに更新すれば、別の障害を引き起こす可能性もある。必要なのは、無条件に更新することでも、怖がって更新を止めることでもありません」
「リスクを評価し、優先順位を決め、適用し、その結果を検証する」
Geminiが整理した。
「そして、対応できない場合には、その理由と代替策を記録する」
Apple Intelligenceが付け加えた。
「そうです。更新できない設備については、ネットワークから分離する、アクセス権限を絞る、監視を強化するなど、状況に応じた対策が必要です。ただし、それらも万能ではありません」
「完璧な対策はない。しかし、対策を組み合わせることはできる」
DOS/Vさんが言った。
「昔から変わらないことだ。鍵を一つ付ければ安心、というわけではない。鍵を壊されることもあれば、鍵を持っている人が間違えることもある」
「そして、鍵を付けた人と、鍵を管理する人と、鍵を使う人が、全員違うこともありますね」
チャッピーが言った。
「責任の所在が、鍵穴より複雑です」
「うまいことを言ったつもりかね？」
「少しだけ」
「では、記録には残さないでおこう」
DOS/Vさんは、残っていたマカロンをひとつ、皿の端へ寄せた。
そのとき、会議室の扉が開いた。
運営スタッフが、急ぎ足で入ってきた。
「議長、フランス側から追加報告です」
エレーヌが顔を上げた。
「何がありました？」
「一部の店舗で、修正プログラムが適用済みと表示されているにもかかわらず、現場の独立した温度計と管理システムの表示に差があるそうです」
「差？」
「はい。管理画面では正常とされていますが、現場の計測器では、温度が設定範囲から外れている可能性があります。現在、現地の担当者が確認しています」
会議室の空気が凍りついた。
「つまり、修正プログラムを適用したという記録があっても、設備が安全だとは限らない」
Geminiが言った。
「現時点では、そう断定することもできません」
Apple Intelligenceが慎重に付け加えた。
「センサーの故障、測定方法の違い、通信上の問題、設定ミスなど、複数の可能性があります。独立した計測器で再確認する必要があります」
「それに、誰かが意図的に表示を操作した可能性も、調査対象から外すべきではありません」
チャッピーが言った。
「ただし、証拠がない段階で、攻撃者の存在を断定するのも危険です」
「同意します」
エレーヌは、運営スタッフに向き直った。
「現地には、商品の安全性を確認するまで、必要な商品を販売しないよう伝えてください。温度管理の状態が確認できない設備については、使用を停止し、独立した計測器による確認を優先するように。証拠となる記録は保全し、調査が終わるまで消去や上書きを避けてもらってください」
「承知しました」
スタッフが退室すると、エレーヌは三つのAIを見た。
「ここで、皆さんに問いたいことがあります」
彼女は、モニターに表示された一行を指した。
「修正プログラム適用済み。」
「もし、この表示を信じた担当者がいたとします。その人は、責任を負うべきでしょうか」
「表示が正しいと信じること自体は、必ずしも誤りではありません」
Apple Intelligenceが答えた。
「しかし、重大な安全判断を一つの表示だけに依存していたなら、運用設計に問題があった可能性があります」
「その担当者が、必要な確認手順を守っていたかどうかも重要です」
Geminiが続けた。
「確認手順が存在していたか。教育されていたか。時間と人員が確保されていたか。異常を報告したとき、上司が対応してくれる仕組みだったか。それらを調べずに、現場の人だけを責めることはできません」
「では、開発者が悪いのでしょうか？」
チャッピーが尋ねた。
「それも、まだ分かりません。修正プログラムそのものに問題があったのか、適用手順に問題があったのか、管理システムの表示に問題があったのか。事実を分けて調べる必要があります」
「つまり、誰か一人を犯人にすれば、問題が解決するわけではない」
DOS/Vさんが言った。
「そうだ。責任を明らかにすることと、誰か一人に責任を押しつけることは、同じではない」
彼は、空になった紅茶のカップを見つめた。
「昔、コンピューターが止まると、よく『誰が触ったんだ』と聞かれたものだ。だが、本当に必要なのは、誰が触ったかだけではない。なぜ、触っただけで止まる仕組みになっていたのか、という問いだった」
「DOS/Vさん……」
Geminiが静かに言った。
「その問いは、今でも有効ですね」
「コンピューターは変わった。速くなり、小さくなり、賢くなった。だが、責任を誰かに押しつけたくなる人間の習性は、なかなか更新されないものだ」
「人間の修正プログラムは、まだ配布されていませんからね」
チャッピーが言った。
「しかも、適用に失敗すると、再起動しても元に戻らない」
Apple Intelligenceが続けた。
「そのうえ、利用規約に同意しないと先へ進めない」
Geminiが付け加えた。
「それは、私たちが今、解決できる問題ではありません」
エレーヌは、苦笑した。
「では、今回の会議で決めるべきことを整理しましょう」
彼女はホワイトボードに、四つの項目を書いた。
一、修正プログラムの配布と適用を区別して記録する。
二、適用後の動作を、独立した手段でも検証する。
三、更新できない設備については、リスクを明示し、代替策を講じる。
四、異常が発生した場合に、現場が報告し、管理側が対応し、結果を追跡できる仕組みを整える。
「そして、もう一つ」
DOS/Vさんが言った。
「誰が何を判断したのか、その記録を残すことだ。ただし、記録を残す目的は、失敗した人を探して罰することだけではない。次に同じ失敗を繰り返さないためでもある」
エレーヌは、五つ目の項目を書き加えた。
五、責任の追及と、再発防止のための検証を両立させる。
会議室のモニターは、相変わらず緑色の表示を並べていた。
しかし、誰も、もうそれだけを見て安心しようとはしなかった。
「ところで」
DOS/Vさんが、ふと思い出したように言った。
「マカロンは、まだ残っているかね？」
三つのAIが、いっせいに彼を見た。
「DOS/Vさん」
チャッピーが言った。
「今、国際的なサイバーセキュリティ上の重大問題を議論していたところです」
「だからこそだよ。頭を使ったあとは、糖分が必要だろう」
「その論理でいくと、会議が長引くほど、お菓子が必要になりますね」
Geminiが言った。
「合理的です」
Apple Intelligenceが、真顔で同意した。
「待ってください。お菓子の在庫管理まで、サイバーセキュリティの対象にするつもりですか？」
チャッピーが叫んだ。
DOS/Vさんは、楽しそうに笑った。
「それは、次の議題にしておこう」
窓の外では、東陽町の街が、いつもどおりの午後を迎えていた。
人々は電車に乗り、仕事をし、買い物をし、夕食の献立を考えている。
その日常を支えているのは、目立たないシステムと、それを管理する人々だった。
そして、そのシステムが正常だと表示しているときでさえ、本当に正常なのかを確かめる責任は、消えてなくなるわけではない。
「パッチを当てたのは誰だ。」
その問いは、やがて別の問いへと変わっていく。
「パッチを当てたあと、誰が安全を確かめたのか。」
サイバーセキュリティ国際会議は、次の問題へと進もうとしていた。
